引用表面上、一触即発の空気は、五月一、二日にはなかった。 ところが、五月三日午前九時半、日中両軍の間で軍事衝突がおこった。 その原因に関する主張は、日本側と中国側とでは完全にくいちがっている。 日本側は、南軍兵士が『満州日報』取次販売店に乱入し、吉房長平を罵倒殴打し、 家財道具を掠奪したことにはじまるというのにたいし、中国側は、日本軍守備区域で一人の中国人が射殺されたことが 発端であるとしている。 戦争の原因について両者の言い分が一致するなどということは史上例がない。済南事件はこうしてはじまった。

済南市内での市街戦は五月三、四日の二日間で終わったが、参謀本部は、 「このさい断乎たる処置をとる」こととし、「南軍膺懲（こらしめる）」の方針を固めた。 五月四日の臨時閣議は、関東軍と朝鮮軍とから二個師団の増派を決定、 五月九日には名古屋の第三師団にも出動命令をくだし、約一万五〇〇〇名の兵員を補充して、 革命軍との徹底抗戦を辞さずとの態勢をととのえた。

日本軍は、九日から総攻撃を開始、済南城内に集中砲火をあびせ、一一日に済南城を軍事占領した。 この戦闘で、南軍は一般市民をふくめ死者三六〇〇名、負傷者一四〇〇名を出したのにたいし、 日本軍の死傷は死者二五名、負傷者一五七名であった。

引用蒋介石の北伐が再会され国民政府軍が済南に近づくと、 田中内閣は四月一九日久留米師団五〇〇〇名と華北駐屯第九師団の一部を派遣し済南を占領させた。 第二次山東出兵である。 済南の東北軍は国民政府軍と一戦もまじえず撤退したが、済南に勢ぞろいした日本軍と国民政府軍との間に五月三、四の両日戦闘が行なわれた。 日本軍は国民政府軍の内戦不干渉の要求を拒否し、特派交渉員蔡公時などの政府役人を殺害しながらも、 二〇名程の犠牲者が出たことを理由に、田中内閣は第五五議会が閉会した翌五月八日第三次山東出兵をきめ、 第三師団を派遣し、九日・一〇日の両日済南の総攻撃を行なった。 そのため中国側は三六〇〇人の死者と一四〇〇人の負傷者をだし、済南は壊滅した。