引用国務と統帥の一致が得られないまま、小磯首相は本土決戦の準備をすすめなければならなかった。 大本営陸軍部は、三月中旬に本土決戦のための『決号作戦準備要綱』を策定し、二〇日に本土各方面軍の参謀長ならびに関係閣僚に内示した。 小磯内閣は、呼応して二六日、本土決戦のための国民義勇隊の結成を閣議決定した。 国民義勇隊は、当面は防空および防衛、空襲被害の復旧から重要物資の輸送、食糧増産などの臨時緊急を要する作業に国民を動員し、 情勢が急迫した場合には国民を武装出動させようという非常態勢である。 ところが、その命令系統をめぐって小磯首相と陸軍が対立し、陸軍の内部では陸軍省と参謀本部が対立した。 陸軍は、憲法を停止し、憲法によって保証されている国民の権利をすべて剥奪し、軍の統帥命令によって生殺与奪の権をすべて軍官の手に掌握し、 全国民を婦女子にいたるまで戦闘にかりたてようとした。 この計画について不一致はなかったが、参謀本部は、大本営を最高の指導機関とし、 内閣は大本営に付属しつつ軍の作戦方針によってうごく一行政機関たらしめようとした。 しかし、陸軍省は、それでは陸軍大臣も下級の隷属機関となってしまうといって反対し、 命令系統を陸軍省に確保しようとした。 小磯首相は、義勇隊を統裁する総司令部には首相みずからがあたるべきであると主張した。 小磯首相の主張は、中国にたいする和平工作としての繆斌を介した蒋介石との直接交渉が失敗し、 のこされた道が来るべき本土決戦において敵に打撃をあたえつつ、その機先を利用して和平の手をうつ以外になくなったとき、 国務と統帥の一致を要求するためにいっそうつよめられた。 彼は、かくしてひろく戦争遂行のうえで依然として未解決のままのこされていた国務と統帥のあいだの矛盾をもあわせて解決するため、 予備役から現役に復帰して陸相を兼摂しようとした。 首相は大本営の議に単に列するにすぎないが、陸相を兼摂するならば、 陸相としての本来の権限から大本営の決定に強力に参与することができるからであった。 ちょうどこのとき、陸相の杉山元が本土決戦のために設けられた第一総軍司令官に転出することとなった。 小磯首相は、いい機会だと陸相の兼摂を要求した。 しかし、陸軍は、予備役の現役復帰と陸相兼摂は絶対に承認できないといって拒否した。 戦争指導の方途をうしなった小磯首相は、四月五日、ついに内閣をなげだした。 彼は、とくに後継内閣は大本営内閣でなければならないことを強調しながら、辞表を提出した。

引用小磯内閣が退陣したのは、この四月五日であった。

総辞職の原因は――緒方竹虎国務相（戦後副総理、自由党総裁）が、 汪精衛政権の考試院長繆斌を通じて、重慶の蒋介石政権と直接、和平交渉をこころみようとしたのを、軍部が反対し、 その軍と一緒になった重光葵外相と対立、それで閣内不統一をきたしたからであった。