1927年8月13日，下野的蒋介石乘火车离开南京。临走时，送行的人很少，白崇禧、李宗仁、何应钦等大员一个没来，显得极为冷清。

彼时蒋介石深陷四面楚歌之境。宁汉分裂后，武汉的唐生智树起“东征讨蒋”大旗；北方，被北伐军击败的孙传芳投靠奉系张作霖，重整旗鼓后联合张宗昌的直鲁联军大举南下。内外交困之下，蒋介石决定先对威胁最大的孙传芳下手。

然而，这一决定在党内遭冷遇。桂系的李宗仁、白崇禧坚决反对，主张收缩防守；更令他心寒的是，黄埔系二号人物何应钦也站到了桂系一边。蒋介石怒不可遏：“孙传芳都快打到徐州了，必须北上先解决他！”

无独有偶，孙传芳那边也出了状况。张作霖建议他等张宗昌部队到位再行动，可孙传芳急于夺回地盘，甩开友军，仅率六万残部孤军南下。 7月23日，孙军攻占徐州，蒋介石震怒，亲赴前线指挥反攻，却大败而归。武汉方面趁机大肆宣传，通电南京要求严惩“败军之将”。为卸责，蒋介石找来军长王天培当替罪羊。王天培是黔军将领，北伐后部队扩充至四万多人，早成蒋介石和桂系的心病。

巧的是，此次处理王天培，桂系竟默许了。王天培素来服从总司令，接到开会通知便从前线赶回南京，却当场被扣押，随后押往杭州，罪名是“擅自撤退、克扣军饷”。蒋介石下野二十多天后，王天培被枪决。这表明，除掉王天培是蒋、桂共识，徐州兵败只是借口。

徐州一战，让蒋介石心有余悸。他在军事会议上改变主意，提出先打武汉的唐生智，解决内部威胁后再对付孙传芳。李宗仁、白崇禧再次反对，蒋介石一气之下撂下狠话：“不执行我的方案，我就不干了。”

李、白等人等的就是这句话，顺势表示总司令若不想干，不如“主动让贤”。蒋介石一句气话，竟被当场架了起来。此时，若有何应钦出面圆场，局面或许还有转机。可蒋介石看向何应钦时，他却低头不语，连他都倒向了桂系，其他人更不必说。这下，蒋介石不下野也不行了。他后来多次抱怨：“当时只要何敬之一句话，我是可以不走的。”

火车抵达上海，迎接他的人多了起来。站台上近百人中，除了吴忠信等旧部，上海“三大亨”黄金荣、杜月笙、张啸林也亲自到场。寒暄一番后，蒋介石前往奉化溪口老家，表面上闭门谢客、读书养性，实则天天盘算着如何杀回南京。

没几天，浙江省主席周凤岐派人送来五万大洋。蒋介石以为是老乡雪中送炭，还挺高兴，不料来人说，这是周主席送的“路费”，希望蒋先生拿钱后尽快离开浙江，别让他为难。

落井下石者不少，但趁机“投资”的聪明人也有。军长陈调元亲自送来十万大洋，还说不够再送。陈调元原是孙传芳的部下，北伐时率部倒戈。这笔钱，蒋介石记了一辈子，复出后立刻任命他为安徽省主席。

更让他欣慰的是，胡宗南、关麟征等黄埔一期学生联名通电，表示“与校长共进退”。蒋介石在本子上记下这些名字，他们后来也成了黄埔系中最早晋升军长、总司令的将领。

要翻盘，光靠记仇和记恩可不够。蒋介石很快想到了两条路：钱和权。他想起了江浙财团，也想起了尚未出嫁的宋美龄。下野同年秋天，他东渡日本，先拜见宋老太太以表诚心，转头又和日本政客勾兑。

据日本报纸披露，蒋介石亲口答应承认日本在东北的“特殊权益”，换取了日方支持。

1927年12月1日，蒋介石与宋美龄在上海举办盛大婚礼。这场联姻被美国《时代周刊》评价为“枪杆子”与“钱袋子”的结合。江浙财团的虞洽卿、张静江等人一看宋家成了“自家人”，银行账户自然向蒋介石敞开。

蒋介石在日本隔岸观火，国内果然乱作一团。他走后，李宗仁和唐生智在两湖大打出手，汪精卫在广东另立中央，北方的阎锡山、冯玉祥也和张作霖缠斗不休。

而李宗仁、白崇禧、何应钦主导的南京政府，没了江浙财团的支持，连军饷都发不出来。黄埔系的军队也只听刘峙、顾祝同等蒋氏亲信的，何应钦根本调不动。

等各路人马斗得精疲力竭，蒋介石的机会来了。北方的冯玉祥、阎锡山率先通电，请求他复出。汪精卫顶不住了，也发电报请蒋总司令复职。李宗仁见势不妙，只好改口拥护。一时间，“非蒋公不能收拾残局”的呼声四起。

1928年1月，蒋介石风光回到南京，重任总司令。在国民党二届四中全会上，他左手党权，右手军权，成了说一不二的人物。