双方和谈破裂，蒋氏遂对孙再次用兵。与李宗仁、程潜、白崇禧等一起重新制定了军事计划，为《肃清江西计划》，下令张发奎、陈铭枢人马星夜入赣参战，将原兵力重新调整，兵分三路：左路军指挥官李宗仁辖第四军张发奎十二师，第七军夏威、胡宗铎部；贺耀组之独立二师；右路军指挥官朱培德，辖第三军和鲁涤平第二军；第十四军的两个师、第五军第四十六团。中路军指挥官程潜辖第六军。总预备队指挥官刘峙辖第一军、炮兵团。总指挥为******。作战布署为：左翼军肃清赣北，以主力进攻德安，截断南浔线，警戒九江方面敌之援兵；中路军自奉新、安义向南浔路进攻。右翼军目标是占领南昌，并堵截敌南窜入闽之路。总预备队随作战进程随时参战。总攻日期定于11月1日。在即将对孙传芳发动总攻击之际，10月15日，蒋氏以国民政府名义发表讨伐孙传芳之宣言。内称：
“……中国为四万万人民之中国，东南五省为中国行政之五省，任何人不得而私有，亦任何人不得而宰割也。今孙传芳利用保境安民之名义，取东南五省，为其私产，视东南人民为其家奴，承军阀割据之风，行鱼肉人民之实，如是而曰保境安民，是保孙传芳之境，安中国人民也。溯自孙传芳割据五省以来，摧残爱国青年，剥夺人民自由，残忍惨虐，难以数计。至于各种苛捐杂税，勒取米税，把持市政，销售鸦片，包苴公行，贿赂成风，使五省人民水深火热，不遑宁处。此次派入江西之逆军，尤到处肆掠，如袁州、临江、九江、南昌、抚州一带，受祸尤烈，妇女多被****、良善多被屠杀，老弱转于沟壑，闾阎变为邱墟，人民惶惶，朝不得夕，凄凉愁惨，目不忍视；此诚东南百年来未有之浩劫，而即孙传芳之所谓安民也。本政府此次出师北伐，本为打倒帝国主义走狗吴佩孚之反动势力，以巩固我革命根据地，业经迭次宣言。对于孙传芳，原欲以主义相感化，冀其翻然来归，湔洗旧染，盖本先大元帅仁恕之量，不欲苛求，且恐重苦吾民，故力谋缩小战区，不愿多方树敌也。江西之邓如琢，本受吴佩孚之委任，始则仇视本党，继则出犯湘，素惟吴佩孚之命令是听。江西毗连湘粤，当本军入湘攻鄂之初，江西兵力薄孤，我二三六军，本可蹈虚抵隙，歼灭邓逆，直出九江会攻武汉。所以不先入赣者，盖欲孙传芳之确实有所表示，自动驱邓，以减削吴佩孚之势力。不料本政府孚之以信义而孙传芳报之以仇雠，竟于我军与吴酣战武长之际，封闭我江浙党部，禁锢我东南党员，解散上海工会，禁止爱国运动，与三民主义为仇，为帝国主义作伥。本政府恐其迷而不司，屡电劝告，启之以自新之路，无如孙传芳阳为周旋，阴则倾其全力以抗犯我革命军，一方面假其保境安民之邪说，以欺弄社会；一方面则下令攻击，亟思袭取湘粤，以实现九省领袖之迷梦。观其八月三十日所下之作战命令，其狼子野心，殆已毕露，而不可复掩。本政府至此，乃始绝望于孙传芳，知其冥顽不灵，诚不可以道理喻，非加讨伐不可也。至其魑魅魍魉，乘危打劫之手段，投机取巧之惯伎，狡猾恶劣，犹为吴逆所不及。盖吴佩孚武力统一之主张，早为人民所痛恨；而彼乃代以保境安民之辞，以图其谬说，使人民尽入于麻醉状态，以消沉其元气。此种手段乃专主帝王，用以愚民之政策，其阴狡盖有甚于吴佩孚，至其分遣爪牙四出，运动我军内部，以名利为勾结，以妖言相煽惑，幸本军将士，笃信主义，上下一心，不为所诱，而其仇视我革命，设计之毒，盖可知矣。呜呼！孙传芳凭恃武力，割据东南，侵略湘粤，麻醉人民，阻挠革命，抗犯义师，仇视本党，残杀同胞，实帝国主义走狗，中国内乱之罪魁，三民主义之障碍，乃呈逆佩孚之第二，而人民之公敌也。先大元帅有言：‘北伐目的，不仅在推倒军阀，而在推倒军阀之人。’今孙传芳俨然继曹、吴而起，所赖以生存之帝国主义；不仅推倒曹、吴，而在使无继曹、吴而起，本政府责任所在，焉得不怕罪致讨，故特令我国民军于挞伐吴佩孚以后，移师东指，入赣以来，节节胜利，一月之中，业将孙逆传芳调赣之五师及十混成旅，犯粤之二师三旅，悉数击破，其中为我完全歼灭者，几过四分之三，所余残部，犹思负隅困斗，保其残喘，以贻害于江西者，流毒于我闽浙江皖之同胞……”
10月30日，******下达了总攻击的******，这时，川军杨森易帜于广东国民政府，******于10月23日发表命令，任命杨森为国民革命军第二十军军长。
11月1日，******指挥三路人马，杀向孙之联军，北伐军肃清江西计划开始实施。
先说左路军。战役发起后，李宗仁即令第七军向德安攻击，张发奎师和贺耀组师向回马岭进击。
时德安守军为联军陈光祖所部。陈料定北伐军必攻德安，即以少数人马守之，诱北伐军入城，然后由回马岭和南诗车站以优势兵力，南北夹击入德安之北伐军，以达到聚歼之目的。岂料张发奎、贺耀组率部于回马岭将联军击溃，回马岭之敌即向九江后退。
在张、贺二师长率部与敌激战于回马岭之际，联军两师人马于南诗车站下车，准备向德安进攻，实行其夹击之企图。李宗仁即下令第七军迅速投入战斗。时联军不仅火力强，且人数众。双方一场激战，七军之人马颇有动摇之现象。当双方拉锯战已呈疲惫状态时，白崇禧率预备队出击，联军大败，纷纷弃械而逃，第七军紧追不舍，直追到车站方停，这一仗，缴获人马器械无数。
次日，李宗仁令张发奎继续向星子方面追击敌兵，另派陶钧率兵两团，疾驰南昌，攻击牛行车站。配合第六军攻打南昌。
11月4日，蒋氏指挥人马在空军的协助下，占领了牛行车站。
这日傍晚，蒋氏总司令部在牛行车站附近宿营。因为战事，老百姓都跑光了，车站周围没了人，******和白崇禧便在车站散步，二人抬眼见不远处有一小庙，庙虽不大，却很整洁，并有炊烟上升，说明庙内有人，二人便信步来到庙前，进入庙门，见正殿供给神像，神像前香烟缭绕，二人定睛一看，正殿神龛中之神像，乃为关羽圣帝，但见这位圣帝赤面长髯，左右关平、周仓相卫。抱柱联文为：
赤面秉赤心骑赤兔追风千古常照赤日；
青灯观青史仗青龙偃月一生不愧青天。
蒋与白步入庙后，庙内的几个和尚见来了军官，又见有随从，知其官位必定不小，急忙相迎。蒋见了关帝圣像，立时倒身下拜。口中还念念有词。白崇禧也跪地叩首，其中一个年长的和尚见了，说：“长官，求个签吧，这庙里的签可灵验哩。”
蒋氏眼睛一亮，说：“拿过来。”
老和尚急忙捧过签筒，摇了摇，递给了蒋氏。蒋氏随后抽出一根签，递给了老和尚，老和尚接过来，看了看，见是第40签，遂念道：
“离地着人岁丈深，提防偷营劫寨人，后封太岁身凶煞，时加谨慎祸不侵。”
和尚念完之后，问将氏道：“请问将军问何事？”
蒋氏道：“问战事的胜败。”
和尚道：“这一卦是‘二人争路’，从卦上看是中平，不过要走好了，还是好卦。”又念道：“二人争路未肯降，占着逢之费主张。”念完之后又说：“若问战事，要提防劫寨偷营。”
蒋氏听了，微微点了点头。转身叫随身副官江志航给了老和尚二百元纸币，又谢过老和尚，这才出了庙门，回到军中。
蒋氏与白回到宿地后，时天色已晚，蒋脚步未稳，即要白崇禧调来两团，靠近司令部，以防敌兵劫营，白氏也素信谶讳之说，遂令预备军两团人马速至牛行站。
说来也巧，这天深夜11时许，南昌城中的卢香亭师，派出了一团人马，又从城墙的地沟中钻出，直扑牛行车站蒋氏的司令部。时蒋氏的司令部仅有蒋、白二人的两个卫队，双方接火之后，蒋、白方面情势甚紧，蒋氏正焦急之际，预备军的两团人马赶到，当即投入战斗。黑夜之中，敌军摸不清北伐军之虚实，慌忙败逃。这一仗，敌军偷营人马不仅被打死了许多，还被北伐军俘获了团长以下官兵千余人。蒋氏的卫队副队长被打伤，白崇禧的卫队长被手榴弹炸死。白亲自审问了俘虏的团长，白问：“你们是哪一部分的？”
答：“是卢师五旅三团。”
问：“此举目的为何？”
答：“探明北伐军总司部在牛行车站，特来偷劫。”
问：“愿立功赎罪吗？”
答：“只要不杀，愿意立功。”
******、白崇禧从俘虏口中摸清了南昌城中敌情，急令李宗仁、程潜率所部人马由南浔路上南下，11月7日，蒋氏下了总攻击令。南昌城外围守敌因面临孤立无援境地，急忙撤退。时距南昌北的乐化敌军彭德铨旅正与蒋氏人马交战，南昌城外的撤兵行至乐化车站时，偶而走火，其前方作战部队误认为北伐军已抄至背后，当即纷纷后退，不久就波及整个乐化车站彭德铨的第六混成旅，紧接着又波及到卢香亭总部所在地涂家埠。时卢香亭见人马纷纷后退，也听不到枪声，派人找邱伟发电报询问，然邱已不知去向。卢香亭几根黄须向上一翘，说：“我们也走吧，到鄱阳县集中。”
卢军不战而退，南昌成一座孤城。11月7日，******下了攻南昌的总攻击令，白崇禧率队追击卢香亭撤退之人马。追至汉口附近时，正遇河内涨水，卢军不能渡河，2万余人悉数被俘。南昌城内之守敌仅3000人，自知不支，闭门不战。******下令要城内之联军“限令克日出城”。8日，城内联军仍不投降，蒋乃下令朱培德率队攻打，至中午，城中联军仍不投降，蒋乃下令朱培德率队攻打，至中午，城中联军高挂白旗。南昌城遂被北伐军攻克。至此，孙传芳在江西的军队被全部歼灭。
蒋氏人马入了城，城中各界人士和百姓敲锣打鼓，夹道欢迎，但见三街六巷，人山人海。蒋氏骑着高头大马，十分得意。蒋氏得了南昌，不忘小庙求签之事，当即命令兵站总监俞正鹏派人给老和尚一笔款，要老和尚重修庙宇，再塑金身，以谢关老爷指点之大恩大德。
南昌克后，守九江之周凤岐部投降了北伐军，周之所以倒戈，是因其没有当上浙江总司令，对孙氏怀恨在心，叛孙附蒋之心已久。南昌克后，周遂率师倒戈，并扣留了联军由南京运来的一船货物。联军第二、四师撤退中，得知周易帜，只得绕道而行，退到吴城镇时，李宗仁率第七军至，将吴城镇团团围住，李遂派代表谈判，保证不伤害一兵一卒，不搜腰包，缴械后以同志相待。时骑二团第三营营长张时战不让缴械，其疾言厉色道：“联帅交给我们的武器，是叫我们来打敌人的，怎能把武器交给敌人？是联帅的好部下，跟我去与敌拼。”然跟其走的，仅两名卫兵，其即被人击毙。
继周凤岐易帜后，陈调元、王普亦易帜附于广州。
孙传芳自战胜奉军后，骄气横溢，坐镇五省，目中无人，根本没把******放在眼内。蒋、吴大战，孙按兵不动。其联军共15个师，9个混战旅，其中7个师和2个混成旅为其基本队伍。除福建周荫人可与其共命运，余皆为权宜结合，胜则相附，败则相离。蒋、孙交战，孙所定的一切方略，均不与卢香亭、谢鸿勋、王金钰等相商，故失败定矣！
孙传芳见联军全面罢战，士气低落，知道根本原因是不愿为邓如琢打天下，倘再迟迟不决，势必酿成全军覆没，遂下令人马退入浙苏皖。时福建之周荫人亦被北伐军何应钦之人马击败，周电孙请示办法，孙示周相机撤往浙西。于是，周所部苏延的第十二师，蒋启凤的第十三师，周荫轩的独立旅、闽省督署官员们，都撤到金华、兰溪一线。时何应钦挥动人马由赣东跟至浙西后，想趁周部喘息未定，将其一举歼灭，不料双方接火后，反被周部包围，何部团长钱俊亦被俘。
孙传芳自九江退至南京，一番思索之后，深感自己处境有腹背受敌之危，遂决定与奉系捐弃前怨，其决定去天津，面见张作霖，化敌为友。这天，孙暗派侍从副官到浦口铁路管理局，以送姨太太去天津之名义，要了一辆专车。翌日清早，孙仅带一名副官，潜行离开司令部，由浦口登火车前往天津。行前，孙于办公桌抽屉内留了一张纸条，内云：
“我去天津会张雨亭，前方战事请参谋长协助卢总司令调度指挥。”
孙秘密走后，总司令部内不见其踪影，且谁也不知去，顿时慌乱起来，参谋长刘宗纪向各处通电话询问联帅，皆回答不知，连公馆内两位夫人及姨太太也都惊慌起来，向参谋长追问孙之去向。刘宗纪抓耳挠腮，无法回答。一时间，公馆内外议论纷纷，莫衷一是。最后，刘从孙的抽屉里找到了孙之手令，众人之心才稍定。
在孙传芳微服抵津前，曾派代表拜见过张作霖。
张作霖自吴佩孚人马被北伐军连连击败，孙传芳五省联军亦在江西连遭大败后，深感时局发展将于己不利，遂于10月11日由奉天到天津。其入关之目的，一想趁机使己成为北京政府的首脑，一想纠集各方军事力量，对抗国民革命军。11月14日，张作霖于天津其住所蔡园召开了会议，到会的有吴佩孚的代表、孙传芳的代表、张宗昌及奉军高级将领，阎锡山的代表亦应邀参加了会议。会上，张作霖首先表白其决无做总统之野心，他入关只为如何团结北洋各军，对抗冯、蒋。张言罢，张宗昌首先发言道：“兵贵神速，唇亡齿寒，我们援助朋友，也是保卫自己，各位朋友不必再有什么误会了。大家联手对付****军。”
会上，张作霖提出由奉军援吴，直鲁军援孙。然来参加会议的孙、吴代表是向张求助军饷的，对于奉鲁出兵相援，不敢作主。张作霖听了，怒斥吴、孙代表道：“尔等不能代表吴玉帅、孙联帅，就请吴玉帅、孙联帅派能作主的代表来！”
就在这时候，11月19日，孙传芳微服抵津。孙传芳到了蔡园张公馆大门口，递上了一张名片，门卫一见是孙传芳来拜谒张大帅，赶紧通报。张作霖和在座奉鲁将领闻孙微服前来，无不愕然。时杨宇霆主张扣住孙传芳，将其枪毙，以报当年之仇。张作霖听了，斥杨一番。经尔传令相接。孙张二人见面。互致问侯后，孙道：“大帅如记前隙，就将我毙了，如以国家安危为怀，我愿与大帅商议打败北伐军之计划，以消灭赤党之祸。”
张作霖乃吃软不吃硬之人，听孙之语，大为动容，起身道：“馨帅言过了！出兵讨赤，乃是我们的责任。”
孙传芳道：“如今江苏、安徽两省，我已无力去保，就请雨帅、效帅率兵南下，苏皖两省从今交两帅主持。”
张作霖摆手道：“我们出兵为讨赤，至于讨赤成功，东南各省当然还是奉还馨帅主持，我们岂可乘人之危，夺他人之地盘。”
孙传芳听了，也很动容，谓张道：“雨帅，效帅，我们吃小麦的人，和吃大米的南方人，永远合不来。”
接着，张作霖要孙谈谈军事打算。孙表示愿献出江苏让鲁军接防。张宗昌起身道：“馨帅，我张宗昌从不乘人之危，趁火打劫别人地盘。我的军队开到浦口后，即换乘轮船开往前方，决不经过南京！”
孙听了张宗昌之语，更受感动，其道：“为统一军事组织对付赤党，我意组建统一的全国军队，由雨帅为大元帅，指挥全国兵马，与赤军决一雌雄。”
孙之建议，得到奉、鲁各将领的交口称赞。接着，继续讨论军事问题，经过各方讨价还价，最后确定，鲁军布防于津浦线上，负责保守安徽和长江北岸。
吴佩孚兵败汉口，退至郑州，孙传芳失去五分之二的地盘，微服北上，向张低头，张作霖于天津蔡园召开军事会议，决定奉军、直鲁联军南下，然吴佩孚不似孙传芳能低首俯就，依然故我，不仅不去参加会议，亦不肯答应奉军假道。其发电于张，内称：
“此时将领中感于风传，有假道灭虢之虑，弟如视兄尚有可为，请稍助饷械，所其自谋，否则可令汉卿自来取之，兄当遁迹世外。”
张学良亦派人前往吴处疏通，然吴仍依然如故。而此时吴的部下寇英灰却对奉张联络，特派使者赴津。时吴由在津参加军事会议的代表为熊炳琦，熊不得要领，不敢对奉张表示。张作霖遂派了张景惠、田中玉、鲍贵卿、许兰洲4人于11月29日下午由天津赴郑州，向吴接洽。同时奉张派人赴保定迎曹锟，以便由曹锟从中周旋。
吴佩孚对天津会议表示沉默。
奉张对阎锡山联络密切，阎应承派兵援陕阻冯，并愿拥护张作霖入主中央。
张作霖等于天津会议期间，北京的内阁亦动荡，11月20日，顾维钧在阁议席上提出要辞职，当晚由杜锡王圭代表内阁赴天津向张、孙表示，时奉张没有改组内阁的打算，愿支持现内阁。顾闻之，亦于当日赶赴天津，与奉张就商一切。顾由天津返京后，即召开了阁议，然此次会议不欢而散。由张宗昌、张学良的赌友潘复出任了财务总长。时天津方面又传出拟请赵尔巽或郑谦或靳云鹏过渡，28日，顾终于发表了辞职通电。其电云：
“维钧于佳日通电乞退，沥陈艰阻，尽出至诚。所以迟徊不欲遽去者，以当时比约虽告失效，而善后办法，尚少端倪。且日本之复牒未来，西班牙之约期又满，此皆国家安危所系，非苟忍须臾，无以对我全国父老，以故慰勉同僚，暂支危局。棼丝既理，接淅可行。盟誓不谕，肝胆相照。今幸荦荦大端，粗云就绪。维钧等虽曰待罪，差右息肩。旬日以来，纵叠荷诸公以大义相规，毅力为助，而此后折冲樽俎，非有健全政府，窃恐险象骤生。至于中央财政，濒于绝灭。若再无根本之图，尤足贻误国事。维钧等一再讨论，意见相同。深望诸公顾念中枢，毋忘告朔，早定方策。力振难危。不胜大幸拜嘉之至。顾维钧、汤尔和、潘复、蒋雁行、杜锡王圭、罗文干、任可澄、杨文恺、张志谭。勘。印。”
当日，阁议即停止。翌日，张作霖、吴佩孚复电慰留。张作霖慰留电云：
“勘电敬悉，国事阽危，支撑不易，负重至远，端赖荩筹。值此险象环生，所望艰难共济，尚请同支危局，勉维其难。不特中外观瞻，抑亦国人所仰望也。特以奉复。张作霖。艳。印。”
吴佩孚慰留电云：
“勘电奉悉，军情紧急，人心在群疑震撼之际，国事在瞬息万变之余，中枢为国命所依，政府乃观瞻所系，苟可须臾坚忍，尚希坚忍撑持。即论个人，既大难之当前，复高蹈之何益？故鄙意贵院在军事期间，以勉强维持现状为最妥。延法统于一，息浮议于一时。正尊电所谓顾念中枢，无望告朔者也。谨布区区，尚祈垂察，至幸至幸！吴佩孚。艳。印。”
张、吴虽然挽留，然内阁已名存实亡，国务会议无法召开，中央政事完全停顿，顾维钧进退维谷，杜锡王圭离京而去，罗文干、汤尔和、任可澄等均表示不再复职。惟潘复尚逐日到部办公。
11月30日，在孙传芳、张宗昌操办下，以直、鲁、豫、苏、皖、赣、浙、闽、晋、察、热、绥、吉、黑、辽15省区联名推戴形式，推戴张作霖为“讨赤军”总司令。当日，由孙传芳领衔，阎锡山、商震、寇英杰、刘镇华及奉系将领共16人，联名发出拥戴张作霖的通电，称：
“天津张雨帅鉴：赤逆披猖，黔黎困蹙，纪纲失堕，邪说横行，凡有良知，莫不惯激，传芳等仗义讨蒇，义不容辞，然成城有志，束箭弭坚，自非有统一之谋，难收提纲挈领之效。伏审我公，公忠体国，视民加伤。四海威加，万流敬仰。当经集议研讨，询谋佥同。谨愿拥戴我公为安国军总司令，统驭群师，同申天讨。挽颓波于既倒，媲时雨之来苏。以冀扫荡逆氛，扶持国本。主等当躬率所部，待命前驱。白敫日照临，丹心不泯，即请俯顺众意，勉抑谦光。克日就职出师，以解人民倒悬之厄。国家增甚，谨电，伏气鉴察！孙传芳、吴俊升、张宗昌、阎锡山、商震、寇英杰、陈调元、张作相、卢香亭、韩麟春、高维岳、周荫人、陈仪、褚玉璞、汤玉麟、刘镇华同叩。三十。印。”
12月1日下午3时半，张作霖身穿大礼服在天津蔡家花园就任“安国军”总司令——原为“讨赤军”后改为“安国军”。张跪拜祭天，在津将领均往踵贺。在孙传芳、张宗昌一唱一合和众将的循声响庆下，张作霖半推半就地就任了安国军总司令之职。张发表了就职宣言，称：
“吾人不爱国则已，若爱国非学信圣道不可，吾人不爱身则亡，若爱身非消灭****不可。”
同日，张作霖发表就职通电，并任命孙传芳、张宗昌为安国军副总司令，杨宇霆为总参谋长。
奉张原想请吴佩孚出任副帅，然吴竟然不答。张就职后即发电于吴，内称：
“北京陷于无政府状态，军事上不足以资号召，请将尊见示知。”
然吴仍反映冷淡，奉张遂再派张景惠到郑州见吴。奉张向吴提出了三个条件，一是自己反攻武汉，或者同意奉军假道南下作战；二是请吴来京主持“中央政治”，三是请吴以上将军我义主持将军府事务。对于此三点，吴皆不从。
12月5日，张作霖又致电于吴，称：
“敝军南下讨赤，发动在即，决不计较地盘，请向贵部解释，兄如能团结内部如期反攻，则敝军亦可终止南下。”
就在张、吴互相讨价还价之际，吴内部矛盾又发，何等矛盾，暂且不提。
孙传芳自天津返回南京后，即于12月3日发表就职安国军副总司令的通电。参谋长刘宗纪即向孙汇报了各省之战况，孙谓刘道：“鲁军三个军即将赴前线参战，鲁军到后，可将次要方面任务交给他们。”接着，孙召开了紧急军事会议。会议中，各将领都主张和革命军大战一场，以决胜负，一面严守浙边，防阻革命军由江西进入浙江。一面对部队进行整编，陈调元为安徽总司令兼省长，令徐州总司令陈仪仍兼第一师师长，扬州总司令卢香亭仍兼第二师师长，南京卫戍司令周凤岐仍兼第三师师长，上官云相为第四师师长，杭州总司令孟昭月为第五师师长，刘凤图为第六师师长，梁鸿恩为第七师师长，崔锦氵桂为第八师师长，上海守备司令李宝章仍兼第九师师长，淮南镇守使郑彦仍兼第十师师长，马葆珩为第十一师师长，陆殿臣为第十二师师长，刘士林为第十三师师长，李俊义为第十四师师长，阮肇昌为第十五师师长，芜湖镇守使王普仍兼第三混成旅长，杨士荣为安庆守备司令，白宝山为海州镇守使，马玉仁杨州镇守使，张仁奎为南通镇守使兼独立旅长，李养斋为独立旅长。共计14个师4个独立旅，近30万人。孙一番整编后，各高级将领大都为嫡系。其实力虽受到北伐军的重创，然其势力对军阀派系的得失、消长仍处举足轻重之地。
由于鲁军将占津浦路，孙无后顾之忧，遂调驻徐州之陈仪第一师开赴浙江作战。陈将人马带到肖山县后，即电告孙，说其部下不听其指挥，无法执行作战任务，实际上陈仪也投了北伐军。接着，独立炮兵旅旅长张国威也投了北伐军。这些情况发生，打乱了孙的作战计划。时孙亦顾虑白宝山、马玉仁、张仁奎三个镇守使，缘这三个人都是地方势力，又是青红帮头子，成事不足，败事有余。
于是，孙传芳在松江召开的军事会上，宣布了联军与奉鲁军结成联盟。各将领对此举也只得同意。
11月初，张宗昌率部与孙传芳部于津浦线上一场恶战，鲁军大败，施从滨俘后被杀，徐州为孙占领。
时冯玉祥派岳维峻由开封至徐州谒孙，请孙出兵攻鲁，冯部亦由此攻打，然孙不想再战。吴佩孚亦派高洪恩携款5万元由汉口抵徐州，慰劳孙军，孙因已无求于吴，故漠然视之。
孙、张交战，百姓遭殃，恨道：
“张宗昌坐山东，山东起了雄，南北战，两下争，徐州交了兵，交兵两三月，死得乱哄哄。”
孙传芳不攻张宗昌，冯玉祥之国民军第二军岳维峻部却对山东垂涎，其决定单独进攻山东。1925年11月11日，其两路进攻山东。张宗昌偕同褚玉璞赴前线。双方伤亡惨重。直系将领靳云鄂被俘，张为讨好吴，将靳释放。在鲁豫战争刚一开始时，张宗昌即派童好古为代表，携其了张济乐抵汉口谒吴，童好古谓吴道：“冯玉祥系大家的公敌，国民军如果打下山东，那么，直、鲁、豫、陕、甘几个省和察、热、绥三特别区联成一片，就势不可挡了。这对雨帅效帅固然不幸，于您又有什么好处？如果冯焕章称雄华北，左右大局，到那时后悔都来不及了。”又道：“张督办誓愿尽弃前嫌，质子修好，通力合作，把冯焕章打下去。”
童之游说，打动了吴，吴当即欣然允诺，并道：“以子为质，大可不必。”并派员将张子送回。并致电靳云锷，谓：“鲁省关系重要，可相机办理。”
靳去锷感谢张不杀之恩，再加上李景林从中疏通，遂按兵不动，岳维峻见战势已如此，本想挥兵再战，但以祸起萧墙，势孤力单，只好撤退，鲁豫之战结束。
鲁豫之战结束后，张宗昌整编军队，将人马编为10个军。12月5日，张令山东各社会团体发电公推自己出任山东保安司信。5日为“歌”日，其电为“歌电”，电曰。
“鲁当南北要冲，为中外通商大埠，外交内政均关重要，军兴以来，亟应保境安民，共图自卫。现在政府已不能行使职权，山东人民陷于兵祸之中，水深火热，呼吁屏门。我鲁人为全省治安计，已公举山东督办兼省长张宗昌为山东保安司令，纵操鲁省公共治安，并实行鲁省自治。任何方面军队，借口侵入，定即合力抵御，以免扰害地方。在中央政府未完全恢复政权之先，无论有何命令，概不承认。”
10日，张宗昌宣布就任山东保安司令。并宣布“实行鲁省自治”，取消原奉军之名义，人马编至11个军，另编14个梯队。至此，中央一切政令，张均不从。
1926年初，吴、奉、鲁、晋联军与冯玉祥国民军展开大战。2月10日，张宗昌出任吴佩孚委派的“讨贼联军”鲁军总司令和直军总司令。3月初，国民军岳维峻部被联军击败，24日，张宗昌、褚玉璞、张学良等占了天津。4月18日，奉、直、鲁联军进占北京。段祺瑞下台，张作霖和吴佩孚为争********激烈争吵。最后采取了一个折衷方案，以海军总长杜锡王圭代行国务总理“摄政”。8月1日，奉、鲁、吴、晋联军与国民军于南口展开大战后，国民军大败。
8月19日，杜内阁授张宗昌为义威上将、陆军上将。
国民军败后，吴、奉、鲁各家关系立时又变得扑朔迷离，真真假假。张不断向吴递秋波，但也不愿得罪奉，奉、吴关系却顿显紧张，但也不去撕破面皮。
早在7月11日，北伐军攻克长沙，之后又克岳州，吴军大败。吴之溃败，使奉张和张宗昌不得不研究军事发展。9月上旬时张作霖在奉天召开军事会议。会上，吴俊升主张闭关自守。张宗昌却认为应趁此机以援吴为名占据直隶、河南地盘，张作霖采纳了张宗昌之建议，遂以张为援吴军总司令，褚玉璞为前敌总指挥，张学良为预备军总司令。
9月13日，张宗昌返回济南。国民党人丁惟汾游说杨度，要杨策反张宗昌附南。时杨度已充当了张宗昌督署的参军。
杨度，字皙子，别号虎公，号虎头陀、虎禅师。湖南湘潭人。1874年（清同治十三年）生。早年肄业于衡山东洲书院。1894年甲午科举人。1902年赴日本，入东京速成师范学校。课余主编《游学译编月刊》，11月返回，翌年以四川总督锡良荐试经济特科，初试名列第一名。后被指为康有为、梁启超余孽，遭拿办，逃匿上海，重渡日本。1905年任留日中国学生总会干事长，10月五大臣出洋考察宪政，途经日本，随员熊希龄特委译述各国宪法及政制。1907年归国，翌年以候补四品京堂在宪政编查馆行走。1911年9月任清廷内阁统计局局长。10月任学部大臣，旋奉旨开缺，与汪兆铭组国事共济会，未几宣布解散。南北议和时，任参赞，随唐绍仪与民军议和于上海。袁世凯闹帝制时，杨承袁之意发起组织筹安会（同年10月改组为宪政协进会），鼓吹帝制，自任理事长。与孙毓筠、胡瑛、李燮和、刘师培、严复并称洪宪六君子。袁贼死后，黎元洪继任大总统，7月下令缉拿帝制祸首杨度8人，杨逃居于青岛。1918年缉令撤消。杨此后即于京、沪间居住，其思想日趋进步。丁惟汾知张宗昌见重量于杨度（张呼杨为“张子房”），便游说杨劝张附南。杨度也想在军阀中挑拨离间，遂欣然应允。
杨度到了济南，向张宗昌进言道：“吾纵观天下，今南方代表进步势力，其势盛，奉直乃强弩之末，必定失败，效帅当识时务，早做打算。成败乃转念之间事，切莫错过良机。”
张宗昌乃反复无常人，惯于投机取巧，看风使舵，每当政局纷乱时，总是眼观六路，耳听八方，杨之语，张听了，深为所动，遂决定派其参谋长金寿良出使南方，与广州方面相约，赶走孙传芳。计议甫定，9月20日，张学良未曾电告即突然来济南，见张问道：“听说兄要参加国民党？”
张性亢爽，张学良一问，立即将胸中蕴秘脱口道出：“不错，有这事，不知我弟怎么知道了？这都是皙子给我出的主意。”
张学良道：“兄当以团体利益为重，不要单独举措，以免自相分割，贻笑他人。”
张唯唯，一词莫置。时杨度好友薛子倚于一侧，张学良怒谓薛道：“你先告诉皙子，不要乱出主意，当心他的脑袋。”
杨度闻后叹道：“竖子不足为谋。”随即脱身出走。后张宗昌兵败，东亡日本，追忆此事，感叹道：“吾悔不听皙子之谋，始有今日。”张原想邀杨东渡，共商大计，为杨所拒，此后话不再提。
张之“附南”之意瞬间息后，即欲发兵南下，然吴佩孚一眼看出奉张之“用心”，遂称其尚有“雄兵十万”，“谢绝”奉张好意。
10月1日，杜内阁为张宗昌搞垮，张亦秉承奉张旨意，不待吴佩孚同意，即布置了直鲁联军，兵分6路，南下“援鄂”。吴晓后大惊，急派人至济南谒张，请张停兵南下。张依之，令南下纵队停止前进，并于10月初派意好古、常之基携运子弹50万、现款5万接济吴，接着又派人送吴大批枪械弹药，并至电于吴，表示“合作推戴，至死弗谕。”
时山东济南各省代表麇集，成了北方军阀政治活动的中心。张宗昌不断发表“讨赤”演说，提议建立“直鲁豫陕晋五省联盟”。并招兵裕饷，厉兵秣马，大有与南军决一雌雄之势。
10月29日，孙传芳电张宗昌，表示“合作讨赤”，张也当即复电于孙，谓其“信义如昭日月，同心誓若山河”。表白了其与孙同心讨赤决心。
张、孙二人正暗通声气时，张作霖赴天津于蔡园召集军事会议。孙、吴、阎各派代表参加，期间孙传芳微服私访。会议定下了奉军援吴，鲁军援孙的大计。
