北京政变后，孙中山感到曹吴倒台，废帝被逐，确实发生了有利于革命的变化。他本着和平统一全国的初衷，认为，根本之图，尤在速谋统一，以从事建设，庶几分崩离析之局，得以收拾，长治久安之策得以实施，孙中山是反直三角同盟中一员，段、张先后邀请他北上讨论时局问题，冯玉祥在北京政变后也电请他北上主持国事，又派马伯援持亲笔信南下迎接孙中山。因此，他权衡轻重，决定即日北上，共筹统一建设之方略。他任命胡汉民留广州代行大元帅职权，以谭延闿为北伐联军总司令，主持北伐。
11月13日，孙中山偕宋庆龄以及随行人员汪精卫、李烈钧、陈友仁、邵元冲等30多人，乘永丰舰离粤。抵香港后，改乘日本邮船春阳丸号赴上海。
孙中山行前决定于黄埔视察。当他莅临黄埔军校时，学校全体师生列队欢迎于校门外码头。军舰至时，军乐大作，蒋介石登舰恭迎。而后，于校内巡视一周，又参观了1、2期学生演习。看毕，一番称赞后谓蒋氏道：“余此次赴京，异常危险，能否归来，尚不一定。”言罢又叹道：“余年已59岁，虽死亦安心矣。”
蒋氏听罢，为之愕然，遂道：“先生何出此不祥之语？”
孙中山平静答道：“此为余盖所感而言也。今观黄埔军校学生能忍苦耐劳，努力奋斗如此，必能继吾之革命事业，实行吾之主义。凡人总有一死。”稍停又道：“若2、3年前余即不能死，今有学生诸君，可完成吾未竟之志，则可以死矣！”又道：“此次北上，无论成败，决不回来，革命大任，要黄埔同志负之。”
蒋氏听到孙中山又提到死，心中愈加不快。不想此次北行，“预感”竟成事实。
当天，蒋氏于校内设宴相送。宴会之后，已抵黄昏，孙中山遂登舰在俄国兵舰护卫下，离黄埔往香港。不想与蒋氏此次之别，竟为最后一面。
时随孙中山北上者有汪兆铭、陈友仁、韦玉、邵元冲、朱和中、黄昌毂、陈耀祖、张乃恭、喻毓西、赵超、邓彦华、马湘、黄惠龙、吴雅宽等。
17日晨，孙中山一行抵沪，冯玉祥的代表马伯援登上“春阳丸”，谒见孙中山。时中山面呈苍白，似很疲倦，然其听了马伯援的人远心近之语，表示甚喜。
到吴湘口欢迎的还有于右任、石青阳、戴传贤、杨庶堪、宋子文、蒋作宾及段祺瑞的代表光云锦、齐燮元的代表凌铁庵等20余人。此外于码头上欢迎尚有万余人。中山先生上岸时，叶楚伧率众高呼“中国国民党万岁”等口号。中山先生向众微笑，颔首示意。乘汽车至莫里哀路29号本宅内休息。
欢迎群众又拥至孙中山的寓所。时他已重病在身，不忍辜负群众、仍支持立于门外小凳上挥手答谢，过了若干分钟，才在警卫恳求下，向群众颔首并挥手告别，回客厅休息。英方的《字林西报》，美方的《大陆报》都发表文章对孙中山刁难指责，法租界巡捕亦对欢迎孙中山的队伍加以阻拦。孙中山对各帝国主义之行径，甚为愤慨。当即招待新闻界，发表声明，谓其此次北上是以诚意谋求和平统一。并发表书面谈话，道：
“余关于时局之意见及国民党政策，当由粤起程之际，已经发表，无庸再赘。《字西林报》社论主张拒绝余入上海租界，从外人而为此言，殊属不合。上海为中国领土，吾人分明是主人翁，彼等不过吾人之客也，余对之当采取坚决手段，现已有此觉悟，今也已达到彻底废除一切在华外国租界之时代，吾人为贯彻此目的，不惜一切之努力，中国国民已不能忍受外侨在中国领土内之跋扈矣。又外国报纸中有谓余在北方时局定安之前，暂在此观望形势，中止北上者，此言殊谬，盖时局不定，余北上始有意义。关于天津领袖会议之内容，余尚未接到段芝泉之报告，万事俟余抵津后再行协议。”
时上海不少人劝孙中山最好不要北上，谓北上凶险。孙中山道：“我这次往北方去，所主张的办法，一切均和段、张的利益相冲突，大家可以预料我很有危险，但我是为救全国同胞，为和平统一，为开国民会议而去冒这种危险的。”
遂不听众人相劝，而北上决心却愈坚。孙中山又与冯玉祥代表马伯援相谈，并向马讲了北上之决心。马当即电告于冯。
是日，孙中山要汪精卫、马超俊等先行北上。由于军事原因，津浦路已不能通行。而由上海抵天津的轮船，两星期内已无头等舱位。孙中山急欲赴津、京，遂决定由日本绕道赴京。21日晨6时45分，偕夫人和马湘、戴传贤等登上日邮船“上海丸”赴日——此为孙中山接受李烈钧建议，绕道日本，并了解日本对华态度。
船行太平洋间，孙中山肝病发作。
23日，船抵日本长崎。在这里，孙中山接见了日本记者。24日抵神户，前来欢迎者约4～5千人。孙中山在船上回答记者所提问题，他道：“我本是想由上海到天津，因为上海没有船位，就是再等半月，也没有船位，而由上海到天津的火车也不通。所以只好绕道日本到北京，这是我来日本的第一个理由；第二个理由，日本为旧游之地，熟朋友很多，我借这个机会，来看看旧朋友。我现在到了贵国，既蒙这么多国民的欢迎，又诚心来听我的讲话，我便借这个机会，把我的一片心事说出来，请诸君转达贵国全体国民，我们中国国民想同日本国民联成一气，用两国的国民的力量，共同维持东亚大局。”
日本各界人士和学生千余人，在神户大礼堂召开了欢迎中山先生大会。翌日，日本知名人士头山满、山田、萱野长知及中山先生的日本好友先后来见。孙中山与头山满进行了长谈，且与山田叙谈甚殷，特别对其子华生频加详问，并欲亲见其面。山田颇以为异，盖数十年来，孙中山语不及私，对山田家中之情形，从无如此详问。山田亦觉中山精神颇为倦怠，谈话稍久，辄以手杖之柄，揉摩胸腹之间，其痛似不可忍。山田为此颇觉不安。
11月30日，孙中山一行由神户启程，乘“北岭丸”赴天津，送行者达数千人。
“北岭丸”于海上航行3日3夜，抵大沽口。各界代表两万余人前往欢迎，万众欢呼，中山先生脱帽致礼，段祺瑞代表许世英、冯玉祥代表熊斌及国民军代表百余人登轮迎接。孙中山偕夫人下船时，肝病发作，其以杖头抵压在腹部。下船后，先乘马车至日本租界秋山街张园行馆。
孙中山抵津后，即向欢迎各界发表了一书面谈话，谈话3点内容：第一点说明其途经日本时对日的忠告，劝日取消21条；二是宣布其北上目的，决不为权，完全为促进对国民军驱逐溥仪出宫举动，表示满意。因孙中山病体不支，其文由汪精卫代为宣读。
北方各报纸对于这位手创民国的伟人，倍极称赞。且寄予莫大的企望。
然在孙中山北上途中，北方的形势已发生了变化。1924年11月9日，冯玉祥在段祺瑞连电之下到津晤段。段对冯自然十分热情，并在距其宅不远处替冯安排了住房。段与冯晤面后，段云其收到孙中山“即日北上”的电报。继尔谓冯：“中山乃西南领袖，我等与雨亭偏北方，统一西南之事，应争取中山意见。”
时奉军已有两师人马到京驻扎，冯因奉系曾允诺不向关内进兵，因而对此大不以为然。11月11日，张作霖与卢永祥也联袂到津。段于当日宴请张、冯，陪客有五六十人。席前，赵玉珂去见冯，见冯正刮胡须，时军官多留八字胡，赵见冯剃须，遂奇怪问：“你怎么把胡子剃了？”
冯玉祥答：“胡子不能要，非去不可。”
原来张作霖乃土匪出身，东北人把土匪皆称为胡子。冯由此对张表示轻蔑和不满。然张作霖亦不把冯放在眼内。席间，段祺瑞致辞把张、冯嘉勉了一番。段话音未落，张便起身道：“军人保卫国家是份内的事，芝老夸讲，自觉惭愧。”接着，张话锋一转，声色俱厉道：“不过咱们收买的人，不能与起义之人相提并论。”言罢，席未终便借故而去。
时奉军亦在天津有两师人马，而冯仅带几个马弁。冯的处境甚是危险。张作霖离席而去，使冯顿感局促不安。饭后，段约冯同到蔡家花园会张作霖。见大门两边排列十数对兵丁，均怀抱大刀，刀长丈余，气氛森严。在段的竭力调停下，冯、张才坐下相谈。
孙中山、段祺瑞、张作霖、冯玉祥四方，在推倒曹、吴的目的上是相同的，但在推倒曹、吴后如何设立中央政府以及如何解决国家重大问题上，则各有各的打算，而且无法调和。张作霖与冯玉祥均想各霸一方，扩充地盘，并尽可能插手中央，控制中央，因此都需要拥戴一个头子入主中央，而当时有资格者，惟孙与段。因而是拥孙还是拥段即成为冯、张间最尖锐最突出的问题。冯的想法是：既可拥段，亦可拥孙，最好是孙段联合，时冯因读过孙的三民主义，因而对孙很敬仰。冯在与段、张周旋中，不免势单，其深知孙与己思想吻合处很多，若能与孙互相呼应，互相支持，自然好处甚多。冯自与段、张会晤后，看出段、张完全无意于孙，而且奉军咄咄逼人，因此冯不敢说出自己拥孙的态度，且感到处境十分险恶，只好一改初衷，摆出一副唯唯诺诺，装聋作哑之态，免得吃眼前之亏。
张作霖在孙、段问题上，自然是铁心拥段，一来孙中山的三民主义、三大政策与奉系格格不入，二来对段甚为尊敬，缘为段氏乃北洋元老中之“虎”。时人谓北洋元老有一龙一虎一狗，龙乃王士珍，狗乃冯国璋，虎即段祺瑞。冯国璋已死，王士珍作了名流，所以段即成了北洋元老中最有希望的人，奉系军人对孙中山，谓其为“孙大炮”，云其只能吹牛不能成事，不能作为首领拥戴，但可作为远交的朋友。张虽铁心拥段，但也仅拥其个人而已，对皖系、张、段之间矛盾亦无法调和。段、孙之间的矛盾，也是无法调和的。孙乃为革命领袖，革命旗帜鲜明，段乃北洋首脑，典型的封建军阀，孙、段之间，南辕北辙，不能相容。
除孙、段、冯、张四方矛盾重重之外，各帝国主义又插手其间。孙中山北上，立即引起各帝国主义的反对。时段祺瑞得到日方支持，暗里与张作霖取得一致，二人决心抵制孙中山，制止革命势力发展。
话转回头。张作霖在段欢迎张、冯宴席上借故而走，段从中调停，三方坐下会谈，张、段群起反对冯曾提出而段张亦同意的，在推倒曹、吴后由孙中山主政、段主军的主张，改推段入京组织临时政府，以段任临时执政，并威胁：冯如不同意，则鲁督郑士琦、晋督阎锡山皆可从津浦、京汉夹击冯的国民军。冯权衡利害得失，只得与张作霖、卢永祥等联名推段任临时执政。
11月22日下午2时40分，段祺瑞乘专车抵北京，黄郛摄政内阁全体及地方文武长官均莅车站欢迎。段乘车抵吉北胡同私宅。24日上午10时，段于铁狮子胡同陆军部旧址举行临时执政就职典礼。同日，段执政公布了“中华民国临时执政府制”。鉴于以往“府院之争”迭起，段乃将总理、总统二者合一，使临时执政兼有二者权力。25日，段执政任命唐绍仪、龚心湛、李思浩、吴光新、林建章、章士钊、王九龄、杨庶堪、叶恭绰等为外交、内务、财政、陆军、海军、司法、教育、农商、交通各部部长。梁鸿志为执政府秘书长，沈瑞麟担任外交总长。一时间，安福系分子都连番入京，段自然将这些人起用，终于组成了一个以安福系分子为核心，包括部分与国民党有历史渊源之人物的政府。
段在宣誓就任中华民国临时总执政时，于《就职宣言》中公开宣称，“外崇国信”，即承认自鸦片战争以来帝国主义强加于中国人民的一切不平等条约，承认帝国主义在华的特权。各帝国列强对此大为欣慰。11月28日，在日本公使芳泽廉吉斡旋下，各国公使分班向段执政表示祝贺，并对临时政府表示了非正式承认。
表面看来段似乎可以为所欲为，其实其身边仅一些官僚政客。其一举一动都要看奉系和国民军行事，用张作霖的话说，段执政是“北京烤鸭”，两面受到烟熏火烤。
冯玉祥见时局演变至此，自己若继续依附下去，要为强盗马贼当伙计。一盘算，决计激流勇退，躲开乌烟瘴气的政局，主意打定，便拜访了张作霖，回说自己身体不好，要上山休养。张作霖一听，立时跳起，道，“你可不能走，你要是走了，我就是混账王八蛋！”
冯决心已下，便于段就职次日，提出辞职，通电全国。而后避入京西天台山中。
早在1923年冬，汪精卫、廖仲恺、许祟智曾到上海卡德路邓汉祥家商讨推翻直系后政局的设想。时邓汉祥在段祺瑞身边担任与各方面联络工作。汪等与邓讲，打倒曹、吴后，北京局面当由孙中山与段祺瑞主持，由孙任大总统，段任国务总理，邓表示同意，答应将此意见转达与皖系。很快，邓汉祥将国民党意见转达给卢永祥，卢乃皖系中实力人物，遂密电于张作霖，张回电，坚决主张拥段拒孙。卢自此心中有数。但其没对汪精卫等实言相告，只说国民党意见皖系同意，但要与奉系相商。为此，汪精卫等出关面会张作霖父子。当汪精卫向张家父子提到孙、段主政时，张家父子闪烁其辞，云：只要打倒曹、吴，一切好说。汪精卫又抵天津见段祺瑞，段亦表示一切好说，待曹、吴打倒，必请孙北上主政。这样，汪精卫转了个大圈儿，也没得到实质性的结果。
1924年夏，孙中山派伍朝枢再次赴奉，张作霖父子仍虚与应付。所以，孙中山对曹、吴推倒后北京势态的急剧变化发展，既在意料之中亦在意料之外。
孙中山于赴天津途中已了解到段执政的所作所为，对此甚为恼怒。当段派来迎的代表许世英和叶恭绰向他报告段政府的“尊重条约，外崇国信”的政策时，孙中山极为愤慨，谓许、叶道：“我在外面废不平等条约，你们怕外国人，无非是想升官发财，如此又何必来欢迎我？！”
一番话说得许、叶二人面红耳赤，哑口无言。
孙中山抵津时张作霖尚在天津，孙中山决意访张，命汪精卫给张写一信约定时间。很快，时间即约定。李烈钧谓孙中山道：“昔刘邦会项羽于鸿门，有张良、樊哙相随，得以平安，总理今晤张雨亭，亦当带得力人相随为宜。”
孙中山点首称是，遂决定派汪精卫、孙科、邵元冲、李烈钧相随。
孙中山一行抵蔡家花园，但见大门两旁分站十数对彪形大汉，均怀抱鬼头刀，怒目横眉，满脸杀气，大门外戒备森严。张作霖没亲自出迎，而派张学良迎于门外，将孙一行让至客厅。许久，张作霖才至客厅，毫不谦让地坐在上座，显示出唯我独尊、盛气凌人之慨。中山见了，甚为不满，一时间，宾主之间，默无一言，陷入僵局，气氛很是紧张。许久，还是中山开言，道：“我到了天津，承派军警前往迎接，对于这种盛意，非常感动，今日特来申谢。”稍停又道：“此次直奉之战，赖贵军之力，推翻曹、吴统治，实为可喜可贺。”
张作霖不屑一顾道：“自家人打败自家人，有什么大惊小怪，更谈不上可喜可贺。”言罢，其眉宇间露出不耐烦的神色。
一时间双方默然无语。时李烈钧看到随中山同来之人均很窘，遂站起来朗朗说道：“事情虽这样讲，但要是不把吴、曹这种人铲除，国家和人民的幸福，就无从谈起。也是无有希望的。今天孙总理对雨亭之贺，实有可贺的价值。也唯有雨亭能当此一贺啊！”
张闻李之言，脸上才微微显出笑容。时孙中山又徐徐道：“协和之言极是，溯自民国以来，当面得到我的贺词的也唯雨亭一人而已。”
孙中山言罢，满座欢笑，僵局始破。张作霖举起茶杯请大家喝茶。孙中山明白此为张送客之意，遂起身与张握手告别。
孙中山回抵行馆后，汪精卫以手加额道：“险哉呀！险哉！”
李烈钧闻言顺口讥笑道：“像你此胆量，何以能刺摄政王，无怪乎大事不成。”
汪摇头不语。仍以手帕擦额之汗。
时天津民众对孙中山的到来，表示了热烈欢迎。致函中山，以示对其爱戴之情。
孙中山为答谢天津民众，特发表了一个书面谈话。
国民军将领、京畿警卫总司令鹿钟麟致电孙中山，称：
“时向革新，望公如岁。祈津莅止，薄海腾欢。奠定邦基，伫望元老。都门咫尺，何日降临？鹄候电知，俾便警跸。”
孙中山接鹿电后，随即又派于右任赴京面商。时中山病体自觉不支，特请德国医生诊治，一连8～9天没有功效，只得在津住了20多天。其间，段祺瑞善后会议条例公布，表明段执政决心不与孙合作。如此孙北上落空，而病体又一天天严重。李烈钧等认为孙住在天津，既不适宜养病，又于国事无补。而北京各方又期盼孙中山入京。他只得抱病偕夫人入京。时为1924年12月31日。行前，他发表了《入京宣言》。再次声明自己入京“乃为救国”。时随他赴京的有汪精卫及参军喻毓西、赵超、邓彦华，副官黄惠龙、马湘、吴雅宽，秘书朱和中、陈友仁、黄昌谷、邵元冲，书记官张乃泰等。
前门东车站前，黑压压地站满了欢迎孙中山的民众。人人手执小旗一面，在寒风中等待。横幅大标语上写着：“欢迎中国元勋革命领袖孙中山先生”。鹿钟麟见欢迎人多庞杂，怕中山先生发生意外，当即赶到永定门火车站，想请他在那里下车进城，当孙中山专列在永定门车站停下时，鹿钟麟急步登上孙中山乘坐的车厢，当他见到孙中山时，不觉一惊，只见孙中山正躺在卧辅上，随从人员站在他周围。孙中山面色苍白，神情憔悴，一副病容。孙中山见到鹿钟麟，吃力地坐起，与鹿握手。当鹿说明原因请孙中山在永定门下车时，孙中山道：“这使不得，我的抱负是什么？我的目的是什么？你当然是了解的。我是为学生，为民众而来，我不能只为个人安全打算，而辜负民众和学生一片真情，请不必担心，我要在前门下车，即使民众学生们挤了我也不要紧的。”
火车在前门站停下。因昨夜一场大雪，天地皆白，天气寒冷而清澈。当孙中山下车后，黑压压的人群顿时秩序井然，只有人们挥动的红绿小旗在风中瑟瑟地响。孙中山在随行的扶持下下了火车，见民众如此热烈，精神为之一爽。而后徐步走过欢迎行列，含笑着答礼。出站后，即分乘汽车，径抵北京饭店，在145号房间下榻。苏俄驻华大使加拉罕亦为孙中山派了三名俄籍警卫，一名柏瑞楼司该，一名罗办，一名尔瓦楼该司。随员均住铁狮子胡同5号顾维钧宅，此宅系明朝吴三桂住所。
时各报记者云集北京饭店，由汪精卫代表孙中山与各记者见面，分别发了书面谈话一份，内云：
“中华民国主人诸君：兄弟此来，承诸君欢迎，实在感谢。兄弟此来不是为争地位，不是为争权利，是特来与诸君救国的。十三年前兄弟与诸君推翻满清政府，为的是求中国人的自由平等。然而中国人的自由平等已被满清政府从不平等条约里卖与各国了，以致我们仍然处于殖民地之地位，所以我们必要救国。关于救国的道路很长，方法也很多，成功也很容易，兄弟本想和诸君详细地说，如今因为抱病，只好留待病好再说，如今先谢诸君的盛意。中华民国十三年十二月三十一日。孙文。”
1925年元旦，段祺瑞派其子段宏业、秘书长梁鸿志到北京饭店与孙中山贺年——段在全国人民的注视之下，不得不做个样子，招待孙中山。然孙中山知其非诚意，一切招待，不过出于敷衍。孙中山谓梁等二人，云其个人病体未愈，不能多为劳动，看情况要十数天后方可与段晤面，解决国是。
