但蒋介石连个大会代表都没捞上，中执委员、候补委员，就更轮不着了。这让他非常失望，乃至于痛苦不堪。再者，筹办军校以后，要钱没钱，要物没物，处处受到财政掣肘。以蒋介石的敏感性格，认定是有人从中作梗，故意刁难，于是新恨旧怨，交织心头。2月21日，一纸辞职报告，递到孙文的帅府，未待批复，便愤然返回老家奉化了。孙文去电挽留，不准辞职。廖仲恺、胡汉民等人，也纷纷函电交驰，婉言劝蒋氏打消辞意，纵有万般委屈，也应以军国大任为重。
蒋介石给廖仲恺写了一封洋洋洒洒的长信，“痛剜党政诸病根”。并扯到联俄政策上去：“以弟观察，俄党殊无诚意可言。即弟对兄言‘俄人之言只有三分可信’者，亦以兄过信俄人而不能尽扫兄之兴趣也。俄党对中国之唯一方针，乃在造成中国共产党为其正统。决不信吾党可与之始终合作，以互策成功者也。”
廖仲恺复信解释：“至于对外（国民党与苏联、中共的关系）问题，不自弟始，亦未尝因弟而加甚。弟以为现状如此，将必以虚名而受实祸。独立自决，弟无间言。”廖氏三催四催，好话说尽，快失去耐心了，他写信给在上海的胡汉民，“军校势成骑虎，介不即来，学生学校都不了，只有弟自杀以谢人”。他让胡汉民转告蒋介石，如果他坚持不来的话，只好另请高明了。这回蒋介石答复了：“弟必来粤，勿念。”
中央执委已经没有了，再撂了军校校长的挑子，就真的什么都没有了。广州是一个大赌场，要赢，得先进了赌场再说。你不进赌场，待在千里之外的雪窦山上，夜夜枕戈听漏，束马瞻星，纵有万丈雄心，也是白搭。4月21日，蒋氏回到广州。
5月3日，孙文正式任命蒋介石为陆军军官学校校长。5月5日，第一期正取生350人进校；两天以后，120名备取生进校。在军校的教职员中，政治部副主任周恩来（后擢升政治部主任兼军校军法处处长）、教授部副主任叶剑英、政治部秘书聂荣臻、鲁易，以及政治教官中的恽代英、肖楚女、包惠僧、高语罕等人，均为中共党员。学员中也有众多中共党员和青年团员。苏联方面，派了几十名军事人员，到军校担任教官。
1924年6月16日——孙文在广州蒙难两周年纪念日——黄埔军校正式开学了。
孙文选择这天举行开学典礼，用意良深，两年前他被粤军出卖，深创巨痛，永难平复。这天，他在夫人宋庆龄和胡汉民、汪精卫、张继、廖仲恺、林森、孙科的陪同下，到黄埔岛参加开学典礼。孙文为黄埔军校亲撰训词：
三民主义，吾党所宗，以建民国，以进大同。
咨尔多士，为民先锋，夙夜匪懈，主义是从！
矢勤矢勇，必信必忠，一心一德，贯彻始终！
后来这成了国民党党歌和中华民国国歌。
外蒙问题风云激荡
“五四运动”以后，思想界空前大解放，青年不仅以研究主义为时髦，亦以加入政党为光荣。无缘入党固然是一般激进青年的苦恼，但一身而加入两个政党，亦同样令人苦恼不堪。现在，不少中共党人就被这种苦恼所困扰。
他们的苦恼，有一半来自苏联和共产国际的革命指导者，有一半来自国民党那帮老朽们。维经斯基与马林的矛盾，就让中共感觉无所适从。维经斯基一心要把共产党建成一个不受国民党影响的纯粹共产主义性质的政党，而马林则认为国民党是一个多阶级的联盟，主张共产党加入国民党，帮助壮大国民党，推进国民革命的发展。他们争得不亦乐乎，官司打到斯大林、共产国际执委会那里。而联共（布）党内，斯大林与托洛茨基的斗争，又直接影响着苏联对中国的政策，并一直延伸到中共党内。
维经斯基与马林的分歧，以马林的落败而告终。但马林走后，来了个鲍罗廷，还是推行马林那一套，终于把国共两党拉到了一起。鲍罗廷与莫斯科的关系，比维经斯基深得多，张国焘说：“他（鲍罗廷）能通天，加拉罕管不了他，共产国际和中共中央不在他眼里，因而广东的一切政务，鲍罗廷都是干了再说。中共中央及其属下的组织，在政治上不过是随着他所造成的既成事实，事后应付而已。” 这样一种错综复杂的关系，中共焉得不烦？
另一方面，中共党内这些“五四青年”，对国民党的暮气，亦感觉格格不入，那些老家伙一开口，之乎者也，腐朽不堪，与年轻的共产党人，仿佛相隔两百年以上。共产党人看不起他们，更不愿意低声下气向他们称臣。在中共加入国民党之前，有党员问陈独秀，如果国共两党的政策发生矛盾时，这些加入国民党的中共党员，应该服从谁？陈氏回答，当然是服从中共，因为他们首先是中共党员，然后才是国民党员。
说得轻松，做起来就不是那么容易了。鲍罗廷明言，在目前的阶段，中共只能给国民党做苦力，也就是说，亏要自己吃，功要别人成。就好像一个刚入职场的新人，总有一个被前辈呼来喝去的阶段。但鲍罗廷却没办法说清，如果国民党的政策与苏联发生冲突，共产党应该站在哪边。现在，就有一个很尖锐的矛盾，摆在他们面前了：外蒙独立问题。
外蒙独立的来龙去脉，十分复杂，简而言之，就是1911年沙俄趁中国爆发辛亥革命，天下大乱之机，策划外蒙独立。在沙俄总领事的指挥下，驱逐中国官员，宣布独立，一年后签订《俄蒙协定》和《商务专约》，确立了沙俄实际统治蒙古的地位。
当时，警报传来，中国群情激愤，风狂潮涌，莫不呼吁政府，誓不承认。内蒙也严正申明，不承认库伦伪政府的一切条约。1913年，沙俄利用袁世凯内外交困，与之订立《中俄声明文件》，确认中国是蒙古的宗主国，改“独立”为“自治”。但中国政府不能驻军、移民外蒙，而沙俄可以。蒙古事务，需两国协定解决。
1917年，俄国“十月革命”成功，沙俄政府垮台，外蒙顿失靠山，财源断绝，床头金尽，只好向北京求助。1918年中国政府以“防止苏维埃主义扩散和西伯利亚局势动荡”为由，驻军库伦。1919年11月7日，外蒙当局致电北京政府，请求取消“自治”，恢复前清旧制。北洋政府允准，于11月22日下令中止外蒙的“自治”，恢复旧制。同时，废除1915年前的条约，并在库伦设置行政公署。
然而，1920年蒙古共产党成立后，积极从事独立运动，并寻求苏俄支持。1921年3月成立蒙古人民军和蒙古临时政府；6月苏俄以消灭白俄为由，向外蒙派驻红军；7月人民军与苏俄红军开入库伦城。1922年苏俄率先承认外蒙独立。
这时的中国政府，虽然不承认外蒙独立，但由于国内军阀混战，四分五裂，自顾不暇，遑论收复外蒙。虽然吴佩孚、张作霖都曾厉兵秣马，扬言要攻入蒙古大漠，但最终都因为担心国内敌人会抄自己后路，不敢轻举妄动。
当初越飞争取吴佩孚时，谈来谈去，就在蒙古问题上卡住了。吴佩孚要求苏俄军队撤出蒙古，由他派军进驻。越飞当然不能答应，尽管他本人可能真诚地希望以两次对华宣言作为谈判的基础，但没有用，这时莫斯科已经变卦了。联共（布）中央政治局明确指示他：“在同中国谈判时，从1919年到1920年的总宣言中得出直接指示是不能允许的，当时中国对这个宣言并未作出相应的反应。”对蒙古问题，应设法通过协议来解决“它的国家法律地位问题和从蒙古撤军问题”，而解决这个问题时，不允许把受到红军支持的蒙古独立政府的意志排除在外。
也就是说，两次对华宣言，在苏俄内部，已经一笔勾销。莫斯科没有更好的理由来反悔，只好强词夺理地说是因为“中国对这个宣言并未作出相应的反应”。因此，越飞向吴佩孚解释，苏俄军队一旦撤出蒙古，张作霖就会进驻，“这既不符合我们的利益也不符合中国的利益”。蒙古问题只能通过签订条约来解决。
在外蒙独立问题上，中共的态度，基本上，是意识形态至上，以苏联的国家利益为依归的。1922年11月，作为配合苏联承认外蒙独立，陈独秀发表了《中国共产党对于目前实际问题之计划》一文，提出经济状况、文化背景不相同的民族，宜取自由联邦制，不宜取单一国政制。他说：
在中国政象之事实上，我们更应该尊重民族自决的精神，不应该强制经济状况不同民族历史不同言语不同之人民和我们同受帝国主义侵略及军阀统治的痛苦；因此我们不但应该消极的承认蒙古独立，并且应该积极的帮助他们推倒王公及上级喇嘛之特权，创造他们经济的及文化的基础，达到蒙古人民真正独立自治之客观的可能。
但国民党对外蒙独立，是不承认的。虽然孙文较吴佩孚灵活，在谈判桌上，不否认苏俄在外蒙驻军的现实，也不提出立即撤军的要求，大致上，是一个维持现状的立场，以此作为换取联俄的条件，但党内的主流呼声，是坚决要求收回外蒙主权的。
两党的政策，出现矛盾了。
1924年5月，北京政府和苏联举行谈判，在北京签订《中俄解决悬案大纲协定》。主要内容有：沙俄与中国订立的一切条约、或与第三国订立的有损中国主权与利益的条约一概无效；苏联承认外蒙为中国的一部分；两国疆界将重新划定；苏联放弃沙俄时代在中国划定的租界、放弃庚子赔款的俄国部分，取消沙俄在中国的治外法权和领事裁判权；中东铁路纯系商业性质，铁路业务由两国共同经营，其他事务由中国政府管理，中国方面将出资赎回中东铁路及所属一切财产。
在此期间，中共积极进行舆论宣传，主张按照列宁“民族自决”的原则，给予外蒙古自决权，支持苏联在外蒙驻军，并组织向北京政府请愿活动。这等于承认了北京政府的合法性。国民党人对此大为激动，与共产党人展开公开辩论。针对共产党人的检举书和弹劾书，纷纷飞向孙文的案头。
4月，国民党人检控李大钊等“违反党纪承认北京政府”，孙文批示：“着中央执行委员会查明有无其事，另行酌夺”。另一位党人上书批评上海《民国日报》和《新青年》等，在中苏条约及外蒙古问题上，“出言不慎，招惹是非，影响本党甚巨”。孙文严厉批示：“着中央执行委员会严颁纪律，禁止本党各报之狂妄。”
跨党的中共党人，要协调两党政策，往往是顺得哥情失嫂意，要做到皆大欢喜，谈何容易，比玩平衡木还困难百倍。
到了7月的时候，陈独秀对国民党内日益高涨的排共浪潮，已经忍无可忍，提出要改变国共合作的形式。鲍罗廷大为紧张，一旦中共改变合作形式，意味着他的指挥失灵了，他无法向联共（布）中央和斯大林交代。因此，他急忙指示广州地方执行委员会开会，通过支持他的决议，反对陈独秀退出国民党的主张。
对鲍罗廷绕过中央，直接操控地方委员会的做法，陈独秀心深恶之，但脾气发过，冷静下来，也知道现在不是退出国民党的时候。7月21日，中共中央发出《中央通告第15号》，指示全党要忍辱负重：
自吾党扩大执行会后，国民党大部分党员对我们或明或暗的攻击排挤日甚一日，意在排除我们急进分子，以和缓列强及军阀对于国民党的压迫。此时国民党只极少数领袖如孙中山廖仲恺等尚未有和我们分离之决心，然亦决不愿开罪于右派分子，已拟定于秋间召集中央执行委员会全体会议，以解决对我们的关系。我们为图革命的势力联合计，决不愿分离的言论与事实出于我方，须尽我们的力量忍耐与之合作。
但陈独秀仍然忿忿不平，忍不住又要一吐为快了。在9月的《向导》上，他冷嘲热讽地质问国民党：“若主张不肯脱离共产党的人便不许加入国民党，则虽另再召集一次国民党全国大会，取消前次大会准许共产党党员跨党的决议便得，何苦以有用的光阴与经费，发行许多印刷品，不是攻击帝国主义与军阀而是攻击我们！”
