那时，蒋介石的病已经好了许多，宋美龄吵着要回士林官邸，蒋介石也拿她没有办法，只好答应她的请求，一起搬回士林。
可是心血管病变的人，谁都没有把握是不是永远不会再犯。而且加上蒋介石的身体那时根本谈不上痊愈，医疗小组只好把“荣总”所有的设备，依样在士林官邸也准备了一套，士林官邸一时之间，成了另外一处“荣总”六病房。
蒋介石至死也不忘返攻大陆。1975年元旦时，蒋介石已卧床不起，他还令“副总统”严家淦代他在“开国”纪念大会上宣读《告全国军民同胞书》，宣称要“捍卫民国，再造民国”，“迎接一切挑战。”最后高呼“反攻复国胜利成功万岁”！
直到他逝世前一周，还发表《告青年书》，要求青年人经得起“考验和试练”，共同奋起，“出全力以护卫民族的历史、文化、道德、智能，贯彻反攻复国的大担当、大使命。”
尽管蒋介石一再喧嚣“反攻复国”，但响应者越来越少，加之病人膏肓，声音越来越弱。1974年8月，台湾当局被迫宣称：因蒋“总统”健康状况不佳，减少政治活动。同年10月31日蒋介石的寿辰时，当局制作“蒋总统万岁”徽章供公众佩带，当天又用巨型气球向大陆投放一千万张蒋介石照片。据统计：1974年共向大陆投蒋照片1．8亿张之多，台湾当局这种做法无非是换得蒋介石的欢心而已。
经各方努力，蒋介石在这段时间病情稍有好转。然而好景不长，就在这一年12月，蒋介石再度因患感冒而转肺炎。因蒋长期服用抗生素，以致细菌抵抗药性增加，治疗颇为费事。1975年1月初，蒋介石病情仍无好转，高烧不退。蒋经国每日至少3次前往探病，蒋介石抓住蒋经国的手良久，语言甚低。蒋经国见父病状元起色，深感不安，“夜不成眠”。1月9日夜间，蒋介石在睡眠中发生缺氧症，经急救转危为安。此后，蒋介石病情稳定，日渐好转，实际是回光返照。旧历新年之际，蒋经国见父病好转，又东奔西走，视察各项工作去了。
2月下旬，蒋介石病情渐危，说话声音微弱。3月26日晚，蒋介石病情又呈变化，经3个多小时急救才见好转。蒋介石醒来后深感来日无多，令蒋经国召“五院”院长来士林官邸听蒋介石口授遗嘱。蒋授完遗嘱后，病情忽好忽坏，蒋府上下一片愁云。
1975年4月5日下午，蒋经国和往常一样，一大早就到士林官邸来看蒋介石。那天特别闷热，气压也迥异于往常，天空乌云翻腾。
蒋介石似乎比以前情绪还要烦躁，他不停地起床又躺下，躺下又想再起来，这样反反复复好几次。医护人员在一旁见他情绪那样不稳定，就在旁边劝慰他，要他多休息，不要这样一下起床，一下又躺下。他脸上露出不悦的表情，对医护人员的劝说置之不理。医护人员对他也无可奈何，只有任由他上上下下。那时，蒋介石原先的小便带血和高烧都已缓和下来，然而他的心脏扩大和时常间歇性停止跳动的情形，则还是此起彼伏。
晚上，蒋经国又回到士林官邸陪宋美龄共进晚餐后，他照例先向蒋介石请安，然后在他房内两人谈了几分钟。蒋经国见父亲似乎有些倦容，就说：“阿爹！你累了就休息吧！”走出房门之前，他吩咐医生给蒋介石吃几颗镇定剂。所谓的镇定剂是假的，因为自蒋介石心脏不好以后，医生就不主张再给他吃安眠药或镇定剂之类的药，以免影响他的心脏。因而都是以一些维他命药丸来哄骗蒋介石，叫他吃了还是可以在心理上产生“催眠”效果。
医生把药丸给蒋介石服下后，已经是晚间8点钟。晚上8点55分左右，蒋介石已沉睡多时，可是谁料心电图机上的脉搏曲线，忽然变成一条直线，当班的护士召唤所有的医护人员立刻到蒋介石身边进行急救。那天值班的医生是俞瑞章，他身穿睡衣，狼狈不堪地冲到蒋介石病榻前，二话不说，就给蒋介石施行急救，包括实施电击。可是连续做了几次电击，蒋介石的心脏一点反应都没有。这时，医疗小组知道事态非常严重，这次要救活蒋介石几乎是不可能的事情，于是立刻向宋美龄和蒋经国报告这个最新的不幸消息。
蒋经国从士林官邸则回到七海官邸，正要上床就寝，没想到电话铃声大作，心知不祥，等他赶到士林官邸，蒋介石早已西归。病房内外嘈杂一片，蒋经国在房间角落的壁炉边低声啜泣，宋美龄则在病榻边面色冷峻而忧戚，显得非常难过，现场一片忧伤悲戚的气氛。医生放弃了急救之后，已经开始在为蒋介石戴上假牙，然后通知“副总统”严家淦等，请他们速来见蒋介石最后遗容。严家淦等来瞻仰了遗容以后，就准备为蒋介石移灵。
移灵用的是“荣总”为蒋介石新买的进口救护车。侍卫人员刚要把蒋介石遗体移上救护车，天上忽然响起了隆隆雷声，紧接着一阵倾盆大雨如排山倒海而来，移灵车队不能受气侯影响而延误时间，所以，车队在滂沱大雷雨之中，从士林官邸缓缓前进。
在蒋介石遗嘱上签字
台湾当局党政军要员在接到蒋病逝通知后，于当夜赶到士林官邸，并在此举行了在蒋介石遗嘱上签字的仪式。首先是由蒋夫人宋美龄签，继之由“副总统”严家淦签。当“行政院”院长蒋经国在其父遗嘱上签字时，“双手发抖，已不成书”。其后，“立法院”院长倪文亚、“司法院”院长田炯锦、“考试院”院长杨亮功、“监察院”院长余俊贤诸人都颤抖着提起笔在遗嘱上签了字。
当时，蒋经国以长子身份同宋美龄商量治丧有关事宜。经商定：暂厝蒋介石灵柩于台北市南60公里外的慈湖湖畔，慈湖背依草苓山，湖水终年碧绿清澈，风景秀美，宛如江南蒋介石的故乡浙江省奉化县的溪口镇。20世纪60年代初，蒋介石途经此地时，便看中了这块风水宝地，他在这里修建了一座中国四合院式的“行宫”，起名“慈湖”。蒋生前常来此小住，并嘱咐在他死后灵柩暂厝此地，“以待来日光复大陆，再奉安于南京紫金山”，以遂蒋介石“心愿”。
蒋介石病逝后2小时零10分，“行政院”于4月6日晨2时发布经主治医师签字的医疗报告及蒋介石遗嘱。
余自束发以来，即追随总理革命，无时不以耶稣基督与总理信徒自居。无日不为扫除三民主义之障碍，建设民主宪政之国家，艰苦奋斗。近二十年来，自由基地日益精实壮大，并不断对大陆共产邪恶，开政治作战；反共复国大业，方期日新月盛；全国军民、全党同志，绝不可因余之不起，而怀忧丧志！务望一致精诚团结，服膺本党与政府领导，奉主义为无形之总理，以复国为共同之目标，而中正之精神自必与我同志同胞长相左右。实践三民主义，光复大陆国土，复兴民族文化，坚守民主阵容，为余毕生之志事，实亦即海内外军民同胞一致之革命职责与战斗决心。惟愿愈益坚此百忍，奋勉自强，非达成国民革命之责任，绝不中止矢勤矢勇，毋怠毋忽。
就在蒋介石病逝第二天凌晨7时，国民党中常会召开临时会议，会议对蒋介石的遗嘱决议如下：
全党同志，敬谨接受总裁遗嘱，并愿全国军民，共同以反攻复国之决心，团结奋斗，完成总裁遗志，亦即实行三民主义，光复大陆国土，复兴民族文化，坚守民主阵容，誓达目的，毋怠毋忽，谨此决议。
1976年11月中国国民党十一大召开时，又通过了《全党奉行总裁遗嘱决议文》，宣称：
我们誓言，坚决奉行总裁遗嘱——实践三民主义，光复大陆国土，复兴民族文化，坚守民主阵容，以此为全党党员革命的职志与战斗的决心。承担并完成艰苦奋斗的革命任务。以上慰总裁在天之灵！
在十一大重新修订的《中国国民党党章》中，蒋介石遗嘱写人党章，以使国民党员“遵行”。修订党章云：
总裁遗嘱所示：“实践三民主义，光复大陆国土，复兴民族文化，坚守民主阵容”四大革命任务，为总裁毕生的志事，全党同志自应奉为共同的革命职志与战斗决心，努力贯彻实现，故本草案拟予纳入总纲第二条，期以相互勉行，并使革命民主政党之涵义更为具体而明显。
国民党当局的上述做法未免过于牵强，如果接任国民党中央主席职位的不是蒋经国，恐怕对蒋介石的遗嘱未必如此重视。
4月6日的国民党中常会除了对蒋介石的遗嘱作出决议外，还作出两项决定：
第一项决定：“副总统”严家淦根据《中华民国宪法》第49条规定：“总统缺位时由副总统继位，宣誓就任总统职。”严家淦在就职后发表谈话称：“力行总统蒋公遗训，继承未竟之业，竟智尽忠，驰驱效命。”
第二项规定：对蒋经国辞职决议“恳予慰留”。蒋经国于其父病逝第二天便以从政主管官员身份向国民党中央提出辞呈：“经国不孝，侍奉无状，遂致总裁心疾猝发，既尔崩殂，五内摧裂，已不复能治理政事，伏恳中央委员会矜念此孤臣孽子之微忠，准予辞除行政院一切职务，呈所至祷。”
国民党中常会对蒋经国的辞呈决议如下：“行政院院长蒋经国同志，以总裁崩殂，恳辞行政院院长职务一节，中央常会咸以国家内遭大变，外毁横逆……革命之事功未竟……至望蒋经国同志深维古人墨经之义，勉承艰大，其谒其效死勿去之忠尽，即所以笃其锡类不匮之孝恩。”
蒋经国对国民党中常会“效死勿去”之议，发表谈话称：“敢不衔哀受命，墨经从事，期毋负于全党同志与全国军民之督望。”
严家淦在蒋介石病逝7个多小时后便继任“总统”，时间之快为历史罕见。严继任“总统”后的第一道命令就是：特派倪文亚、田炯锦、杨亮功、余俊贤、张群、何应钦、陈立夫、王云五、于斌、徐庆钟、郑彦禁、黄少谷、谷正纲、薛岳、张宝树、陈启天、孙亚夫、林金生、沈昌焕、高魁元、赖名汤等21名大员组成治丧委员会。与此同时，“行政院”宣布三件事：
自4月6日起，历时一月为“国丧”期，“国丧”期间停止娱乐、宴会及各项庆祝集会（后改为4月6日至17日）；
军公教人员一律着素色服饰并佩带2．5寸宽的墨纱；
蒋介石遗体停放国父纪念馆5天，供民众瞻吊。
4月6日凌晨2时，蒋介石遗体由士林官邸移至“荣民总院”；翌日，允许民众瞻仰蒋介石遗容。在蒋介石灵堂四周插了88根白蜡烛，正中供奉着蒋介石的巨幅遗像及遗嘱。灵前有5个用素菊缀成的十字架，正中一个为宋美龄的，上款为：“介兄夫君”，下款书“美龄敬挽。”
4月9日，蒋介石灵柩移至国父纪念馆。移灵前，蒋经国亲自为其父穿衣服，按照乡例，给蒋介石的遗体穿了7条裤子、7件内衣，包括长袍马褂。遗体贴身包着丝棉、黑袜、黑皮鞋，胸佩大红采云勋章，左右两旁佩戴国光勋章，青天白日勋章，蒋介石最喜爱读的《三民主义》、《圣经》、《荒漠甘泉》和《唐诗》四部书也被宋美龄放在灵柩之中。另有毡帽、小帽各一顶，手套一副、手帕一块，手杖一支，这些都是蒋介石晚年平日常用之物。一切料理就绪之后，才由“荣民总院”移灵至国父纪念馆。
移灵时，由于蒋经国在蒋介石遗体前一次又一次地“长跪致哀”，并把照片登在报纸上，于是，他手下的一批人也就纷纷上行下效，率领各自手下人在灵堂或路边跪祭蒋介石。为了证明蒋介石得到台籍民众的“拥护”，《中央日报》刊登了“省政府主席”谢东闵率各县市长长跪蒋介石灵前泣悼的照片。
从4月9日起，严家淦和全体治丧大员轮流在国父纪念馆为蒋介石守灵。其间，台湾当局不知出于何种心态，发表《告大陆同胞书》，号召完成蒋介石遗愿，推翻中共政权，同时继续奉行贯彻蒋介石对大陆同胞的一切“保证”。大陆对蒋介石的去世反应平淡，新华社消息说：中国共产党仍视他的老对手蒋介石为“帝国主义、封建主义和官僚资本主义在中国的代表”，“双手沾满了中国革命人民的鲜血”，他是“国民党反动派的头子、中国人民的公敌”，是死有余辜。
外国对蒋介石的去世态度不一，有些国家把蒋介石贬得一文不值，有些国家又把他说成是20世纪的英雄。蒋介石一生中最“忠实”的“外交”盟友国美国，对蒋之死表示十分冷淡，福特总统只拟派农业部长前来吊丧，后经台湾当局要求，才改派副总统洛克菲勒前来。福特对蒋介石病逝只作了礼节性的声明，称：“是一个具有坚定正直的品质、巨大的勇气和深切政治信念的人”，是“最后一位在世的第二次世界大战时期的重要盟国领导人。”他的病逝“标志着中国历史上一个时代的结束”。
美国人之所以对蒋介石的死反应冷淡，是因为蒋介石并不是他们在台湾的理想统治工具。国民党退台前后，美国人就想扶植吴国桢、孙立人取代他，后又企图以陈诚代蒋。美国人的做法激怒了蒋介石，致使吴、孙、陈一一被清除或架空。美蒋失和后，中国积极改善中美两国的关系，蒋介石病逝之时，正值中美两国建交前夕，从其全球战略考虑，美国人不能不对蒋介石表示遗憾了。
蒋介石另一“外交”伙伴日本，对蒋介石病逝表现出出奇的狂热。4月7日，各大报刊均以头版头条新闻报道了蒋介石病逝的消息，多数日本报纸称蒋介石是“近代中国所产生的英雄”。
日本人之所以产生这种看法，是因为日本人本身就同情有如凋落的樱花似的“失败英雄”，在相当一部分日本人的观念里，蒋介石之所以成为中国的“英雄”，是因为蒋到日本留学的缘故；抗战胜利后蒋介石对日本发动战争的罪责的“既往不咎”与“以德报怨”，也使一些日本人认为这是“东洋人的信条”。正是在上述观念的支配下，使日本对病逝的蒋介石产生了好感。
日本的井出官房长官代表日本政府发表了一个“非官方式”的谈话，称赞蒋介石并以示哀悼。其后，日本首相三木武夫以自民党总裁的名义，给蒋经国拍了一个唁电。同时，自民党决定派前首相佐滕荣作以“自民党总裁代理”的名义前往台北吊丧。由于中国大陆方面的抗议，日本连自民党代表的名义也不用，佐滕荣作与另一位前首相岸信介以“友人代表”身份出席了蒋介石的葬礼。
送别夫君
4月16日，是蒋介石的大殓日，8时5分，仪式开始。8时8分45秒，蒋介石灵柩的棺盖放在7尺铜棺之上。之后，由张群、何应钦、陈立夫、薛岳、谷正纲、黄少谷、黄杰、谢东闵等8位中国国民党中央评议委员、中央常务委员将一面青天白日旗覆盖在灵柩之上。接着，严家淦与“五院”院长、“行政院”副院长徐庆钟、“总统府”资政王云五、“光复大陆设计委员会”副主任于斌等在灵柩上覆盖了青天白日满地红“国旗”。然后，严家淦恭读祭文。
礼毕后，台湾当局还怕蒋介石不能升“天堂”，又在蒋介石的大殓日，以基督教仪式行之，牧师周联华为蒋介石主持了追思礼拜与安灵礼。周联华在证道中引述了蒋介石的所谓“嘉言”：
忍爱试练越深，赞美的歌声越高。属灵的奥秘祝福即在训练之中。丰盛的生命必须经过在狂风暴雨之中生长的。以信为本的人必定有1000次顶大的试练等在前面。
其后，周联华领导读经文，诗篇第23篇，读启应文。追思礼拜结束，响起圣乐，纪念馆外鸣礼炮21响，接着，蒋介石的灵柩在执绋人员的护送下，停放在灵车之上。
