蒋介石出身军人，体质硬朗，中年后又非常注重养生，因此其健康状况一向良好。直至1962年，蒋介石的身体健康才出现警讯。4月23日，突然感到排尿不顺的蒋介石，经“荣民总医院”泌尿科主任郑不非大夫的检查，发现患有前列腺肥大症。前列腺肥大是老年人常见的疾病，本不足为奇。然而，“总统”排尿困难毕竟不是小事，故“荣总”的医疗小组决定为蒋介石开刀切除前列腺肥大组织。但宋美龄信不过台湾本地医生，而是请来美国的专科医生为蒋介石开刀。然而，此次手术并不十分成功，留下了后遗症。自此以后，蒋介石的健康状况开始走下坡路。蒋介石的治疗报告曾有以下记载：
总统身体素健，少有不适，此因平日生活极有规律，烟酒不沾，养生有道所致。惟自五十一年起，颇有小便不畅之感，经医诊查后，断为摄护腺（前列腺）肥大症，此乃年长者常见之疾病，惟必须施行手术始能治愈。嗣经决定于是年三月间在“荣总”接受外籍泌尿外科专家手术，割除肥大部分之摄护腺。不意于手术后发生尿道炎、便血、尿道狭窄等并发症，此后虽经医生悉心医治，各并发症渐次痊可，以后数年已体健如常，但因慢性摄护腺炎不时发作，虽屡经医治，但无法根除。
1969年9月，蒋介石又不幸在阳明山遭遇车祸，嘴巴、胸部和下体受到强烈撞击。车祸虽未造成致命伤害，但其身体健康急剧下降。至1971年5月，蒋介石的心脏已有明显的扩大现象。而这一年由于“外交”孤立，联合国被逐，蒋介石不仅遭受身体的折磨，还要承受精神的打击。在一连串的打击之下，年事已高的蒋介石终于病倒了，并从此一蹶不振。
蒋介石一生坚持写日记，直至1972年7月21日。从他最后一年多的日记来看，基本上处于重病之中。他在最后一天的日记中还写道：“今日体力疲倦益甚，心神时觉不支。”7月22日，蒋介石病情加重，在中午用膳时突然呕吐，至下午2时竟然昏厥过去。之后，蒋介石再也不写日记了。不是不想写，是写不动了，他的右手萎缩得相当严重，已经没有气力握笔了。对于此次病况，蒋介石的治疗报告是这样记载的：
就任第五任“总统”后一个月，因慢性摄护腺炎复发，医生乃建议应多休息。惟仍日夜辛劳，公而忘私，因之自觉体力不支之感，于是移往阳明山官邸，预备在此处作短期之休养。惟阳明山官邸四周环山，气候常多变化，于七月中旬感染感冒，当经医治授药后，感冒已渐好转。惟七月二十二日午后，突发高烧，经医生应用X光及其他检查，证明因感冒而转为一种抗药性葡萄球菌所引发之肺炎。
自此次大病以后，蒋介石已基本处于休养状态，所有政务都交于蒋经国掌控。只要在台北，蒋经国则每天探望，并向蒋介石汇报。由于蒋介石长期卧病，很多庆典活动都未公开露面，而是由“副总统”严家淦代理主持，因此外间舆论对此难免有所揣测，甚至有人怀疑蒋介石已经不在人世了。
为了消除外间的猜疑，宋美龄曾绞尽脑汁向外界证明蒋介石健康如昔。在宋美龄的安排下，蒋介石曾有几次公开露面。一次是1973年7月，孙子蒋孝勇偕同新婚妻子方智怡到“荣总”第六病房，按照溪口老家的习俗给蒋介石奉茶。当时蒋介石身穿长袍马褂，坐在病房客厅的椅子上，由宋美龄代表蒋介石接受孝勇夫妇的奉茶仪式。宋美龄特意决定选择这次奉茶仪式为主题，对外发表新闻，说明“总统”为最小的孙子主持了婚礼的奉茶仪式，并且对外证明蒋介石的病情正在康复中。
同年11月12日，国民党十一届三中全会闭会后，参加全会的10位主席团成员，在“中央委员会”秘书长张宝树的带领下到“荣总”会客室晋见国民党总裁蒋介石。由于当时蒋介石的右手肌肉萎缩相当严重，即使坐着的时候右手也会因无法控制而不自觉地垂下来。为了掩饰蒋介石右手的缺陷，卫士们在有关部门的同意下，用透明胶胶布将蒋介石萎缩的右手手腕“绑”在椅子的把手上，然后穿上长袍马褂。直到一切处理完毕，才通知主席团成员进场。而医疗小组的医护人员则全员戒备，守候在隔壁房间，随时待命。幸好蒋介石身体略有恢复，精神状态不错，接见得以顺利完成。此次接见，再次向世人证明，蒋介石还很“健朗”。
蒋介石最后一次公开露面是在1974年秋，那时美国驻台“大使”马康卫即将离任回国。其实，早在一两年前，他就已经几次向台湾当局提出晋见“蒋总统”的请求，但由于前几次蒋介石不是处于昏迷状态，就是病情尚未明朗，不便接见。现在面对马康卫离职返美前的最后一次晋见请求，宋美龄和台湾当局权衡利弊，认为还是接见较好，既可以打消外界的臆测又可以消除美国的误解。为了保证蒋介石能够顺利接见马康卫，宋美龄没有安排专门的“外交”人员作陪，而是由她亲自陪伴接见，并令医疗小组的医护人员在后侧严阵以待。在接见的过程中，蒋介石的表情有点僵化，口齿也不大清楚，而且谈话时气喘吁吁。好在宋美龄在一旁协助，让马康卫“了解”蒋介石的意思，并且适时地掩饰蒋介石的口齿不清和词不达意。
尽管此次接见“顺利”完成，但宋美龄和蒋经国等人很清楚，蒋介石的健康状况已经急剧恶化，病体已经难以康复。12月初，蒋介石突发高烧，经检查后，发现蒋介石肺炎复发，肺部积水。宋美龄不顾医疗小组的反对，延请美国医生为蒋介石施行肺部穿刺手术，虽然手术本身很成功，但手术带来的后遗症却是严重的。当晚，蒋介石的体温就急剧上升，陷入昏睡高烧之中，体温最高时达到41℃。为了给蒋介石退烧，医生只好使用大量的抗生素，并在蒋介石的床单下垫一张进口的冰毯。
对于蒋介石的病况，蒋经国愁苦不已。1975年1月1日，他在日记中说：“元旦，向父亲拜年，父亲在睡眠中，病情颇重，儿心殊苦。”1月9日，他再次写道：“父亲之病，仍无好转迹象。想起前天晚上父亲在病床上以左手紧握儿之右手良久，语音甚低，儿心忧苦。”直至1月11日，蒋介石的体温才有所下降。蒋经国说：“父亲病情经过一次严重的危机，反而有了起色，体温开始下降。”到2月7日，蒋介石的病情有所稳定。2月10日，正好是农历除夕，蒋经国在日记中说：“父亲卧病以来，多次均能转危为安，此乃天意，佑我邦家。”然而，没过多久，蒋介石的病况急转直下。3月26日，蒋经国在日记里说：“父亲之病于今晚八时恶化，经三小时治疗后好转。余宿于病房中。日来余心不定，夜间多梦，不能专心处理要公，烦虑已甚。”
4月5日，蒋经国一大早就到士林官邸探望父病。蒋介石坐于轮椅之上，面带微笑。已经很长时间没见过父亲笑容的蒋经国心中感到非常欣慰。期间，蒋介石向蒋经国询问了清明节，以及张伯苓先生百岁诞辰之事。当蒋经国辞别时，蒋介石还嘱咐蒋经国说：“你应好好多休息。”蒋经国没有想到的是，这是父亲对他最后的叮咛。当晚8时，医生发现蒋介石的脉搏突然转慢，立即施行抢救。8时半，当闻讯赶来的蒋经国再次回到士林官邸时，蒋介石的病情已经开始恶化，“在睡眠中，心脏微弱，开始停止呼吸”，经医护人员数小时的抢救无效，蒋介石于当晚11时50分离开人世，终年89岁。
蒋介石逝世后，蒋经国曾为之守灵一月，并在随后的几年里先后写了许多回忆和纪念其父的文章，如《梅台思亲》、《领袖慈父严师》、《思亲励志报国》、《其介如石》、《风木孝思》等。1978年4月5日，他曾写下这样一段文字：
不记得有多少个黄昏，独坐庭阶，思亲之情，久而愈切，漫漫长夜，不能入睡；不记得有多少次梦中惊醒，仿佛父亲招手慰语，音容一如健在之时；不记得有多少遍瞻仰父亲房中遗物，笔砚书籍，棉衣布被，捧奉抚摸，一股温暖直入心田，而悲怆不能稍抑。
尤其卧室木床，留给我最深的悲痛，父亲养病静卧，我侍疾床侧，父亲握着我的手，默默相对；有时父亲闲话家常，或者低吟诗句，交谈片刻，又复小睡，稍后睁开眼来，看我仍在床侧，引以为慰，此时父亲一笑一颔首，我都明白心意。儿时闻父亲追怀亲恩，每谓“昊天罔极，触景伤心”，我体会不深，而今日我追念父亲病中执手的情景，历历在目，触景伤心，始知为人间之至痛。
可见，蒋介石的逝世，不仅仅使蒋经国失去了一位领袖，更重要的是，使其失去了一位父亲、一位良师益友。在台湾时期，蒋介石与蒋经国父子相依为命，患难与共，而蒋介石对蒋经国的培养、扶持、关爱，更是无微不至，父子间的情感远非“父慈子孝”所能概括。正如蒋经国自己所说：“父亲严而又慈，爱儿教儿无微不至；……父亲对儿作之君、作之师。今日革命在将成未成之际，父亲竟弃儿而去。我父子同离故乡，而今父亲已不在人世矣。呜呼哀哉！”
