洪武十三年（1380），他突然宣布处死胡惟庸，罪名是“擅权植党”。胡惟庸的死，是咎由自取，无可非议。问题在于，皇帝要除掉的并非一个人，而是要株连一个庞大的“胡党”——“胡惟庸党”。当时株连被杀的就有御史大夫陈宁、御史中丞涂节，以后陆续株连被杀的“僚属党羽”及其家属，据说有一万五千多人。
皇帝的目标显然不仅仅是陈宁、涂节之类，而是李善长这样的开国元勋。这种心态被敏感的官员察觉，立即投其所好，纷纷请求株连李善长、陆仲亨等人。奇怪的是，皇帝没有同意，说道：我起兵时，李善长来投奔，当时我二十七岁，善长四十一岁，他的建言大多符合我的意思。陆仲亨当时十七岁，父母兄弟都死了，跟随我出来打天下。这些人都是我初起时的股肱心腹，不忍心杀他们。
这是实情掩盖下的谎话。并非“不忍心”，而是不能下手。因为已经给李善长、陆仲亨等人颁赐了“免死铁券”，上面刻了“除谋逆不宥，其余若犯死罪，尔免二死，子免一死”字样，仅仅是“擅权植党”是不能处死的。因此必须把“胡惟庸党案”的罪状逐步升级，罗织“谋逆”（即谋反）罪，才可以把拥有“免死铁券”的开国元勋置于死地。
果然，洪武二十三年，胡惟庸党案逐步升级为“谋逆”，并且牵连到李善长等人。朱元璋振振有词地说：“满朝都是胡党”，必须彻底肃清，并且用《昭示奸党录》这样的正式文件公布于天下。现在人们看到的有关这一案件的记载，无论《明太祖实录》还是《明史》，其源盖出于此。
确定李善长串通胡惟庸谋反的“罪证”有两条。其一是他的弟弟、胡惟庸的岳父李存义的供词，其二是李善长家奴卢仲谦的告发。《明太祖实录》与《明史·李善长传》所说大致相同，其情节之栩栩如生犹如小说。
——《明史·李善长传》很少细节描写，唯独这一情节大肆渲染：“惟庸家因言存义等往时交通惟庸状，命逮存义父子，鞫之。词连善长云：惟庸有反谋，使存义阴说善长，善长惊叱曰：‘尔言何为者，审尔，九族皆灭。’已，又使善长故人杨文裕说之云：‘事成当以淮西地封为王。’善长惊不许，然颇心动。惟庸乃自往说，善长犹不许。久之，惟庸复遣存义进说，善长叹曰：‘吾老矣，吾死，尔等自为之。’或又告善长云：将军蓝玉出塞至捕鱼儿海，获惟庸通沙漠使者封绩，善长匿不以闻。于是，御史交章弹劾。善长奴卢仲谦等，亦告善长与惟庸通赂遗，交私语。”
——《明太祖实录》煞有介事地写道，胡惟庸登门拜访李善长，屏退左右，密语良久，“人不得闻，但遥见颔首而已”。胡惟庸欣然告辞，派遣指挥林贤“下海招倭军约期来会”，又派遣元朝旧臣封绩带信给北元政权，“请兵为外应”。
一场子虚乌有的“逆谋”——“通倭”、“通虏”的反叛阴谋，如此这般虚构成功，人们再一次领教了“欲加之罪何患无辞”这句成语的精髓。
罪状罗织完成，朱元璋发话了：“善长元勋国戚，知逆谋不发，狐疑观望怀两端，大逆不道。”你李善长既是开国元勋，又是皇亲国戚（儿女亲家），知道胡惟庸的“逆谋”，居然不揭发，不报告，狐疑观望，首鼠两端，如此大逆不道，理应满门抄斩。很快，圣旨下达：处死李善长及其妻女弟侄。七十七岁的李善长一门七十多人被杀，只有长子李祺因为有其妻临安公主（朱元璋之女）庇佑，而幸免于难，他们的儿子李芳、李茂也因此逃过一劫。
受此案株连，同时被杀的功臣还有：吉安侯陆仲亨、延安侯唐胜宗、平凉侯费聚、南雄侯赵庸、荥阳侯郑遇春、宜春侯黄彬、河南侯陆聚等。唯一的定罪根据，就是陆仲亨的家奴告发，说陆仲亨勾结唐胜宗、费聚、赵庸等侯爵，“与胡惟庸共谋不轨”。《明史·陆仲亨传》的这种说法，显然出自官方文件《昭示奸党录》。
毫无疑问，这是一桩冤案。一年后，郎中王国用向皇帝递交《论韩国公冤事状》，为李善长鸣冤。这份状子其实是才子解缙起草的，以雄辩的事实反驳“串通胡惟庸谋反”的诬陷不实之词。大意是说：李善长为陛下打天下，是第一功臣，假使帮助胡惟庸成事，也不过是第一功臣。况且他已经年迈，根本没有精力，何苦如此！李善长一向“子事陛下”，“托骨肉，无纤芥之嫌”，“未有平居晏然，都无形迹，而忽起此谋者”。说得朱元璋哑口无言，默认是枉杀。
当时的宣传，一律按照《昭示奸党录》这样的官方文件为准绳，真相究竟如何，明朝人也感到扑朔迷离。不过对于此案持怀疑态度者也不乏其人，王士骐《皇明驭倭录》就对胡惟庸“谋反”的说法表示怀疑；谈迁的《国榷》明确说：“惟庸非叛也”，乃“积疑成狱”。不过是怀疑而已，没有展开论证。吴晗的长篇论文《胡惟庸党案考》，广泛发掘史料，考证辨析，才使真相大白。他的结论是：第一，“在胡案初起时胡氏的罪状只是擅权植党，这条文拿来杀胡惟庸有余，要用以牵蔓诸勋臣宿将却未免小题大做。在事实上有替他制造罪状的必要”；第二，“李善长之被株连，其冤抑在当时解缙所代草之王国用疏辨之甚明”。
既然胡惟庸并无“谋反”动机与行动，那么李善长等人串通胡惟庸“谋反”，便成为无稽之谈。
朱元璋真是煞费苦心，既要大封功臣，颁赐“免死铁券”，又要大开杀戒，诛戮功臣；既要要消除皇权的潜在威胁，又要避免言而无信之讥。在所有的“免死铁券”中，都有这样一句看似不经意的话语：“除逆谋不宥，其余若犯死罪，尔免二死，子免一死。”预先埋下一个钉子：就是“逆谋不宥”——谋反罪不得免死。有了这一条，后来大杀功臣就谈不上言而无信了。
被朱元璋誉为“大功臣”的徐达，是否可以“免死”呢？也未必。
徐达南征北战，立下丰功伟绩，但从不居功自傲，一向恪守为臣之道。朱元璋经常设宴款待，以“布衣兄弟”相称，徐达并不沾沾自喜，反而愈加恭慎。朱元璋多次对他说：徐兄功劳大，至今还没有安定的居所，我想把自己的吴王旧邸送给你。徐达再三推辞。有一天，朱元璋邀请徐达在吴王旧邸饮酒，乘他酒醉，命人把他抬到吴王寝宫就寝。徐达醒后大惊失色，跑到阶下叩头，连呼死罪。朱元璋大为喜悦，随即吩咐有关部门在吴王旧邸前为他建造甲第，并且在牌坊上题写“大功”二字。胡惟庸出任左丞相，想结好于徐达，徐达鄙薄其为人，不予理睬。胡惟庸设计陷害，贿赂徐府门房福寿，指使他诬告主人。福寿不为所动，向徐达如实禀报，使得胡惟庸的卑劣伎俩未能得逞。因此他时时向皇帝提醒，胡惟庸此人不可重用。
洪武十七年（1384），因过于辛劳，他在北平患病，是极为凶险的背疽（毒疮），朱元璋派遣徐达的长子徐辉祖前往慰劳，把他召回南京。次年二月，突然死去。关于他的死因，《明史·徐达传》没有说明，只有简单的四个字：“病笃，遂卒。”吴晗《朱元璋传》根据其他史料，给出了答案：徐达患背疽，忌吃蒸鹅，朱元璋特地赏赐蒸鹅，派遣使臣送到徐府。徐达流着泪当着使臣的面吃下，不多日就死了。似乎令人不可思议，其实不然。徐达一向是胡惟庸的死对头，当然无法列入“胡党”之中予以整肃，况且还有“免死铁券”在手，并无“逆谋”，可以免死二次。要他死，只有这种不露痕迹的手法了。可见“免死铁券”对于徐达而言，实际上并没有发挥作用，死的时候只有五十四岁。朱元璋的表演技巧着实高明，他停止上朝，前往哭临，居然“悲恸不已”，事后还追封徐达为中山王。
皇帝赏赐的“免死铁券”，不是护身符，充其量只能算是荣誉证书，他可以变着法儿让你死，你还不能说他出尔反尔、言而无信。太祖高皇帝实在是高！
