赵武之孙赵鞅时，晋国六卿以法诛灭公族祁氏和羊舌氏，把他们的封邑分为10县，由六卿委派了10个县大夫分别管理。祁氏、羊舌氏两个大族被灭后，晋国公室日益卑弱，形成了六卿专权局面。不久，六卿内部又发生火并，以赵鞅为首的赵、魏、韩三家积极攻击范氏和中行氏，战争断断续续打了数年，终于清除了范氏、中行二家。战争中，赵鞅宣布了一篇著名的誓师词，大意是鼓励将士奋勇作战：凡立功者，贵族可以得到不同层次的土地，庶人、工商可以改变身份做官，各种家奴可以获得人身自由。新政策调动了队伍作战的积极性，因此赵氏的势力发展很快。范氏、中行二家被清除后，六卿仅剩其四：赵、魏、韩三家和知氏。四家中赵和知氏较强。赵鞅名为晋卿，实专晋权，领地同于诸侯。赵鞅死后，其子赵襄子继任父职，知氏宗主知伯带头串通赵、魏、韩三家私分了范氏和中行的故地。按照旧制，卿大夫灭亡后封土要收归公室，现在四卿私分，无视公室，惹怒了晋出公。晋出公无力奈何四卿，便想借助齐鲁兵力讨伐他们。四卿闻听有些害怕，干脆联手攻击出公。出公逃奔齐国，死于途中。知伯扶立了晋懿公。由于分地、攻晋出公以及拥立懿公都是知伯带头经办。知氏在这个过程中发展了势力，懿公即位后又是知伯主持国政，因此知伯便傲了起来。
当时知氏的正卿是知伯，赵氏的正卿是赵襄子，韩氏的正卿是韩厥后人韩康子，魏氏的正卿是魏桓子。
赵、韩二家的先祖渊源上文已做交代，这里单叙述一下魏氏来源。魏氏的祖先出于毕公高。毕公高原来也是周家同姓，曾佐武王伐纣，补封于毕，从而改为毕姓。毕姓后人分散，或居中原或在夷狄。有个叫毕万的定居晋国，臣事晋献公。毕万曾与赵衰的父亲赵夙同车侍奉献公出征作战，赵夙御车，毕万担任车右侍卫。战争胜利后，献公将魏也封给毕万，任为大夫，后人也就姓了魏氏。晋国卜人郭偃曾对“毕万”一名作过测解，说：“毕万的后人必然兴旺发达啊!万是个满数，魏是大的意思，用大的名号开始封赏，乃上天为他开拓基业。天子统治百姓称兆民，诸侯统治百姓称万民。现在封他号大，其名又是满数，将来必定拥有民众。”毕万的儿子魏武子与赵衰一起追随文公重耳流亡，返回后继承父亲的封土爵位，从而魏氏成为晋国一家著名大夫。魏氏虽然不如赵氏强大，但长期以来地位一直很稳定，传到春秋末期晋国仅剩四卿，仍然保留了一席之地。
知赵倚仗权势向魏、韩两家索地，魏桓子和韩康子不敢不给，各自拿出万家之邑献给知伯。知伯越发骄傲，又向赵襄子点名索取赵的蔡和皋狼两地。赵襄子实力雄厚，不像魏、韩两家软弱可欺，拒绝不给。知伯很恼火，率魏、韩两家来攻赵氏。赵襄子退守晋阳，晋阳城墙坚固，知氏三家围攻经年未能攻破。后来知伯采取水攻之策，在晋阳附近筑堤，引汾水灌晋城。汾水一灌，露于水面的晋阳城墙仅剩了三版高。城内不断渗水，灶里青蛙乱叫，只能悬锅做饭，粮食奇缺，出现了交换孩子充饥保命的现象；城外一片汪洋，攻城队伍乘坐战船，不断向三版之高的城上守军发动攻击。晋阳城危在旦夕，赵氏危在旦夕!
知伯乘车巡察水势，魏桓子御车，韩康子陪同。知伯见伯氏就要灭亡，不禁得意忘形地对两人说：“原来我不知道水可灭人之国，今天才明白竟还有这么一招!”两人闻听一惊，几乎同时明白了知伯的话外之意：魏的安邑临汾水，韩的平阳临近绛水，现在既可水灌晋阳灭赵，将来就可水灌安邑、平阳灭魏亡韩。魏桓子用胳膊碰了一下韩康子，韩康子用脚踩了一下魏桓子，两人手足相触，彼此会意。知伯的部下缔疵对知伯说：“韩、魏两家肯定要反了。”知伯问：“你怎么知道他们要反?”给疵回答：“我是概括情况推测出来的。您率领韩、魏两家攻赵，赵氏灭亡后，接下来就要吞并韩、魏，此乃势所必然。现在与韩、魏约好灭赵以后三分其地，晋阳城仅剩了三版高，城内人吃人，破城指日可待，而魏桓子和韩康子非但不喜，反而面增忧色，这不说明他们要反吗?”次日，知伯把缔疵的话告诉了魏桓子和韩康子。二人说：“这个谗臣想给赵氏游说，让您怀疑我们两家，放松对赵氏的进攻。我们两家怎么能不想早点分赵氏之田，蠢得要干根本于不成的蠢事呢?”韩康子和魏桓子离开知伯，迎面遇到了缔疵。缔疵一见知伯就问：“您怎么能臣下的话告诉他们?”知伯说：“你怎么知道我告诉了他们?”缔疵说：“我见他们严肃地看着我疾步走过去，因此断定他们已经知道我窥破了他们的内心秘密。”知伯很不以为然。缔疵见知氏大祸将临而下自知，借口出使齐国，逃之夭天。
赵襄子派张孟谈潜出晋城去见魏桓子和韩康子。张孟谈对两人说：“常言道唇亡齿寒，智伯带您二位攻越，赵氏一亡也就轮到您二位了。”两人说：“我们也很明白这个道理，只是害怕事情还没干成就走漏风声，立即招来了一场大祸。”张孟谈说：“二位请放心。计谋出于二位之口，人于臣下之耳，绝对不会泄露。”于是三人密议了联合消灭知氏的方案。夜间，赵襄子派人杀死守堤军吏，决水灌知伯军营。知氏军队大乱，韩、魏两家从侧翼袭击，赵襄子率兵出城正面进攻，杀死知伯，一举灭了知氏。赵、魏、韩三家分了知氏领地，赵襄子还把知伯的颅骨雕琢油漆，做成了饮器。春秋战国多亡命侠士，知伯的家臣豫让就是其中之一。豫让想为主人报仇。扮为刑徒挟带匕首潜伏在赵襄子府中的厕所内，企图行刺。赵襄子正要去厕所，忽然心中微微一动，让人上前搜查，活捉了豫让。左右拔剑要杀，赵襄子说：“知伯死而无后，此人想为主人报仇，是个真义士。以后我小心躲开他就是了。”命令放走豫让。豫让又自毁形貌，沿街乞讨，连自己的妻子也没认出。他讨到朋友门上，朋友认出了他，难过地流着泪说：“以你的才干，去伏身臣事赵襄子，是完全能够亲近他的。那时你要干什么，不是很容易吗?何必要如此作践自己!搞到这种地步地报仇，岂不太难了!”豫让说：“我是不能臣事仇人的。我既委身为臣，又去杀他，那就属于有二心的人了。我要这么做，难度是极大的。我之所以这么做的目的，就是要让后代天下做人臣而怀有二心的人感到羞愧。”赵襄子乘车出行，豫让匿伏桥下准备行刺。襄子来到桥头，驾车的马惊了，随从在桥下搜出豫让当场杀死。
知氏灭亡后，赵、魏、韩三家各自为政，形成鼎足之势，进步瓜分晋室地盘，使晋君降成了一个无足轻重的小小的领主。周威烈王二十三年(前403)，赵、魏、韩三家同时派人朝见周天子，要求册封为诸侯。周王见三晋(赵、魏、韩)之势木已成舟，便正式册命赵氏为赵侯，魏氏为魏侯，韩氏为韩侯。
至此，三家分晋也从名义上画了句号。
