公元612-公元614年，隋炀帝接连三次发动了对高丽的战争，再一次给人民带来了深重的灾难。他一次征兵就是一百多万人，还征调民工在东莱（今山东掖县）、海口造船三百艘。百姓为了逃避兵役、徭役，甚至把自己的手脚砍掉，还起名叫“福手”“福足”。在忍无可忍的情况下，波及全国的农民起义终于爆发了。
公元611年，王薄首先在山东起义，全国各地纷纷响应，其中最有影响的是翟让、李密领导的瓦岗军。而笑到最后的却是李渊父子。
李渊出身于官宦世家，他的母亲就是隋文帝独孤皇后的妹妹。因此论亲戚，李渊是文帝杨坚的外甥，炀帝杨广的表哥，因此李渊七岁袭爵唐公，备受信任。公元613年，杨玄感举兵反隋，杨广派李渊前往讨伐，诏命关陇兵马都受李渊统率，李渊的势力因此大增。
杨广是个猜忌心很重的君主，臣子权力过重，他就会借故诛杀，连亲戚也不例外。杨广曾一度对李渊也起了杀心，某次召李渊入朝觐见，李渊迟到，杨广便问在他后宫的李渊一个外甥说：“你舅舅怎么回事？”此人回答说：“我舅舅生病了。”杨广冷笑着反问：“会病死吗（可得死否）？”李渊听闻此事，大为惊恐，于是故意整天沉溺于酒色之中，以表示自己并无丝毫的政治野心。公元617年初，李渊调任太原留守。
太原古称晋阳，因城内有皇帝行宫，就称为“晋阳宫”。李渊身任太原留守，手下两名副留守虎贲郎将王威、虎牙郎将高君雅都是隋炀帝杨广安插在李渊身边的监视耳目。
《新唐书·裴寂传》中记载了一个李渊“醉卧晋阳宫”的故事。据说李渊和当时的晋阳宫监裴寂两人很谈得来，经常在晋阳宫中饮酒醉卧。裴寂为了讨好李渊，故意挑选一些宫女前去侍寝。这种事有违国法，于是裴寂主动对李渊提出：“这么干是死罪，与其事发被杀，不如造反吧。”其实是李世民贿赂裴寂，让裴寂这样向父亲进言，并且和盘托出李世民的造反计划。此时天下纷乱，豪杰并起，而突厥兵频繁侵扰太原地区，附近反叛势力又此起彼伏。李渊思前想后，没有第二条道路可走，只好认可了朋友和儿子的合谋。
其实李渊早就存有反心，不过他老谋深算，要等待时机成熟，不会像李世民那样急躁。正好刘武周造反，攻击汾阳宫，李渊召集部下众将商议说：“我当太原留守，汾阳宫也在我的管辖范围内，现在遭到贼人攻击，我不能将贼人击退的话，一定是死罪。然而大规模出兵需要事先禀报皇帝，现在皇帝远在江都，一来一去恐怕缓不济急，怎么办？”众将都说：“为了国家的利益，您可以自主决定，不必先请示汇报。”李渊要的就是这句话，于是招募兵卒，很快就聚拢了万余人。
王威和高君雅看到李渊这种举动，猜到了他的造反意图，就建议李渊去晋祠祈雨，想趁机设下伏兵，擒拿李渊。李渊早就关注着两人的动向，于是先下手为强，怂恿开阳府司马刘政诬告王威和高君雅谋反，抢先把两人捉了起来。正好没过几天，突厥兵再度前来侵扰，李渊就在军中宣布说：“有人告发王、高暗通突厥，看起来真是事实。”于是杀了两人，于公元617年六月祭旗起兵，迈出了兴唐灭隋的第一步。随后，李渊作出了富有政治远见的重大决策：他派人出使突厥议和，表示愿意永远结为盟好，并请求出兵协助伐隋。这不仅消除了他挥师南下的后顾之忧，还得到外来的兵援，壮大了自己的声势。此后他便招募兵员，制造弓箭，蓄养马匹，积极扩大自己的武装力量。
与此同时，李渊广泛利用自己的社会关系和政治地位争取各界人士的支持，获得了人力、物力、财力的巨大援助。在短短的120多天内，李渊便占领了关中，攻下了长安。
李渊攻进长安以后，本可以立即称帝建国，但他没有这样做，而是从有利于兴唐灭隋的战略角度，十分机智地处理各种复杂的问题，又一次表现了他的远见卓识。李渊立隋炀帝的孙子，13岁的代王杨侑做皇帝，就是隋恭帝，尊当时在江都的隋炀帝为太上皇，自己做大丞相。这样，他既取消了隋炀帝的帝位，又可以利用杨侑这块招牌去招降隋朝的文武官员，把全部大权操纵在自己手里。
公元618年，隋炀帝在江都被杀，同年五月李渊废掉隋恭帝，改国号为唐，定都长安，自己当上了皇帝。唐王朝建立后，又经过近10年的战争，终于消除了各方割据势力，使中国历史进入了又一个统一强盛的时期。
