有一天，赵高去上朝，牵着一只梅花鹿上了大殿。胡亥感到很奇怪，问他这是什么意思。赵高一本正经地对胡亥说：“这是臣下刚得到的一匹好马，打算献给陛下。”胡亥不禁哈哈大笑，说：“丞相错了吧？这明明是鹿，怎么能说是马呀？”赵高好像向众大臣示威似的连声说：“是马！是马！陛下怎么能说是鹿呢？如果陛下不相信，请让众大臣说说，这究竟是鹿还是马？”听赵高这么一说，胡亥更加莫名其妙了。他吩咐大臣们都过来仔细瞧瞧，说说这究竟是鹿还是马。有几个无耻之徒，为了向赵高讨好，就附和着他说：“是马，是马，这哪儿是鹿？”也有几个正直的大臣，不买赵高的账，坚持说：“明明是鹿，怎么会是马？”事后，赵高便捏造罪名，把那几个说实话的大臣都关进了监狱。这么一来，大臣们就更加害怕他了。
而胡亥的暴政，也导致了大规模的农民起义。没过多久，刘邦就率领农民起义军攻占了武关，打开了通往咸阳的东大门。赵高做好了准备，趁京城里人心惶惶的时候，让弟弟赵成和女婿阎乐带领人马去杀胡亥。他们包围了胡亥居住的望夷宫，不容分说，冲过去就捆绑守卫宫门的卫兵。卫队长大吃一惊，质问他们想干什么。阎乐抽出宝剑，一下就结果了他的性命。接着，赵成就命令弓箭手弯弓搭箭，一齐朝宫里乱射。宫里跑出来几十个郎官、宦官跟他们搏斗，也都被杀死了。
胡亥听说赵高发动了宫廷政变，吓得浑身直打哆嗦。不大一会儿，阎乐带领人马闯进了胡亥的内室。他一把揪住胡亥，指着他的鼻子骂道：“你这个无道的昏君，杀了那么多人，办了那么多坏事，实在是罪大恶极。如今，天下的老百姓都起来造反了，你自己也应该好好儿考虑考虑了！”说白了，就是叫胡亥放明白些，快点儿自杀。
胡亥想拖延时间，就央告阎乐说：“我想跟丞相商量商量，行不行？”阎乐恶狠狠地说：“不行！”胡亥又说：“既然如此，请丞相做皇帝，给我一个郡的地方，让我做诸侯王，行不行？”阎乐仍然不答应。胡亥又问：“那就让我做一个万户侯吧！”阎乐还是不答应。胡亥仍然不甘心，又说：“那么，给我留一条活路，让我和妻子去做普通老百姓总可以吧？”阎乐抖了抖手中的宝剑，很生气地说：“你别再唆了！我奉了丞相的命令，就是要除掉你这个昏君。”直到此时，胡亥才知道自己上了赵高的当。可事到如今，再后悔也来不及了。他只好拿起宝剑，战战兢兢地自杀了。当时，他只有23岁。
阎乐和赵成逼死了秦二世胡亥，急忙拿着秦始皇留下来的传国玉玺，去向赵高报告。赵高拿到玉玺，非常高兴，他立即召集文武百官，要进宫做皇帝，可是，大臣们都不同意。他们就像商量好了一样，一个个都站在大殿的外面，谁也不肯上朝。赵高害怕大臣们联合起来反对自己，只好改变主意，说：“如今二世已经自杀，需要另立新君。我看子婴这个人还不错，又是始皇帝的亲孙子，可以由他来继位。始皇帝统一了天下，才改称为皇帝。现在，东方六国纷纷自立，秦剩下来的地盘已经不多了。如果再让子婴继续称皇帝，恐怕有点儿不合适。我看，还是像从前那样，先让子婴称王吧。”大臣们议论了一番，最后都同意赵高的意见。按照当时的制度，他们决定先让子婴斋戒五天，然后再到宗庙里去举行即位仪式。
子婴听说赵高要立自己做秦王，心里非常不安，于是就找来心腹韩谈和自己的两个儿子商量对策。他说：“赵高杀二世的目的，本来是想自己当皇帝，只是由于大臣们反对，才不得不立我做秦王。他野心不死，过些日子还会杀我的，这该如何是好啊？”韩谈说：“与其等着让他来杀咱们，还不如先把他杀了呢！”子婴考虑了半晌，说：“过几天，我要到宗庙去即位，我如果坚持不去的话，赵高一定会亲自来请我。到那个时候，咱们就下手把他杀了。”韩谈和子婴的儿子都同意这么办。到了第五天，赵高和大臣们一齐来到宗庙里，迎立子婴即位。可是，左等也不来，右等也不来。赵高派人请了几次，子婴推辞说：“我生病了，今天不能去。”赵高很生气，果然亲自来请子婴。见了子婴，赵高没好气地责备他，话音刚落，冷不防子婴挥起一把寒光闪闪的宝剑，一下子将赵高刺倒在地。韩谈等人也从暗处跳出来，往赵高的身上乱砍。
赵高这个祸国殃民的家伙，终于被除掉了。文武百官听说了，都纷纷赶来向子婴表示祝贺，一致拥立他即位做秦王。
