东晋成帝时，将军苏峻联合祖约，以诛杀执政庾亮为名发动变乱，很快威胁到都城建康。
庾亮联合江州刺史温峤要起兵攻讨苏峻，可惜路途遥远，道路阻断，与建康失去联系。正赶上南阳人范汪到寻阳，说：“苏峻政令混乱，贪婪强暴，肆意妄为，已显现出灭亡的征兆。现在的强大是暂时的，由强转弱指日可待，但朝廷危在旦夕，应抓紧时间讨伐他。”温峤觉得他说的很对。庾亮也很欣赏他，让他担任参护军事。
一开始，庾亮、温峤相互推让，请对方担任盟主。但温峤的堂弟温充建议说：“陶侃官居要职，兵力强盛，不如推举他来担当盟主。”于是，温峤派使者到荆州邀请陶侃，约他和自己一起讨伐苏峻。陶侃曾经与温峤有嫌隙，现在仍然不能释怀，推脱说：“守戍边疆才是我的本分，不敢有所逾越。”温峤屡次邀请，都没能让他改变主意。于是，温峤便不再强求，派使者给他送信说：“仁公暂且按兵不动，我先发兵讨伐。”
两天后，平南参军荥阳人毛宝从别处出使归来，听说此事，劝温峤说：“要干大事，应当号召天下人共同参与。协同合作军队才能取胜，不应当各行其是。即使彼此间有猜疑，也不能让外人有所察觉，怎能自己暴露意见不合呢？赶紧追回信使改写书信，表明一定要协同一致，同进同退。如果赶不上先前的信使，就派遣一个新信使。”温峤这才醒悟，当即追回使者改写书信。这次陶侃果然答应了，派督护龚登率军见温峤。随后温峤发布了讨伐苏峻的文书，罗列祖约、苏峻的罪状，传告各地方长官。温峤率领七千士兵，洒泪登上战船。
没多久，陶侃又把龚登召了回去。温峤给陶侃写信说：
近来讨伐苏峻的文书已发，尽人皆知，现在箭已在弦，军队能进不能退，能多不能少。我正要向您报告，下一次大举兴兵的时间约在半月时分，各郡军队都已在路上，您的军队一到达，便可以出发了。现在您把军队召回，一定会让人们心生怀疑，也许由此会影响成败。我虽身负重任，但是才疏学浅，实在需要仰仗您的扶持，听从您的指挥。如果说让我率先发兵，充当先锋，我绝无二话。现在我和您如同首尾相卫、唇亡齿寒。只是担心有人不理解您的深谋远虑，误认为您不急于讨伐叛贼，一有这种猜测便会人心离散，无法挽回。我和您都有统帅一方的职责，休戚相关，理应同舟共济。
最近我们来往密切，情谊有增无减，如有急难，还希望您率兵相救，何况现在是国家有难呢！如今形势危急，并不是只是我这一州受到威胁，文武百官谁不对您寄予厚望？假使此州保不住，祖约、苏峻将在此设置自己的官吏，荆楚西部面临强大的胡寇的胁迫，东部与叛贼为邻，如果赶上连年饥荒，将来的危难，就会远远超过今天的此州。进，您将会成为大晋的忠臣，建立与齐桓公、晋文公相匹敌的功绩；退，也应当以慈父的情爱，为爱子报仇雪恨。如今祖约、苏峻暴虐无道，造成的罪孽震天动地，现在人心一致，都对他恨之入骨。可是他士气正盛，现在进攻，已经犹如以石投卵了。倘若再召回军队，分散兵力，岂不功亏一篑。希望您好好考虑一下我所说的。
王愆期对陶侃说：“苏峻是豺狼，一旦他得志，天下虽大，恐怕也没有您的立足之地了！”陶侃深有感悟，当即穿上战袍登船，也不参加儿子陶瞻的丧礼了，日夜兼程赶去参战。
将军郗鉴驻守的广陵，地方偏远，粮食储备不足，倍受胡寇威胁，人心不稳。他看到诏书后，痛心疾首，当即发动军队，将士们也都奋勇争先，奔赴国难。郗鉴派将军夏侯长等来给温峤送信：“叛贼准备挟迫天子向东到会稽，我们应事先准备，占据要害之地，设好营帐壁垒，一来可防止他逃跑，二来也切断了叛贼的军粮运输。然后固守险要的地势，留出旷野等待叛贼自投罗网。叛贼攻城不能取胜，旷野又没有东西可抢，东边的道路阻断，军粮自然运不进来，粮食一断，一定不战自败。”温峤觉得很有道理。
五月，陶侃率军到达寻阳。有传言说陶侃是来诛杀庾亮，向天下人谢罪的。庾亮非常害怕，便听了温峤的主意，去向陶侃叩拜谢罪。陶侃大吃一惊，赶紧上前阻止，说：“庾元规竟然要给我下跪吗！”庾亮对过去的事悔之不及，举止间很有风度，不知不觉地陶侃已经释怀，说：“当年您缮修石头城来对付我，今天反倒有求于我吗！”随即和他谈笑宴饮，冰释前嫌。陶侃与庾亮、温峤率领士卒共四万人，旌旗延绵七百多里，浩浩荡荡，一同赶赴建康。
西方起兵前来征讨，苏峻听说后便采用参军贾宁的策略，从姑孰返回占据石头城，分出兵马来抵抗陶侃的军队。
十八日，苏峻强迫成帝迁居石头城，司徒王导极力劝阻，苏峻不予理睬。成帝哭着登车，宫中恸哭声一片。当时大雨滂沱，道路泥泞，刘超、钟雅，慷慨悲愤，徒步跟随成帝左右，不肯接受苏峻给他们的马匹。苏峻由此对他们非常憎恶，但没敢加害。为了防备刘超等人，苏峻安排亲信许方等人为司马督、殿中监等职，还让成帝住在库房里。每天，他在成帝面前出言不逊，大放厥词。刘超、钟雅和右光禄大夫荀崧、金紫光禄大夫华恒、尚书荀邃、侍中丁潭侍卫随从，担忧成帝的安危，整日不离左右。当时正赶上灾荒，米价昂贵，苏峻赠送物品问慰，刘超一点儿都不接受。他待在成帝身边寸步不离，更加谦恭的行君臣大礼。虽然处境险恶，刘超仍然为成帝讲授《孝经》和《论语》。
苏峻派左光禄大夫陆晔守卫禁城，逼迫百姓到后苑聚居，再让匡术据守苑城。
尚书左丞孔坦投奔陶侃，陶侃任命他为长史。
当初，苏峻派尚书张暂时督察东部军事，司徒王导偷偷地命令他，用太后诏书发动三吴的官吏士民，发动义兵救天子。会稽内史王舒封庾冰为行奋武将军职，领兵一万，西渡浙江，这样一来吴兴太守虞潭、吴国内史蔡谟、原义兴太守顾众等人都发兵响应。虞潭母亲孙氏对虞潭说：“舍生取义，你义不容辞，不要因我年老受拖累。”并且把自己的家人全都送去参军，将自己的随身首饰典卖充当军资。蔡谟认为吴国内史是庾冰的旧职，应当恢复，便离开吴国，让位庾冰。
东方兵起，苏峻派部将管商、张健、弘徽等拒敌。他们遭遇虞潭，两军对垒，势均力敌，管商等没能继续前进。
陶侃、温峤在茄子浦驻扎。南方士兵熟悉水战，苏峻的士卒擅长步战，于是温峤下令：“离船上岸者，格杀勿论！”正赶上苏峻运送粮米一万斛给祖约，祖约派司马桓抚等人前来迎接。温峤的先锋毛宝，告谕士兵说：“兵法说：‘军令有所不从’，现在机会难得，我们上岸突袭，一定能够成功！”于是率领一千人，擅自前往偷袭桓抚，劫获了全部的粮米，杀敌万人左右，祖约军队因此补给不足，士兵饥饿。温峤上表嘉奖毛宝当机立断，推荐他担任庐江太守。
当时的形势是：郗鉴管理扬州八郡各部的军事，王舒处理浙东军事，虞潭处理浙西军事，王舒、虞潭都听从他的调度。郗鉴率军渡过长江，在茄子浦与陶侃会合。雍州刺史魏该也领兵在此会合。
几天后，陶侃等人率领的水军到达蔡州，逼近建康石头城。陶侃、温峤分别驻扎在查浦、沙门浦。苏峻登上烽火楼观望，眼见对方声势浩大，面露惧色，对左右侍从说：“温峤果然能得人心。”
庾亮擅作主张，派督护王彰突袭苏峻的门党张曜，反而被张曜击败。庾亮自觉有错，交还符节以谢罪，陶侃回答说：“古人错不过三次，您才是第二次。但是现在形势危急，以后不能再这样各自为政了。”庾亮的司马、陈郡人殷融见到陶侃，推脱说：“这次突袭是庾将军的主意，不关我们的事。”王彰却说：“这件事是我的责任，不能归罪庾将军。”陶侃说：“过去殷融是君子，王彰是小人；现在看来，王彰却是君子，殷融才是小人。”
京城失守的消息传到宣城，内史桓彝悲痛欲绝，流着泪带兵驻扎到泾县。当时许多州郡害怕苏峻，来向他投降。裨惠一再劝说桓彝，暂且投降，免得招来祸事。桓彝说：“朝廷委我重任，我应为国家效忠而死，怎能忍受耻辱和谋逆之臣通好！如果这次战败，那也是我的命。”
桓彝的将军俞纵驻守兰石，苏峻遣派韩晃攻打他。俞纵很快就抵挡不住了，左右劝他撤退。俞纵回到：“桓侯待我恩重如山，我当战死报答他的厚恩。正如桓侯不辜负朝廷，我也决不辜负桓侯。”于是全力杀敌，直至阵亡。
韩晃乘胜追击，攻打桓彝。六月，宣城失守，桓彝被遭杀害。
各路义军刚在石头城汇合，就想和苏峻决一死战。陶侃说：“叛贼占领都城，胁迫幼主士气正盛，我们现在不是他的对手。现在应等待时机，以智取胜。”此后，义军多次与叛军交战都没能胜出。监军部将李根提议修筑白石垒，陶侃应允，于是将士们连夜筑垒，天亮就修好了。传来苏峻军队击鼓整队的声音，众将都惧怕他们前来攻击。孔坦说：“不用担心，等到东北风大时，我方水军逆风而行，无法前来救援，那才是进攻白石垒的好机会。今天晴朗无风，贼寇不会来。他们一定是要派遣军队，攻打京口以东地区，所以才整队。”果然如孔坦所料，苏峻率步兵、骑兵一万多人四面围攻白石，因为陶侃提前派庾亮率两千人守卫，使苏峻虽人多势众也没能得逞。
王舒、虞潭等与苏峻军队多次交战，连连败退。孔坦说：“召来郗鉴，使东门失去防卫。现在派他回去，还不算晚。”郗鉴和后将军郭默回军带领军队回到京口，敦默固守大业，这样就形成了大业、曲阿、亭三座壁垒，苏峻不得不分散兵力对付。
陶侃听说，祖约要来偷袭湓口，准备亲自上阵。毛宝说：“您是义军的领导，您不能轻易出动，就让我去冲锋陷阵吧。”陶侃同意。祖约的军队路过皖，想要顺手牵羊，攻下谯国内史桓宣。毛宝前去救援，却力不能敌。拼杀中，敌人的流箭射穿毛宝大腿骨，插到马鞍上，毛宝稳住马鞍忍痛拔箭，血流不止，染红了他的战靴。毛宝回头迎击，祖约军队大败而逃。桓宣得以脱困，归附了温峤。毛宝想要乘胜追击，攻打祖约在东关的军队，夺下合肥戍。恰巧温峤召他会去，于是他回师石头城。
秋季，七月，祖约的手下暗地里与后赵勾结，答应当他们的内应。后赵将领石聪、石堪领兵渡过淮水，进攻寿春，他们与内应里应外合，祖约大败，士兵逃散，跑去历阳，石聪抓了两万多寿春民众回去了。
