东晋成帝时，将军苏峻联合祖约，以诛杀执政庾亮为名发动变乱，很快威胁到都城建康。庾亮联合江州刺史温峤要起兵攻讨苏峻，可惜路途遥远，道路阻断，与建康失去联系。正赶上南阳人范汪到寻阳，说:“苏峻政令混乱，贪婪强暴，肆意妄为，已显现出灭亡的征兆。现在的强大是暂时的，由强转弱指日可待，但朝廷危在旦夕，应抓紧时间讨伐他。”温峤觉得他说的很对。庾亮也很欣赏他，让他担任参护军事。开始，庾亮、温峤相互推让，请对方担任盟主。但温峤的堂弟温充建议说:“陶侃官居要职，兵力强盛，不如推举他来担当盟主。”于是，温峤派使者到荆州邀请陶侃，约他和自己一起讨伐苏峻。
陶侃曾经与温峤有嫌隙，现在仍然不能释怀，推脱说:“守戍边疆才是我的本分，不敢有所逾越。”温峤屡次邀请，都没能让他改变主意。于是温峤便不再强求，派使者给他送信说:“仁公暂且按兵不动，我先发兵讨伐，两天后，平南参军荥阳人毛宝从别处出使归来，听说此事，劝温峤说:“要干大事，应当号召天下人共同参与。协同合作军队才能取胜，不应当各行其是。即使彼此间有猜疑，也不能让外人有所察觉，怎能自己暴露意见不合呢？赶紧追回信使改写书信，表明一定要协同，同进同退。如果赶不上先前的信使，就派遣一个新信使。”温峤这才醒悟，当即追回使者改写书信。
这次陶侃果然答应了，派督护龚登率军见温峤。随后温峤发布了讨伐苏峻的文书，罗列祖约、苏峻的罪状，传告各地方长官。温峤率领七千士兵，洒泪登上战船。没多久，陶侃又把龚登召了回去。温峤给陶侃写信说:近来讨伐苏峻的文书已发，尽人皆知，现在箭已在弦，军队能进不能退，能多不能少。我正要向您报告，下一次大举兴兵的时间约在半月时分，各郡军队都已在路上，您的军队一到达，便可以出发了。现在您把军队召回，一定会让人们心生怀疑，也许由此会影响成败。我虽身负重任，但是才疏学浅，实在需要仰仗您的扶持，听从您的指挥。如果说让我率先发兵，充当先锋，我绝无二话。
现在我和您如同首尾相卫、唇亡齿寒。只是担心有人不理您的深谋远虑，误认为您不急于讨伐叛贼，一有这种猜测便会人心离散，无法挽回。我和您都有统帅一方的职责，休戚相关，理应同舟共济。最近我们来往密切情谊有增无减，如有急难，还希望您率兵相救，何况现在是国家有难呢！如今形势危急，并不是只是我这一州受到威胁，文武百官谁不对您寄予厚望？假使此州保不住，祖约、苏峻将在此设置自己的官吏，荆楚西部面临强大的胡寇的胁迫，东部与叛贼为邻，如果赶上连年饥荒，将来的危难，就会远远超过今天的此州。进，您将会成为大晋的忠臣，建立与齐桓公、晋文公相匹敌的功绩；退，也应当以慈父的情爱，为爱子报仇雪恨。如今祖约、苏峻暴虐无道，造成的罪孽震天动地，现在人心一致，都对他恨之入骨。可是他士气正盛，现在进攻，已经犹如以石投卵了。倘若再召回军队，分散兵力，岂不功亏一篑。希望您好好考虑一下我所说的。“
王意期对陶侃说:“苏峻是豺狼，一旦他得志，天下虽大，恐怕也没有您的立足之地了！”陶侃深有感悟，当穿上战袍登船，也不参加儿子陶瞻的丧礼了，日夜兼程赶去参战。郗鉴派将军夏侯长等来给温峤送信:“叛贼准备挟迫天子向东到会稽，我们应事先准备，占据要害之地，设好营帐壁垒，一来可防止他逃跑，二来也切断了叛贼的军粮运输。然后固守险要的地势，留出旷野等待叛贼自投罗网。叛贼攻城不能取胜，旷野又没有东西可抢，东边的道路阻断，军粮自然运不进来，粮食一断，一定不战自败。”温峤觉得很有道理。五月，陶侃率军到达寻阳。有传言说陶侃是来诛杀庾亮，向天下人谢罪的。庾亮非常害怕，便听了温峤的主意，去向陶侃叩拜谢罪陶侃大吃一惊，赶紧上前阻止，说:“庾元规竟然要给我下跪吗！”庾亮对过去的事悔之不及，举止间很有风度，不知不觉地陶侃已经释怀，说:“当年您缮修石头城来对付我，今天反倒有求于我吗！”随即和他谈笑宴饮，冰释前嫌。
陶侃与庾亮、温峤率领士卒共四万人，旌旗延绵七百多里，浩浩荡荡，一同赶赴建康西方起兵前来征讨，苏峻听说后便采用参军贾宁的策略，从姑孰返回占据石头城，分出兵马来抵抗陶侃的军队。十八日，苏峻强迫成帝迁居石头城，司徒王导极力劝阻，苏峻不予理睬。成帝哭着登车，宫中恸哭声一片。为了防备刘超等人，苏峻安排亲信许方等人为司马督、殿中监等职，还让成帝住在库房里。每天，他在成帝面前出言不逊，大放厥词。刘超、钟雅和右光禄大夫荀崧、金紫光禄大夫华恒、尚书荀邃、侍中丁潭侍卫随从，担忧成帝的安危，整日不离左右。当时正赶上灾荒，米价昂贵，苏峻赠送物品问慰，刘超一点儿都不接受。他待在成帝身边寸步不离，更加谦恭的行君臣大礼。虽然处境险恶，刘超仍然为成帝讲授《孝经》和《论语》。
苏峻派左光禄大夫陆晔守卫禁城，逼迫百姓到后苑聚居，再让匡术据守苑城尚书左丞孔坦投奔陶侃，陶侃任命他为长史。当初，苏峻派尚书张暂时督察东部军事，司徒王导偷偷地命令他，用太后诏书发动三吴的官吏士民，发动义兵救天子。会稽内史王舒封庾冰为行奋武将军职，领兵一万，西渡浙江，这样一来吴兴太守虞潭、吴国内史蔡谟、原义兴太守顾众等人都发兵响应。虞潭母亲孙氏对虞潭说:“舍生取义，你义不容辞，不要因我年老受拖累。”并且把自己的家人全都送去参军，将自己的随身饰典卖充当军资。当时的形势是:郗鉴管理扬州八郡各部的军事，王舒处理浙东军事，虞潭处理浙西军事，王舒、虞潭都听从他的调度。郗鉴率军渡过长江，在茄子浦与陶侃会合。雍州刺史魏该也领兵在此会合。
几天后，陶侃等人率领的水军到达蔡州，逼近建康石头城。陶侃、温峤分别驻扎在查浦、沙门浦。苏峻登上烽火楼观望，眼见对方声势浩大，面露惧色，对左右侍从说:“温峤果然能得人心。”庾亮擅作主张，派督护王彰突袭苏峻的门党张曜，反而被张曜击败。庾亮自觉有错，交还符节以谢罪，陶侃回答说:“古人错不过三次，您才是第二次。但是现在形势危急，以后不能再这样各自为政了。”庾亮的司马、陈郡人殷融见到陶侃，推脱说:“这次突袭是庾将军的主意，不关我们的事。”王彰却说:“这件事是我的责任，不能归罪庾将军。”陶侃说:“过去股融是君子，王彰是小人；现在看来，王彰却是君子，殷融才是小人。”京城失守的消息传到宣城，内史桓彝悲痛欲绝，流着泪带兵驻扎到泾县。六月，宣城失守，桓彝被遭杀害。秋季，七月，祖约的手下暗地里与后赵勾结，答应当他们的内应。后赵将领石聪、石堪领兵渡过淮水，进攻寿春，他们与内应里应外合，祖约大败，士兵逃散，跑去历阳，石聪抓了两万多寿春民众回去了。