西元357年，前秦的苻堅在奪得帝位，並重用漢人王猛之後，國力強大，在相當短的時間之內東滅前燕，南取梁（漢中）、益二州，北併吞鮮卑拔拓氏之代，西方兼併前涼，遠征西域，一統北方。在王猛死前，一直阻止苻堅的南進政策，且勸苻堅不要攻擊東晉王朝，因為他認為前秦的國力雖比東晉強，但由於前秦剛剛才統一北方，時機未成熟，加上東晉有長江天險。但一心希望儘早統一中國的苻堅卻嗤之以鼻，直到王猛死後，苻堅認為時機成熟，決定攻擊東晉。

　　在南方，晉琅邪王司馬睿於西元317年在建康（今江蘇南京）稱帝，建立東晉，佔據了漢水、淮河以南大部分地區。直到西元376年東晉孝武帝司馬曜，太元元年，孝武帝司馬矅此年開始親政，謝安升中書監、錄尚書事，總攬朝政，陳郡謝氏成為東晉的最後一個「當軸士族」。同年，苻堅統一了中國北方，前秦與東晉的戰爭已經臨近。當時的東晉，長江上游由桓氏掌握，下游則屬於謝氏當政，謝安儘力調和桓謝兩大家族關係，以為即將爆發的戰爭作準備。

　　在戰爭即將開打之際，東晉王朝面臨強敵壓境，面臨生死存亡的危急關頭，以丞相謝安為首的主戰派決意奮起抵禦。經謝安舉薦，晉帝任命謝安之弟謝石為征討大都督，謝安之侄謝玄為先鋒，率領較強戰鬥力的“北府兵”八萬沿淮河西上，迎擊秦軍主力。派胡彬率領水軍5千增援戰略要地壽陽（今安徽壽縣）。又任名恆衝為江州刺史，率10萬晉軍控制長江中游，阻止秦巴蜀軍順江東下。

    西元378年四月，前秦征南大將軍苻丕率步騎7萬人進攻襄陽。苻堅又另派10萬多人，分三路合圍襄陽，總計投入兵力就是17萬。襄陽守將朱序死守近一年後，于太元四年（379年）二月城破被俘。苻堅又派彭超圍攻彭城，秦晉淮南之戰爆發。謝安在建康布防，又令謝玄率5萬北府兵，自廣陵起兵，謝玄4戰4勝，全殲敵軍。謝安因功封建昌縣公，謝玄封東興縣侯。太元八年（383年）五月，桓沖傾10萬荊州兵伐秦，以牽制秦軍，減輕對下游的壓力，苻堅派苻睿、慕容垂、姚萇和慕容暐等人迎戰，自己親率步兵60萬，騎兵27萬，以弟苻融為先鋒，於八月大舉南侵。謝安臨危受命，以謝石為前線大都督，謝玄為先鋒，並謝琰、桓伊等人，領8萬兵馬，分三路迎擊秦軍。十一月，謝玄派譴勇將劉牢之率精兵5千奔襲洛澗，揭開了淝水大戰的序幕。秦將梁成率部5萬在洛澗邊上列陣迎擊。劉牢之分兵一部迂迴到秦軍陣後，斷其歸路；自己率兵強渡洛水，猛攻秦陣。秦軍驚慌失措，勉強抵擋一陣，就土崩瓦解，主將梁成和其弟梁雲戰死，官兵爭先恐後渡過淮河逃命，1.5萬餘人喪生。洛澗大捷，極大鼓舞了晉軍的士氣。謝石揮軍水陸並進，直抵淝水（今淝河，在安徽壽縣南）東岸，在八公山邊紮下大營，與壽陽的秦軍隔岸對峙。十二月，謝玄就派使者去見苻融，用激將法對他說：“將軍率軍深入晉地，卻緊逼河岸布陣，這難道是想決戰嗎？如果你把陣地稍向後退，空出一塊地方，讓我軍渡過淝水，雙方一決勝負如何！”秦軍諸將都表示反對，但苻堅認為可以將計就計，讓軍隊稍向後退，待晉軍半渡過河時，再以騎兵衝殺，這樣就可以取得勝利。苻融對苻堅的計劃也表示贊同，於是就答應了謝玄的要求，指揮秦軍後撤。但秦兵士氣低落，結果一後撤就失去控制，陣勢大亂。謝玄率領8千多騎兵，趁勢搶渡淝水，向秦軍猛攻。朱序則在秦軍陣後大叫：“秦兵敗了！秦兵敗了！”秦兵信以為真，於是轉身竟相奔逃。苻融眼見大勢不妙，急忙騎馬前去阻止，以圖穩住陣腳，不料戰馬被亂兵沖倒，被晉軍追兵殺死。失去主將的秦兵越發混亂，徹底崩潰。前鋒的潰敗，引起後續部隊的驚恐，也隨之潰逃，行成連鎖反應，結果全軍潰逃，向北敗退。秦軍潰兵沿途不敢停留，聽到風聲鶴唳，都以為是晉軍追來。晉軍乘勝追擊，一直到達壽陽附近的青岡。秦兵人馬相踏而死的，滿山遍野，充塞大河。苻堅本人也中箭負傷，逃回洛陽。