东晋与北方割据政权交战，最为成功的一仗是淝水之战，这是东晋取得的一次最大的胜利。
北方南渡的王、庾、桓、谢“四大家族”，最后执掌东晋朝政的是谢氏。宁康元年桓温死，谢安执政。谢安年轻时与王羲之等名士交游，不肯做官，四十岁才应召入仕。他才干超群，成为东晋名相。谢安执政前，东晋面临的形势很严峻，“强敌寇境，疆场多虞”谢安上台后，采取了四项重要举措。
第一，他与王坦之、王彪之合作，有效抵制了桓温企图代晋称帝的野心，稳住了东晋王朝的政局。第二，他竭力调和南方与北方大族之间的关系，保持各方力量的相对平衡。第三，他推行节俭治国方针，减轻赋税，使南方老百姓得到休养生息，抑制了东晋朝廷和各级官员的奢靡之风，一定程度上缓解了底层百姓与朝廷的矛盾。第四，他派侄子谢玄坐镇广陵，组建了八万人的北府兵团，不久就成为抵抗北方大军进攻的精锐之师。
383年淝水之战前南北形势。
前秦政权的第三代君主苻坚，是十六国割据政权中最有作为的君主之一，曾一度统一过北方。而他之所能取如此成就，很重要的一个原因就是王猛的辅佐。
王猛出生贫寒却学识渊博，在那个以出身和门第说话的年代，苻坚不拘一格拜王猛为相，使前秦政权从一个边陲小国迅速成长为北方霸主。
东晋宁康三年，王猛病故。王猛毕竟是汉族人，他临死前对苻坚留下了两条重要建言：第一，东晋虽然偏安江南，但它毕竟是“正朔相承”，不要轻易攻晋，应与它友好相处。第二，要注意前秦政权内部鲜卑族和羌族首领的离心离德倾向，防止他们反叛。
356年，苻坚刚即位时，前秦的版图仅关陇一隅。
但是，苻坚统一北方后，已经收不住追求更大功业的勃勃雄心，王猛的临终建言他已经听不进去。他认为自己“有众百万，资仗如山”“，投鞭于江，足断其流”他下一个目标就是要一举消灭东晋，统一中国，流芳百世，功垂万代。对此，他坚定不移。
东晋太元三年二月，苻坚向东晋发动了第一次试探性进攻。西线进攻襄阳、淮阳，东线进攻彭城、盱眙。这几个地方都是东晋的前沿战略要点。前秦军队在东线进展顺利，连克下邳、彭城。翌年三月，西线攻克襄阳，东晋襄阳守将朱序被俘，押往长安。五月，东线攻至长江北岸的六合，大有直逼东晋都城建康之势，东晋京师震动。六月，谢玄率领东晋北府兵团在淮南组织反击，以五万人击退了前秦十万大军，初露锋芒。以谢玄为首的东晋新一代将领经受了实战锻炼，积累了经验。
前秦方面的筹划准备：太元七年，苻坚调兵遣将，全面备战，准备进攻东晋。他仰仗前秦拥有九十七万精兵，认为一定能够消灭东晋，统一中国。第二年七月，苻坚正式下达了伐晋命令，规定百姓十丁抽一，扩充军队，征调公私马匹，组织起百万大军，向东晋发起了全面进攻。具体--为：前锋：由苻融统领张蚝、苻方、梁成、慕容垂诸将，率二十五万大军直指东晋在北方的前沿战略要点寿阳东路：以幽、冀二州兵自彭城南下中路：苻坚亲率主力，自长安出发，经项城，在前锋苻融军后面跟进西路：由龙骧将军姚苌率领梁、益二州军队，自巴蜀顺江东下，直指东晋腹地。
东晋方面的筹划准备：针对前秦军队的进攻路线和作战特点，西保荆州，东保淮南，以淮南为重点防御方向，具体--为：以尚书仆射谢石为征讨大都督，统率东西各路晋军以徐、兖二州刺史谢玄为淮南前锋都督，率领谢琰、桓伊、刘牢之诸将统领八万北府兵开赴淮南前线，沿淮水一线布防以龙骧将军胡彬率五千水军自洛口沿淮河西进，增援寿阳——以上为淮南方向。
荆州方向，以车骑将军、荆州刺史桓冲为主将，都督荆州诸军，把荆州治所撤至江南上明，指挥所属各部镇守南平、江陵、夏口诸要点。谢安本人坐镇京师建康，掌控中枢，决策调度。
东晋太元八年九月，苻坚亲率中路大军抵达项城，苻融率前锋至颍口，进攻寿阳。中旬，苻融攻占寿阳，俘获东晋寿阳守将徐元喜。寿阳是东晋在淮南地区的战略要点，水路交通四通八达，从这里可以直接威胁东晋广陵、建康。苻融攻占寿阳后，任命其参军郭褒为淮南太守，并立即派遣前卫将军梁成率五万兵力进军洛涧，并在洛口设木栅栏截淮水，阻止东晋水军西上救寿阳。东晋担任增援寿阳任务的龙骧将军胡彬，进军途中得知寿阳已失守，停止前进，退守硖石。苻融立即分兵围攻硖石。
东晋前线统帅谢石和北府兵团主将谢玄，率领桓伊、谢琰、刘牢之等水陆军共八万余人，开进到洛涧以东二十五里处，得知秦军梁成部队已经攻占洛涧，于是停止前进，准备就地组织防御，抗击秦军。
这时，被前秦军队围困在硖石的胡彬军粮将尽，派人携信去向谢石报告战况说，“今贼盛粮尽，恐不见大军矣”送信人被前秦军队抓获，苻融立即将缴获的这封信报送苻坚，并建议“宜速进众军，捉擒贼帅”苻坚见信大喜，留下大军于项城，亲率八千轻骑急驰寿阳。这时，苻坚做出了一个非常轻率的举动，他让东晋降将朱序，前去东晋军中招降前线统帅谢石。朱序五年前曾在襄阳坚守长达一年多时间，后来因为援军不至、军粮断绝，襄阳陷落，当了前秦俘虏。但朱序人在秦营心在晋，苻坚派他去招降，恰好放虎归山，给了他立功赎罪的极好机会。他见了谢石立即建议说，现在苻坚只带来八千人，假如百万秦军都开到这里，再想战胜他们将会难上加难，“今乘诸军未集，宜速击之，若败其前锋，则彼已夺气，可遂破也”
谢石听说敌方最高统帅苻坚亲自到了寿阳，心中惧怕，不敢出击。谢琰力劝谢石采纳朱序建议，果断出击，消灭其前锋。谢石这才同意派刘牢之率五千精兵出击。
刘牢之率军西进，距洛涧十里处悄然停下。夜间突然强渡过河，一鼓作气，奋勇冲杀，秦将梁成、梁云兄弟均被斩杀于阵前，秦军大败。刘牢之分兵抢占渡口，断敌退路。秦军争相抢渡败逃，被杀被俘一万五千余人。刘牢之还缴获了秦军丢弃的大批军械装备。东晋军大获全胜，士气大振。相反，前秦军队惧敌心理陡增，沮丧之气弥漫全军，士气一蹶不振。
战场上，有时候细节决定胜负，洛涧之战又是一个很典型的例子。苻坚委派东晋降将朱序回去劝降，大错特错。苻坚犯了一个致命的战场错误。洛涧之战，东晋军仅以五千精兵战胜十倍于己的前秦军队，关键胜在三个人：朱序献计正确、谢琰竭力支持、锋将刘牢之指挥将士勇猛冲杀。
东晋太元八年十一月，东晋军队取得洛涧之战大胜后，士气高昂，乘胜前进，直逼淝水东岸。秦军最高统帅苻坚亲自登上寿阳城头瞭望，望见城郊八公山上，草木都在摇动，他怀疑满山都是东晋的伏兵，他转身对苻融说：“此亦劲敌也，何谓少乎。”苻坚心里莫名地紧张起来，他心虚了。这就是晋军在洛涧之战中大败秦军所产生的心理效应，这种心理效应在秦军最高统帅身上如此明显地表现出来，对秦军可不是什么好兆头。
秦军派骠骑将军张蚝渡过淝水迎战晋军，取得小胜。谢玄、谢琰不为所动，率领北府兵团主力严阵以待。张蚝退过淝水，双方隔水列阵，一场大决战一触即发。
由于秦军沿河布阵，对岸没有空隙，晋军无法渡河。但秦、晋两军兵力相差悬殊，晋军不能与秦军旷日持久地隔水对峙下去，必须争取速决。谢玄决定以计取胜。他遣使致信苻融道：“君悬军深入，置阵逼水，此持久之计，岂欲战者乎？若小退师，令将士周旋，仆与君公缓辔而观之，不亦美乎。”
魏晋人大概有个通病，不分场合，都喜欢玩点君子风度。苻坚和苻融老哥儿俩，看来没有读过兵法。兵者，诡道也，哪能玩君子风度？可是他们也想学这一套，竟在战场上玩起君子风度来。他俩商议说，不能让对方小看咱，说咱“不欲战”不妨小退，让晋军渡河，待晋军渡河渡到一半时，我方铁骑发动突然袭击，不相信打不败它。于是下令秦军“小退”
一切都坏在这个“退”字上。秦军由于洛涧大败，对晋军已心生胆怯，这时听到“小退”的命令，士卒们争相向后奔逃，阵势立刻大乱，秦军将帅根本制止不住。朱序在阵后大喊：“秦军败啦。”秦军士卒恐慌心理陡增，部队完全失控。苻融立马道中，想要制止秦军奔逃，结果连人带马被乱军冲倒，被冲上前来的晋军当场刺杀。秦军失帅，乱上加乱，溃不成军。士兵们越逃越紧张，背后大风骤起，树木乱叫，都以为是东晋的追兵越追越近，自相践踏而死者不计其数。苻坚中流矢负伤，单骑逃往淮北。谢玄指挥晋军乘胜追击至青冈，收复江北战略重镇寿阳，缴获秦军大量物资和牛马牲畜。历时四个多月的淝水之战，以东晋大获全胜告终。
东晋军队大获全胜的战报送达建康，谢安正在下围棋。他看完战报，往边上一放，不动声色，继续下棋。但对手从他的棋路、棋速上感觉到了他的情绪变化。棋毕，对方问他：“君有何喜？”谢安答：“小儿辈已破贼。”棋友和观棋者走后，谢安转身回内堂，暗自大喜，“过户限，不觉屐齿之折”
淝水破敌之后，东晋军队乘胜全线反击，相继攻克了谯城、黎阳、成皋等城邑，黄河以南大部分失地均被收复。
前秦号称“百万大军”，为何如此“不堪一击”？主要败因有以下四条：苻坚统一北方后，滋长了严重的轻敌骄傲情绪。他在战略上尚不具备统一中国的条件，至少统一的条件尚未成熟，却急于把追求统一中国的理想付诸行动，这属于战略盲动。他错用朱序前去东晋军中劝降，放虎归山，战场上容不得这样的轻率举动。苻坚虽然统一了北方，但暂时归附前秦政权的诸多异族首领其心未服。尤其鲜卑族慕容垂、羌族姚苌等人，内心并不希望苻坚打胜这一仗，更不希望他实现统一中国的目标。他们希望苻坚失败，然后他们才有“出头之日”因此，当秦军败乱时，他们都争相奔逃，使秦军一溃千里。苻坚对王猛的临终建言不听，导致他在战略判断和战略决策上出现根本性错误。王猛死后，苻坚手下再没有能为他统管全局、出谋划策的高级智囊人物。军无谋而不胜，这是规律。
对于淝水之战，读者不妨把它同曹操战胜袁绍的官渡之战做一番比较。官渡之战和淝水之战都是中国古代战争史上以少胜多的经典战例，但两相比较，可以从双方的战略谋划、备战行动、战役进程、作战指挥、战场细节处理等诸多方面找到许多重大不同之处，可以从中得到一个重要启示：打仗绝对不是闹着玩的，没有长期的、全面周到的、精心细致的谋划和充分准备，可不能轻易出手。心存侥幸，轻易出手，一着不慎，满盘皆输。
385年，淝水之战后，前秦崩溃。
苻坚淝水之战的失败是致命的。淝水之战失败后两年，即东晋太元十年，苻坚被羌族首领姚苌所杀，前秦帝国顷刻瓦解。原五胡贵族纷纷独立，相继出现了后燕、西燕、南燕、北燕、后秦、西秦、后凉、西凉、代国等十二个割据政权，北方重新陷入分裂。
