东晋时的五胡十六国，实在并不成其为一个国家，所以其根基并不稳固。看似声势雄张，只是没有遇见强敌，一战而败，遂可以至于覆亡。
枋头战后，慕容垂因被猜忌出奔。前秦乘机举兵。其明年，前燕竟为所灭。前秦又灭掉前凉，又有统一北方之势。然其根基亦并不是稳固的。此时北方的汉族，因为没有政府的领导，虽有强宗巨室和较有才力的人，能保据一隅，或者潜伏山泽，终产生不出一个强大的政权来，少数的五胡，遂得横行无忌。然他们亦是人各有心，而且野蛮成习，颇难于统驭的。五胡中苟有英明的酋长出来，亦只得希望汉族拥戴他，和他一心，要联合许多异族以制汉族，根本上是没有这回事的。若要专恃本族，而把汉族以外的异族铲除；则（一）因限于实力；（二）则汉族此时，并不肯替此等异族出死力，而此等异族，性本蛮悍，加以志在掠夺，用之为兵，似乎颇为适宜，所以习惯上都是靠他们做主力的军队，尽数剪除，未免削弱兵力，所以其势又办不到。
苻坚的政策，是把氐人散布四方，行驻防政策，而将其余被征服的异族置之肘腋之下，以便监制。倘使他的威力，能够始终维持，原亦未为非计。然若一朝失足，则氐人散处四方，不能聚集，无复基本队伍，就糟了。所以当时，苻坚要想伐晋以图混一，他手下的稳健派，如王猛，如其兄弟苻融等，都是反对的。而苻坚志得意满，违众举兵，遂以383年大败于淝水。北方异族，乘机纷纷而起。而慕容垂据河北为后燕，姚苌据关中为后秦。
苻坚于385年为姚苌所杀。子丕，族子登，相继自立，至394年，卒为姚苌之子姚兴所灭。此时侵入中原的五胡，已成强弩之末。因为频年攻战，死亡甚多，人口减少，而汉族的同化作用，仍在逐渐进行，战斗力也日益衰弱。其仍居塞外的，却比较气完力厚。此等情势，自公元四世纪末，夏及拓跋魏之兴，至六世纪前半尔朱氏、宇文氏等侵入中原，迄未曾变。
自遭冉闵的大屠戮后，胡、羯之势，业已不能复振。只有匈奴铁弗氏，根据地在新兴（今山西忻县），还是一个比较完整的部落。拓跋氏自托于黄帝之后，说其初建国北荒，后来南迁大泽，因其地“昏冥沮洳”，乃再南迁至匈奴故地。自托于黄帝之后，自不足信，其起源发迹之地，该不是骗人的。他大约自西伯利亚迁徙到外蒙古，又逐渐迁徙到内蒙古的。晋初，其根据地在上谷之北，今滦河上源之西。刘琨借其兵力以御匈奴，畀以雁门关以北之地。拓跋氏就据有平城，东至今察哈尔的西部。这时候，自辽东至今热河东部，都是慕容氏的势力范围。其西为宇文氏，再西就是拓跋氏。
慕容氏盛时，宇文氏受其压迫，未能自强，拓跋氏却不然。拓跋氏和匈奴铁弗氏是世仇。苻坚时，拓跋氏内乱，铁弗的酋长刘卫辰引秦兵把他打破。苻坚即使刘卫辰和其族人刘库仁分管其部落。刘库仁是拓跋氏的女婿，反保护其遗裔拓跋珪。其时塞外，从阴山至贺兰山，零星部落极多，拓跋珪年长后，逐渐加以征服，势力复张。刘卫辰为其所灭。其子勃勃奔后秦。姚兴使其守御北边，勃勃遂叛后秦自立。后秦屡为所败，国势益衰。
395年，慕容垂之子宝伐后魏，大败于参合陂（今山西阳高县）。明年，慕容垂自将伐魏。魏人退出平城，以避其锋。慕容垂入平城，而实无所得。还至参合陂，见前此战败时的尸骸，堆积如山，军中哭声振天，惭愤而死。慕容宝继立。拓跋珪大举来攻，势如排山倒海。慕容宝弃其都城中山，逃到龙城，被弑。少子盛定乱自立，旋亦被弑。弟熙立，因淫虐，为其将冯跋所篡，是为北燕。其宗族慕容德南走广固（今山东益都县西），自立，是为南燕。拓跋珪服寒食散，散发不能治事，不复出兵。北方形势，又暂告安静。
南方当这时候，却产生出一种新势力来。
晋朝从东渡以后，长江上流的形势，迄较下流为强，以致内外相持，坐视北方的丧乱而不能乘。当淝水战前六年，谢玄镇广陵（今江苏江都县），才创立一支北府兵，精锐无匹，而刘牢之为这一支军队的领袖。淝水之战，就是倚以制胜的。下流的形势，至此实已较上流为强。
