等欲派兵防御洛阳，司马越以无粮推辞，并率朝中重臣及诸将东讨石勒，怀帝困于洛阳。
公元311年，晋怀帝与司马越的矛盾爆发，密诏苟晞伐之，随后司马越病逝，王衍率军归葬封国。当他东行至苦县(今河南鹿邑县)时，遭石勒袭击，晋军精锐受屠尽亡，重臣降后被杀。此时洛阳空虚，被刘聪、王弥兵攻破，杀害官员百姓三万馀人，掳走晋怀帝，史称“永嘉之祸”。
公元313年，晋怀帝被杀，晋愍帝于长安继立帝位，刘聪派刘曜持续攻打。
公元316年，晋愍帝投降，最后受辱被杀，至此西晋亡。而后，各族陆续在北方建立国家，史称“五胡十六国”。
西晋亡后，在北方尚有多个忠于晋朝的地区，即并州北部刘琨、幽州段匹磾、冀州的邵续、青州的曹嶷、徐龛；东北还有慕容廆、段眷；北方还有代王；西北凉州还有张氏集团。然而，并州刘琨先被石勒击溃，投靠幽州段匹磾。段匹磾则奉东晋王敦密令将刘琨处死，之后段匹磾也被石勒击败。刘聪死后，部将分裂，叛逃的多达二十万户，晋军也一度攻打到离其都城不远的绛县，靳准杀刘粲，建立晋藩天王制度，向晋朝臣属，不久遇害。石勒占领了河东，刘曜也抛弃汉旗号，两人都自立为赵国。刘曜载记：在凉州张寔去世之后，其弟张茂向前赵的刘曜称臣(张轨传记载张茂未降并打败了刘曜)。与晋朝对立的三个割据势力，在当时占领了晋朝五分之一的国土。
西晋灭亡使从秦朝、汉朝、三国、魏国等继承和积累下来的国家文化典籍、技术法式、文献档案等全数落入异族之手，或者随着朝廷外逃人员流失域外。因此造成中华文化大量流失，以及众多涉及天文、地理、冶金、材料、军事、工程、制造、农业、医学等保密技术、单传技术和专利技术的流失和失传，中华文化造成不可估量的损失。
当然，这些流失域外和海外的国家文化典籍、技术法式、文献档案等给中国周边地区的文明发展注入极其强大的养分和动力。