稱漢帝，310年劉淵病死，傳到劉淵兒子劉和手上，但是劉淵第四個兒子劉聰殺劉和代立。打著漢家旗號的劉氏連連對西晉用兵，311年，劉聰手下與族弟兼劉淵養子劉曜與石勒等一起帶兵殺入洛陽。一部分逃脫的皇族和殘餘文武大臣逃向關中，還有一部分就是南渡的司馬睿這些我東晉軍民。

中原陷入混戰，劉氏從幷州反晉，劉聰得一面收拾中原以北幷州境內最大的仍然支援西晉的勢力劉琨，一面得向長安進行追擊，還要佈置繼續攻打洛陽以南的殘餘勢力。在這期間，劉聰要攻打佔據晉陽郡的劉琨，劉琨聽信部下互相離間，無端殺了手下將軍令狐盛，令狐盛的兒子令狐泥為報父仇，帶著劉家的軍隊從平陽郡殺向晉陽郡，劉家子弟以劉粲、劉曜為首。這劉家匈奴王一說，並非是漢代那些匈奴人，他們是到了三國時期曹操平定北方時候，安頓在中原的原匈奴部族，曹操分匈奴移民為五部，劉家這一支出自幷州新興郡，劉淵做了五部匈奴民帥統領五部，相當於五部的民兵頭領，在八王之亂中，有司馬家的王爺想借劉淵的子弟來打內戰，劉淵早已看到西晉腐朽，皇族爭權而必將大亂，便回到西河郡，乘機在老家開始著手反晉，就在西河郡修建左國城。這是劉家的開始，他們在歷史上被稱作前趙國，那是因為避免誤讀為西漢東漢的強大漢代。而司馬勳據老夫所知，他以晉朝叛將令狐泥的養子後來自稱，在長安叛將令狐泥奉劉曜之命收養的原“大長秋恂（三國魏國時期司馬懿的弟弟之一司馬恂）之玄孫，冠軍將軍濟南惠王遂之曾孫，略陽太守？之子”，這就是老夫要說的司馬勳。

劉淵起兵反晉那夥兒，就打到過晉陽郡，劉琨堅持在西晉皇室一方，他反攻晉陽郡，重新在太原一帶支援晉室朝廷，這次劉淵打來，劉琨請求真正的北方部族？？不屬於晉室朝廷的鮮卑族人來做援兵對付劉淵的原匈奴移民組成的漢兵，這時候的鮮卑族人派出了拓拔家族的人帶兵來協助太原城，也不知道是不是故意的，鮮卑族人沒有到達太原城下，結果劉琨已經不得不面對石勒從冀州攻打過來。在樂平一帶，劉琨大敗於石勒，後路已斷，他帶著敗軍逃往幽州投奔鮮卑各族中的一族，劉琨在幽州薊中與這支鮮卑族人結盟，可是後來這支鮮卑人起了疑心，劉琨被鮮卑人包圍在一作小城中，戰敗被捉拿並扣押為人質。經過數月，鮮卑人想和中原各勢力開戰，拿他來試探晉朝漢國以及石勒等各處，劉琨被鮮卑人帶往晉陽郡一帶對付劉淵。據說，建康荊州一帶的王敦當年都派來信使帶著來信到鮮卑軍營，暗中帶王敦大都督的口信說是勸說鮮卑族人殺掉劉琨，這事情老夫當年還沒有出生，不知道是否屬實。

劉琨就這樣給鮮卑人殺掉，而晉陽郡太原城卻給劉淵等手下再度包圍，守城將士投降，整個幷州為劉淵劉聰所得。307年登基的西晉晉懷帝在311年劉家子弟等攻陷洛陽時候被俘，313年，劉聰殺掉懷帝，同年，前面說過的晉愍帝司馬鄴在長安做拼死一搏，可是江南在桓溫之前就有司馬睿手下王敦派人帶兵北上支援中原皇族，如果也叫北伐的話，那是有的，王敦就在北伐中指揮過，他王家有不少人在軍中，但是他們恐怕是與後來桓溫一樣沒有盡力的。316年長安被劉曜打下，晉愍帝被俘給劉家弟子帶往平陽郡，在平陽城中做了一年半載的俘虜後又被殺掉，這才有司馬睿在建康稱帝。

318年，劉聰和他父親一樣生病死去，劉粲即位，但是這司州平陽城裡卻發生了政變，某大臣殺劉粲奪權，平陽城裡的劉家子弟被殺光。這個大臣想依靠東晉來對付劉曜，劉曜在長安繼續稱漢帝，與河北的石勒一起進攻平陽並打下平陽郡。這時候石勒已經勢大，劉曜繼續回到長安，從此逐漸開始與石勒翻臉。但鮮卑人南下中原已經成為定局，劉聰在位時候前趙國還有石勒的軍隊已經與鮮卑人衝突起來，原西晉的殘餘勢力也在其中攪合