晉元帝即位的第二年，匈奴族的漢國國主劉聰病死。漢國內部也發生分裂。劉聰的侄兒劉曜接替了國主的地位。他覺得用漢朝的名義并不能欺騙人民，在公元３１９年，改國號為趙。漢國大將石勒在反晉戰爭中擴大了兵力，不愿再受劉曜的統治，也自稱趙王。

　　石勒是羯族人，他家世代是羯族部落的小頭目。年輕的時候，并州地方鬧饑荒，他和部落失散了，曾經給人家做過奴隸、傭人。有一次，石勒被亂兵捉住，關在囚車里。正好他的囚車旁邊有一群鹿跑過。亂兵紛紛去追捕鹿群，石勒才趁機會逃走。

　　石勒受盡苦難，沒有出路，就招集一群流亡的農民，組成了一支強悍的隊伍。劉淵起兵以后，石勒投降漢國，在劉淵部下當了一員大將。

　　羯族人的文化比匈奴人要低。石勒從小沒有像劉淵那樣受過漢族文化教育，不識字。他擔任大將以后，漸漸懂得要成大事業，光靠武力不行，就依靠一個漢族士人張賓，采取了許多政治措施。他還收留了一批北方漢族中的貧苦的讀書人，組織了一個“君子營”。

　　由于石勒驍勇善戰，加上有了張賓一批謀士幫他出謀劃策，石勒的勢力更加強大。到了公元３２８年，終于消滅了劉曜。過了兩年，石勒在襄國自稱皇帝，國號仍是趙。歷史上把劉氏的趙國稱為“前趙”，把石勒建立的趙國稱為“后趙”。

　　石勒自己沒有文化，但是卻十分重視讀書人。他做了后趙皇帝后，命令部下，凡捉到讀書人，不許殺死，一定要送到襄國來，讓他自己處理。

　　他聽從張賓的意見，設立學校，要他部下將領的子弟進學校讀書。他還建立了保舉和考試的制度。凡是各地保舉上來的人經過評定合格，就選用他們做官。

　　石勒嚴禁部下提到“胡”字、“羯”字。但是為了安撫漢族士人，有時候也沒有執行禁令。