當初，范陽人祖逖，年輕時就有大志向，曾與劉琨一起擔任司州的主簿，與劉琨同寢，夜半時聽到雞鳴，他踢醒劉琨，說：“這不是令人厭惡的聲音。”就起床舞劍。渡江以后，左丞相司馬睿讓他擔任軍咨祭酒。祖逖住在京口，聚集起驍勇強健的壯士，對司馬睿說：“晉朝的變亂，不是因為君主無道而使臣下怨恨叛亂，而是皇親宗室之間爭奪權力，自相殘殺，這樣就使戎狄之人鉆了空子，禍害遍及中原。現在晉朝的遺民遭到摧殘傷害后，大家都想著奮發殺敵，大王您確實能夠派遣將領率兵出師，使像我一樣的人統領軍隊來光復中原，各地的英雄豪杰，一定會有聞風響應的人！”司馬睿一直沒有北伐的志向，他聽了祖逖的話以后，就任命祖逖為奮威將軍、豫州刺史，僅僅撥給他千人的口糧，三千匹布，不供給兵器，讓祖逖自己想辦法募集。祖逖帶領自己私家的軍隊共一百多戶人家渡過長江，在江中敲打著船槳說：“祖逖如果不能使中原清明而光復成功，就像大江一樣有去無回！”于是到淮陰駐扎，建造熔爐冶煉澆鑄兵器，又招募了二千多人然后繼續前進。

　　東晉初年由祖逖領導的北伐。祖逖，字士稚，范陽遒縣（今河北淶水縣）人。士族出身，任西晉司州主簿。值大亂前夕，懷抱報國之志，對每況愈下的政局十分關切。半夜里聽見雞鳴，即起身至戶外，拔劍起舞，留下了“聞雞起舞”的佳話。西晉末年洛陽淪沒后，祖逖率領親族鄉黨數百家避亂南下，“以所乘車馬載同行老疾，躬自徒步，藥物衣糧與眾共之，又多權略，是以少長咸宗之，推逖為行主。”時司馬睿與南北門閥士族正熱衷于建立東晉新朝廷，進行權力再分配，根本無意于北伐。祖逖不甘故國傾覆，恒存振復之心，主動請纓，要求領兵北伐。司馬睿任命他為奮威將軍、豫州刺史，但除了千人糧餉和 3 千匹布外，未給一兵一卒和兵器鎧甲。建興元年（313），祖逖帶領舊部數百人毅然渡江，“中流擊楫而誓曰：‘祖逖不能清中原而復濟者，有如大江！’辭色壯烈，眾皆慨嘆。”渡江后，他屯于淮陰，一面鑄造兵器，一面招募士兵，組建了一支 2 千人的武裝，然后揮師北上。北伐的形勢十分嚴峻。黃河以南盤踞著不少豪強武裝，阻遏祖逖北進，逖艱苦奮戰，才打敗自封為豫州刺史的張平等，沖破他們的封鎖，占領譙城（今安徽亳州）。而自封為陳留太守的陳川叛歸石勒，祖逖攻陳川，石勒則派石虎率大軍 5 萬南下，逖設奇兵打敗石虎，接著又大敗虎留守蓬陂塢的桃豹，攻取雍丘（今河南杞縣）。祖逖精于用兵，又善利用矛盾分化敵人，化敵為友。當時豪強武裝趙固、上官巳、李矩、郭默等相互攻戰，他派人說明利害，進行調解，使他們都服從自己的指揮。他“躬自儉約，勸督農桑，克己務施，不畜資產，子弟耕耘，負擔樵薪”（以上均引自《晉書·祖逖傳》），因此受到人民群眾的愛戴。經過 4 年多的苦戰，祖逖率領的北代軍收復了黃河以南的大片失地，使石勒不敢揮兵南向。太興四年（321），正當祖逖抓緊積谷練兵，準備進軍河北時，東晉朝廷派戴淵都督北方六州諸軍事指揮逖軍，并扼制逖軍后路。同時東晉統治者內部斗爭非常激烈。這些情形，使滿腔熱忱的祖逖憂憤成疾，病死軍中。祖逖北伐不計成敗利鈍，生死以之，以攻為守，保障了東晉偏安。他以其節烈豐富了民族精神，是東晉北伐的最高典型，與后來以北伐增益個人威望和門戶權勢者大相徑庭。