公元307年，琅邪王司馬睿被任命為安東將軍，前往楊州鎮守。江南是昔日東吳勢力範圍，儘管被西晉滅亡，地方大族經濟實力堅強、地位屹立不搖，根本看不起西晉派來的司馬睿，對他不理不睬當空氣一般。到職很久以後，地方的士人一個也沒來拜碼頭，司馬睿深感沮喪，常常藉酒消愁（本身也是貪杯之人，只是多了乾杯藉口）。

還好，司馬睿身邊有一個好朋友兼智多星王導，深闇人心，他在東吳士人面前，導演了一場司馬睿形象莊重、衛隊壯觀森嚴的戲劇（生在現代他一定可以成為王導演——簡稱還是王導）。在一場慶典活動中，司馬睿假意前往祭祀水神，王導命人準備一座高級轎子，特別不加遮陽的篷蓋，好讓大家看清楚司馬睿從容威儀的相貌，北方大族與知名士人則騎馬尾隨在後，侍衛齊整有秩序，整個呈現出帝王出遊的排場與架勢。江南大族顧榮、賀循等人在路旁看得呆了，不自覺地拱手參拜。王導第一幕，成功！

緊接著，王導親自拜訪各大世族領導人，延攬他們接受官位，齊來輔佐司馬睿。司馬睿也聽從王導意見，重用當地士人，並為了自身形象與親政時清醒的頭腦，下定決心戒酒。在王導得宜的政策下，加上西晉末年局勢動盪——流民不斷起事、北方胡族南侵，讓江南士人開始覺得有個軍隊來保護他們很不錯，逐漸改變對司馬睿的態度。經過十年的努力，司馬睿在江南站穩了腳跟。公元318年，晉愍帝司馬業死訊傳至健康，司馬睿便從晉王改稱皇帝，史稱晉元帝。

比起西晉那些相互屠殺的司馬氏，司馬睿看來真是一時俊傑，既能接納建言，又能勤於政事，史稱其「恭儉退讓，沉敏有度量」。然而司馬睿為人無甚雄略，才一開國，便決心在南方好好過活，北方亂成一團就去亂吧！好在王導也是這麼想，無怪乎兩人合作無間、互為好友一輩子。但即使偏安江南，司馬睿心中仍有說不出的苦惱，他一方面要忍讓江南大族的強勢，再方面還得包容北方世族的蠻橫。

江南大族雖然接受了司馬睿，但晉朝遺族整體南遷後，雙方開始產生實質的政權與經濟利益衝突。自中原南遷的僑族大姓跋扈成慣，連皇帝都要敬他們三分，因為他們是東晉政權最主要的組成分子。但看在江南世族眼裡，你們不過是一批喪家的流亡難民，竟然在朝中與我等爭權，這也就罷了，還想在我們的經營多年土地農田上分一杯羹。司馬睿看似夾在中間的小媳婦，其實他也是北方人，難免對南人保有戒心。周玘、周勰父子先後起兵叛變，但皆在籌備之際就遭到告發，如果是在別的朝代，結局一定是殺殺殺，看要誅三族還是五族，但晉元帝只能裝沒事，私下搞個小動作羞辱他們而已。