西晋末年爆发的八王之乱最终以东海王司马越的胜利收场。永嘉元年（307），司马越派司马睿南渡长江，掌管扬州军事，王导等人作为他的辅佐。此时的司马睿没什么名望，人们都不了解他；
倒是王导，已经有了一定的政治阅历，本人有出身名门，才华气度不凡，声名在外。辅佐司马睿坐镇江东，，稳定局势的大任也主要落在了王导身上。王导虽然跟司马睿同岁，但司马睿处处听他谋划，对王导十分依赖，就像第二个父亲一样。
因此司马睿称为他为“仲父”。司马睿初到建康作为一个没什么权势的地方军政长官，处境十分尴尬，南方人都不买这个外来户的账。《晋书》记载说，司马睿到了建邺（建康的前称，后因避晋愍帝司马邺讳改“建邺”为“建康”）。
