宴會上，趙衰趁著酒興擊箸吟唱了一首詩，《黍苗》：
芃芃黍苗，陰雨膏之。悠悠南行，召伯勞之。
我任我輦，我車我牛。我行既集，蓋雲歸哉。
我徒我御，我師我旅。我行既集，蓋雲歸處。
肅肅謝功，召伯營之。烈烈徵師，召伯成之。
原隰既平，泉流既清。召伯有成，王心則寧。
聽著詩唱，秦穆公知道了其想法，開口說道：“寡人知道你等想盡快返回晉國。即日就派軍隊護送你等回國。”
聞言，重耳離開了座位，再次對秦穆公拜謝說：“我們這些孤立無援的臣子仰仗您，就如同百穀盼望知時節的好雨。此生必不忘大王的恩惠與施德。”
終於於公元前636年，重耳等人在親兵三千人的護送下，回到闊別二十年的晉國，二月入國都即位，是為晉文公，此時重耳即位已年近六十一歲，當真是大器晚成，天降大任。
這晉文公即位後，精心勵志，任用隨自己苦難的一干重臣，修明政務，對百姓佈施恩惠。國力日漸昌盛。
公元前633年，楚成王和同盟諸侯包圍了宋國，宋國請求晉國援助。晉國在被廬閱兵，晉文公便設三軍、設六卿，原本打算讓趙衰任命，但趙衰推辭道，“臣下才智不足以當此重任，應選合適的人擔任，臣下推薦郤谷為統帥中軍，其愛好禮樂，熟讀詩書，知禮懂法仁義，當為一軍統帥，另可派郤溱輔佐他。上軍狐毛忠貞不二，計謀過人自可任職，狐偃協助他。欒枝可統帥下軍，臣下認為他忠貞謹慎，當可勝任，先軫軍事極佳可協助他。荀林父駕車，魏犨做護衛。”
這便是第一屆晉國三軍六卿的由來。後世人評論趙衰為人低調、不爭權奪利、不計較個人得失，乃“冬日之陽”也。
那郤谷畢竟年事已高，在公元前632年去世，晉文公直接任命先軫為新的中軍將。此時新的三軍六卿便是，中軍將：先軫、中軍佐：郤溱、上軍將：狐毛、上軍佐：狐偃、下軍將：欒枝、下軍佐：胥臣。
在先軫的帶領下，晉國、楚國雙方於城濮大戰，楚國大敗。
此後六卿便延續下來，早期以先軫先氏家族為主，但先軫曾當著晉襄公的面“不顧而唾”，其深感自責，在同年抗擊翟人後，免冑殉翟，其以死明志，也以死向晉襄公道歉。其死後晉襄公又委任其子先且居為中軍將。
但在公元前618年，先氏家族發生鉅變，先軫之孫先克為族人先都所刺殺。當時執掌中軍將的乃是趙衰之子趙盾，趙盾與先氏交厚，故對先克的兒子先榖多加照度。後趙氏家臣臾駢猝死，趙盾將年紀輕輕的先榖拉入六卿，佐郤缺為上軍佐，有人帶道的先榖出道的地位非常高。在趙盾、郤缺等世交前輩的協助下，先氏發展很順利，卻也培養了毫無政治履歷的先榖一種剛愎自用的危險個性，先榖自己卻全然不知，最終釀成慘劇。
公元前601年，趙盾崩逝，郤缺執政，先榖將上軍。公元前597年，郤缺也死了，接替郤缺執政的是剛正卻又木訥的荀林父。按例先榖佐中軍，六卿當中僅居荀林父之下。這一年，晉楚爆發邲之戰，晉三軍六卿悉數出徵，與楚莊王會獵於河水。晉軍中諸卿建議撤退，不宜與楚軍爭鋒，先榖因平日就與荀林父政見不合，對於退兵他嗤之以鼻，並率領所部擅自渡河，荀林父聞訊後，心念先軫與趙衰當年之情，無奈率全軍跟進，晉軍被先榖毫無準備的拖入戰場。邲之戰中，晉軍兵敗如山倒，荀林父回國後，請求國君賜死，尚且為先榖遮禍，晉景公念其大才，且經歷過文、襄、靈、成、景五代國君，十足的五朝元老，忠心耿耿，況且也知道此次失敗非荀林父之責，便既往不咎，仍讓荀林父擔任中軍將。
躲過一劫的先榖沒有過多的反省，只是擔心將來國君會找他算賬，為防不測，竟於前596年率領鮮虞、戎狄等外族部落偷襲晉國，後陰謀失敗，晉景公大怒，殺了先榖又想起年前之敗，兩項結合便連其族也一聲令下給滅了，至此顯赫一時的先氏凋零了。
再說韓氏，其本為晉國公族，出於晉國曲沃一宗。曲沃桓叔生公子萬，被封於韓原（今陝西省韓城市），立韓氏，故稱韓萬，是為韓武子。韓氏在晉武公、晉獻公、晉惠公三朝都很得勢，地位較高，且為曲沃政權的積極追隨者。
公元前前636年，晉文公即位，大力提拔國中各大族以鞏固自己的政權。此時韓氏家主韓簡已死，兒子韓輿又資歷不足，在晉文公集團眼中，韓氏又是擁護惠公政權的，自是存在隔閡。曾經輝煌的韓氏便在晉文公時代走向了低谷，更不幸的是韓輿早喪，兒子韓厥年幼，韓氏人丁單薄，家道中衰。趙衰仁義，將韓厥接到府下撫養，貴胄之後淪落成趙氏的家臣。這韓厥得遇貴人，那趙衰待其不薄，而後趙衰之子趙盾又提拔其為三軍司馬統管三軍的軍法秩序，地位僅次於六卿。這韓厥深受趙衰趙盾影響，剛正不阿。
某一日，趙盾的御戎駕駛著趙盾的戰車在軍陣中亂闖，嚴重擾亂了部隊的秩序。韓厥看見後，當即喝令，“來人！把駕車的給我砍了！”刀斧手立刻將肇事者逮捕，韓厥言出必行，真就把趙盾的親信給殺了。諸將看到此都在暗想，韓厥這小子多半完了，趙盾早上才提拔他，他晚上就背叛了趙盾，斬殺其親軍，真是初生牛犢不怕虎，這韓厥恐怕是難逃此劫了。
然而令眾人大跌眼鏡的是，得到訊息的趙盾趕來非但沒有去怪罪韓厥，反而對韓厥的執法公正大加讚賞：“剛才是我故意讓他擾亂軍隊秩序，看看你的反應。我是放心了。小夥子，好好幹吧，以後執政晉國的人，不是你還會是誰呢？”這之後在趙盾的薰陶之下，韓厥開始在晉國朝卿中展露手腳，在晉景公時期，其決定擴大軍隊編制，將原本三軍六卿改為六軍十二卿，這韓厥終於入六卿拜新中軍將，為新軍六卿之首。
那一年，年僅56歲的一代雄才趙盾去世，在其帶領下維護了晉文公開創的霸業，但也因其權傾朝野，使趙氏一家獨大，但也因此為趙家滅門埋藏了隱患。其去世便將趙氏公族大夫之位讓給其弟趙括，趙括繼任趙氏宗主之位。但是趙括沒有德行，不足以帶領趙氏再續輝煌，於是全族的希望都放在趙盾之子趙朔身上，那趙朔很快便成為卿，官列下軍將。