建安五年，一個不惑之年的男子投到孫權賬下，在之後的工作中，因爲他格盡職守，把負責的事物打理的井井有條，所以很快便脫穎而出。孫權決定將此人留在身邊，不久後就升任他至餘姚縣長的職位。
他到職之後的第一件事情就是"招募精健"，組建了一支上千人的部隊，招募來的這些江南健兒就成爲他的嫡系武裝，此後跟着他征戰南北，建功立業。建安九年，孫權與黃祖交戰之際，恰逢江東地區首領發起叛亂。就在這萬分危急的時候，孫權決定啓用此人，將其改任爲督軍校尉。他帶領部下人馬趕往江東，最終將叛賊呂合、秦狼生擒，平定了會稽五縣。經過這次戰役後，他被提拔爲昭信中郎將，成爲東吳主要的軍事力量之一。
建安二十年，他率軍接應呂蒙奪取了荊東三郡，後又鎮壓了勾結關羽的袁龍，次年被孫權任命爲廬陵太守。建安二十五年，此人在南方任交州刺史期間，一面削平嶺南地方勢力，積蓄自身實力，一面秉承孫權意旨，努力尋求剪滅嶺南割據勢力的機會。東吳政權恢復對嶺南的實際統治，是中央政權對於地方割據分裂勢力的勝利，此人的功勞不在魯肅、周瑜之下。
嘉禾三年，從諸葛恪率部清剿吳郡、會稽等四郡山越族部衆引起各地激烈反抗開始，各處山越隨之一時並起，一呼百應，造成了江東舉國震動的局勢。孫權又將此人重用，命其擔任主帥指揮平叛。兩年之後的嘉禾五年，他最終把李桓、羅厲生擒，將其斬殺後首級傳送吳都報捷。這次得勝讓孫權大爲興奮，稱頌其有文韜武略之謀，忠誠勇武之節。這一年他已經73歲。
赤烏二年，他與大都督陸遜共同鎮守武昌，負責京師防務，老當益壯的他也被同僚譽爲超過古代老將廉頗。在他剛剛擔任交州刺史的時候，因爲事務衆多未能顧忌家用，使妻兒貧乏，孫權知道後便加倍賞賜其家屬錢米布絹，並作出規定，每年按例給予供應。在孫亮繼位之後，把其任命爲大司馬，不就後又稱爲上大將軍，成爲東吳後期的第一重臣。
太平元年，爲東吳操勞一生的他以96歲高齡辭世。彌留之際他吩咐家人：以"素棺、疏巾"安葬即可。此人就是在漢桓帝年間出生的呂岱，他的一生幾乎貫穿了整個三國時代，在他去世後24年，東吳便被西晉所滅。