呂蒙、甘寧為先鋒,蔣欽、潘璋為後援,孫權自己率領周泰、陳武、董襲、徐盛作為中軍。當時程普、黃蓋、韓當在各處鎮守,沒有隨軍出征。
軍隊渡江後,攻佔和州,直接來到皖城。皖城太守朱光派人前往合淝求救,同時堅守城池,不出城迎戰。孫權親自到城下察看,城上箭如雨下,射中了孫權的旗幟。孫權回到營寨,詢問眾將如何攻取皖城。董襲建議築起土山攻城,徐盛則提議豎起雲梯、造虹橋,從高處俯瞰城中並攻擊。但呂蒙認為這些方法都太費時間,如果合淝的救兵一到,就無法攻取了。他建議利用初到時計程車氣旺盛,奮力攻擊,明天一早進兵,中午時分就能破城。孫權採納了他的建議。
第二天五更時分,吃完飯後,全軍大舉進攻皖城,城上箭石齊下。甘寧手持鐵鏈,冒著箭石攀城而上。朱光命令弓弩手齊射甘寧,但甘寧撥開箭矢,一鏈將朱光打倒。呂蒙親自擂鼓助威,士卒們一擁而上,亂刀砍死了朱光,其餘守軍紛紛投降。就這樣,在辰時之前就攻下了皖城。張遼率軍前來救援,但探子回報說皖城已經失守,於是張遼回兵返回了合淝。
孫權進入皖城後,淩統也率軍趕到。孫權慰勞全軍並大擺宴席慶功重賞呂蒙、甘寧等將領。在酒宴上呂蒙謙讓甘寧坐在上席並盛讚他的功勞。然而淩統想起甘寧曾殺死他的父親又看到呂蒙如此誇讚甘寧心中大怒瞪著眼睛直視甘寧很久。突然他拔起身邊佩帶的劍站在宴席上說:“宴席前沒有什麼娛樂節目,看我舞劍助興。”甘寧明白他的用意推開面前的果桌站起來雙手持戟挾在腋下大步走出說:“看我表演戟法。”呂蒙見二人都有敵意便一手挽著盾牌一手提著刀站在中間說:“你們兩位雖然勇猛但都不如我靈巧。”說完他揮舞起刀和盾牌將二人分開。有人將此事報告給孫權孫權慌忙騎馬趕到宴席前。眾人看到孫權到來才各自放下手中的兵器。孫權說:“我經常說你們兩位不要記舊仇今天為什麼又這樣?”淩統哭著跪在地上向孫權請罪孫權再三勸解才止住他。
到了第二天孫權起兵進攻合淝全軍出動。張遼因為丟失了皖城而回到合淝心中感到十分鬱悶。這時曹操派遣薛悌送來一個木匣子上面有曹操的封條旁邊寫著:“敵人來了再開啟。”這天有探子報告說孫權親自率領十萬大軍來攻打合淝張遼便開啟木匣子觀看。裡面有一封信寫著:“如果孫權來到張遼、李典兩位將軍就出戰樂進將軍則守城。”張遼將信件給李典和樂進觀看。樂進問張遼:“將軍有什麼打算?”張遼回答說:“主公遠征在外吳兵以為我們一定會被他們攻破。現在我們可以主動出擊奮力迎戰挫敗他們的銳氣以安定軍心然後就可以堅守了。”李典一向與張遼不和聽到他這樣說便默然不語。樂進見李典不說話便說:“敵人人數眾多我們人數少難以迎戰不如堅守城池。”但張遼堅決主張出戰他說:“你們兩位都是出於私心而不顧公事。我今天要親自出戰決一死戰。”他立即命令左右備馬準備出戰。李典聽到張遼這樣說也慷慨激昂地表示願意出戰他說:“將軍如此大義我豈能因為私怨而忘了公事呢?我願意聽從指揮。”張遼非常高興地說:“既然曼成(李典的字)肯幫助我那麼明天你帶領一軍在逍遙津北面埋伏。等吳兵殺過來時你可以先截斷小師橋我和樂文謙(樂進的字)從正面迎擊他們。”李典接受了命令自去點軍埋伏。
孫權命令呂蒙和甘寧擔任前鋒,自己和淩統位居中軍,其餘將領則陸續進發,直取合淝。呂蒙和甘寧的前鋒部隊正好與樂進的軍隊相遇。甘寧挺槍出馬與樂進交鋒,戰鬥了幾個回合後,樂進假裝戰敗逃走。甘寧招呼呂蒙一起率軍追擊。孫權率領的第二隊聽到前軍得勝的訊息後,也催兵前進至逍遙津北。然而,突然之間連珠炮響,左邊張遼的軍隊殺來,右邊李典的軍隊也殺來。孫權大驚失色,急忙派人召回呂蒙和甘寧救援,但此時張遼的軍隊已經