呂蒙推薦甘寧擔任升城督，率領士兵在前面攻城，自己率領精銳部隊隨後跟進。凌晨時分發起進攻，呂蒙親自擂鼓助威，士兵們個個奮勇攀登城牆，到早飯時分就攻破了皖城。不久張遼率軍趕到夾石，聽說皖城已被攻陷，只好撤退。孫權為嘉獎呂蒙的戰功，當即任命他為廬江太守，繳獲的人馬全都分給了他，另外賞賜他尋陽屯田的六百士兵和三十名官吏。呂蒙返回尋陽後，沒過一年廬陵郡發生叛亂，將領們征討沒能平定，孫權說：“一百隻猛禽也比不上一隻魚鷹。” 再次命令呂蒙前去討伐。呂蒙到達後，誅殺了叛亂的首領，其餘的人全部釋放，恢復他們的平民身份。

當時劉備命令關羽鎮守荊州，獨佔荊州土地，孫權命令呂蒙西進奪取長沙、零陵、桂陽三郡。呂蒙給長沙、桂陽兩郡送去文書，兩郡守軍望風歸降，只有零陵太守郝普據城堅守不肯投降。而劉備從蜀地親自趕到公安，派關羽率軍爭奪三郡。孫權當時駐守陸口，派魯肅率領一萬人馬駐守益陽抵禦關羽，同時緊急寫信召見呂蒙，讓他放棄零陵，立刻返回援助魯肅。起初，呂蒙平定長沙後，正要進軍零陵，路過酃縣時，帶上了南陽人鄧玄之，鄧玄之是郝普的老朋友，呂蒙想讓他去勸說郝普投降。等到收到孫權的書信應當返回時，呂蒙隱瞞了書信內容，連夜召集將領們，部署作戰方案，決定第二天早晨攻城，又對鄧玄之說：“郝子太（郝普）聽說世間有忠義之事，也想效仿，但他不瞭解當前的形勢。左將軍劉備在漢中被夏侯淵圍困，關羽在南郡，現在我們主上親自率軍征討，最近他們攻破樊城大本營、援救酃縣的部隊，反而被孫規打敗。這些都是眼前的事，是您親眼所見的。他們正首尾難顧、疲於奔命，哪裡還有餘力來救援零陵呢？現在我軍士兵精銳，人人都想奮勇殺敵，主上派來的援軍在路上源源不斷。現在郝子太以危在旦夕的性命，等待毫無希望的救援，就像牛蹄窩裡的魚，希望依賴江漢的水，這種依賴不可靠是很明顯的。如果郝子太真能凝聚士兵的軍心，堅守孤城，還能拖延一段時間等待援兵，那也可以。但依我估計，我們全力攻城，用不了一天就能攻破城池，城破之後，他自己被殺對事情有什麼好處呢？還會讓百歲老母白髮蒼蒼遭受誅殺，難道不令人痛心嗎？我推測他是因為得不到外界訊息，以為援軍可靠，所以才堅持到現在。您可以去見他，為他陳述禍福。” 鄧玄之見到郝普，把呂蒙的意思全都告訴了他，郝普感到恐懼就投降了。鄧玄之先出城向呂蒙報告，郝普隨後就到。呂蒙預先命令四位將領，各選一百名士兵，等郝普出城後就進城守住城門。片刻之後郝普出城，呂蒙上前握著他的手，和他一起上船。寒暄完畢，呂蒙拿出孫權的書信給他看，隨即拍手大笑，郝普看到書信，才知道劉備在公安、關羽在益陽的訊息，羞愧悔恨得無地自容。呂蒙留下孫皎，把後續事務委託給他，當天就率軍趕赴益陽。後來劉備請求結盟，孫權才歸還郝普等人，以湘水為界分割荊州，把零陵還給劉備。孫權把尋陽、陽新作為呂蒙的奉邑。軍隊返回後，就征討合肥，撤軍時遭到張遼等人襲擊，呂蒙和淩統拼死保衛孫權。後來曹操又大舉進攻濡須，孫權任命呂蒙為都督，依據之前修建的營壘，在上面佈置一萬張強弩抵禦曹軍。曹操的前鋒部隊還沒站穩腳跟，就被呂蒙率軍擊敗，曹操只好率軍撤退。孫權任命呂蒙為左護軍、虎威將軍。

魯肅去世後，呂蒙向西駐守陸口，魯肅的一萬多名兵馬全都劃歸呂蒙統領。又被任命為漢昌太守，管轄下雋、劉陽、漢昌、州陵四縣。呂蒙與關羽分地相鄰，知道關羽勇猛雄健，有吞併東吳的野心，而且關羽的轄區位於東吳上游，這種局勢難以長久維持。起初，魯肅等人認為曹操還在，戰亂剛剛開始，應當與劉備互相協助，共同對抗曹操，不能破壞聯盟。呂蒙卻秘密向孫權獻上計策說：“讓徵虜將軍孫皎駐守南郡，潘璋駐守白帝，蔣欽率領一萬機動部隊沿長江上下游動，隨時應對敵軍，我為國家前去佔據襄陽，這樣一來，何必擔憂曹操，又何必依賴關羽呢？況且關羽君臣，依仗他們的欺詐手段和武力，反覆無常，不能把他們當作心腹對待。現在關羽之所以沒有立刻向東進攻，是因為主上您英明神武，我們這些將領還在。現在不趁我們強盛的時候謀取他，一旦我們這些人去世，再想施展武力，還能做到嗎？” 孫權非常贊同他的計策，又順便和他討論奪取徐州的想法，呂蒙回答說：“現在曹操遠在河北，剛剛打敗袁氏各勢力，正安撫幽州、冀州，無暇顧及東邊。徐州的守軍，聽說兵力不多，前去攻打自然可以攻克。但徐州地勢平坦開闊，適合騎兵馳騁，主上今天奪取徐州，曹操隨後十天必定會來爭奪，即使派七八萬人防守，仍然會令人擔憂。不如謀取關羽，完全佔據長江，局勢會更加有利。” 孫權尤其認為這話很有道理。等到呂蒙接替魯肅駐守陸口，剛到任時，表面上加倍施恩，與關羽結好。

後來關羽率軍討伐樊城，留下部分兵力駐守公安、南郡防備東吳。呂蒙上書孫權說：“關羽征討樊城卻留下許多兵力防守後方，一定是擔心我從背後偷襲。我一直有舊疾，請求把部分兵力調回建業，就以治病為名。關羽聽說後，必定會撤走防守兵力，全部調往襄陽前線。到那時我們大軍沿江而上，晝夜疾行，趁他後方空虛發動突襲，南郡就能拿下，關羽也可活捉。” 於是呂蒙對外宣稱病情加重，孫權故意用公開文書召他返回建業，暗中卻在謀劃襲取荊州的計策。關羽果然信以為真，逐漸撤走南郡守軍開赴樊城。

魏國派于禁率軍救援樊城，關羽將其全軍俘獲，一下子增加了幾萬兵馬。他藉口糧草不足，擅自取用了湘關的存糧。孫權得知這個訊息，立即下令出兵，先派呂蒙率領先頭部隊進發。呂蒙抵達尋陽後，把精銳士兵全都埋伏在偽裝成商船的大船裡，讓士兵穿著白色便服搖櫓，打扮成商人模樣，晝夜兼程逆流而上。遇到關羽設在江邊的哨所，就把哨兵全部活捉捆綁起來，所以關羽對吳軍的行動毫無察覺。大軍順利抵達南郡，守城的將士仁、麋芳先後投降。（《吳書》記載：將軍士仁在公安據城堅守，呂蒙派虞翻前去勸降。虞翻來到城下，對守城士兵說：“我要和你們將軍面談。” 士仁不肯見面，虞翻就寫信說：“明智的人在災禍未發生時就做好防備，聰明的人在禍患來臨前就早做打算。知道得失才能做人，知道存亡才能分辨吉凶。我軍行動神速，哨兵來不及傳遞訊息，烽火來不及點燃報警，這不是天意，必定是內部有人響應。將軍不提前看清形勢，時機到了又不抓住，獨自堅守這座孤立的城池不肯投降，拼死抵抗只會導致宗族覆滅，被天下人恥笑。呂虎威將軍打算直接進軍南郡，斷絕所有陸路通道，您的生路一旦被堵死，按地形來看，就像處在簸箕舌頭上，想逃都逃不掉。投降雖失忠義之名，我實在為將軍的處境擔憂，希望您仔細考慮。” 士仁看完信後，流著淚開城投降。虞翻對呂蒙說：“這是軍事欺詐，應當帶士仁同行，留下兵力守城以防變故。” 於是帶著士仁前往南郡。南郡太守麋芳正在守城，呂蒙讓士仁現身勸降，麋芳隨即投降。《吳錄》記載：起初南郡城中失火，燒燬了不少軍械，關羽為此嚴厲斥責麋芳，麋芳內心十分恐懼。孫權得知後派人誘降，麋芳暗中答應歸附。等到呂蒙攻城時，他帶著牛酒出城投降。）

呂蒙進入南郡後，俘獲了關羽及部下將士的全部家屬，都加以安撫慰問，嚴令軍中不得騷擾百姓、索取財物。呂蒙部下有個汝南同鄉，拿了百姓一頂斗笠遮蓋公家鎧甲，雖然鎧甲是公物，呂蒙仍認為他違反軍令，不能因為是同鄉就破壞軍紀，最終含淚下令將其斬首。從此軍中將士人人敬畏，路不拾遺。呂蒙早晚派親信慰問城中老人，詢問他們的需求，對患病的人供給醫藥，對飢寒的人發放衣糧。關羽府庫中的財寶，全都封存起來等待孫權到來處理。