曹操回到許都後，思念典韋，為他設立祭祀，封典韋的兒子典滿為中郎，收養在府中。忽然有消息報告說孫策派使者送來書信，曹操看完書信；又有人報告說袁術糧草匱乏，在陳留劫掠。曹操想趁袁術空虛之時攻打他，於是興兵南征。他命令曹仁鎮守許都，其餘人都隨軍出征：共有馬步兵十七萬，糧食輜重一千多車。曹操一方麵先派人去會合孫策、劉備和呂布。軍隊到達豫州地界時，劉備早早帶兵前來迎接，曹操命人請他進入軍營。見麵之後，劉備獻上兩顆首級。曹操驚訝地問：“這是誰的首級？” 劉備說：“這是韓暹、楊奉的首級。” 曹操問：“是怎麼得到的？” 劉備說：“呂布讓他們暫且駐守沂都、琅琊兩縣。沒想到這二人縱容士兵掠奪百姓，百姓們都唉聲歎氣，抱怨不已。因此我設了一場宴席，假裝請他們來議事：‘飲酒的時候，以擲酒杯為信號，讓關羽、張飛二位賢弟殺了他們，他們的部下全都投降了。現在特地來請罪。’” 曹操說：“您為國家除害，這正是大功一件，怎麼能說是請罪呢？” 於是重重犒勞劉備，合兵來到徐州地界。呂布出城迎接，曹操好言撫慰，封他為左將軍，答應在回到許都的時候，更換印綬給他。呂布十分高興。曹操隨即安排呂布的軍隊在左邊，劉備的軍隊在右邊，自己統領大軍在中間，讓夏侯惇、於禁擔任先鋒。
袁術得知曹操的軍隊來了，命令大將橋蕤帶領五萬兵馬作為先鋒。兩軍在壽春邊界相遇。橋蕤當先出馬，與夏侯惇交戰不到三個回合，就被夏侯惇刺死。袁術的軍隊大敗，逃奔回城。忽然報告說孫策派船攻打江邊西麵，呂布帶兵攻打東麵，劉備、關羽、張飛帶兵攻打南麵，曹操親自帶領十七萬兵馬攻打北麵。袁術大驚，急忙召集文武百官商議。楊大將說：“壽春連年遭遇水旱災害，百姓都缺糧；如今又興兵擾民，百姓既然心生怨恨，敵軍來了就難以抵禦。不如把軍隊留在壽春，不必出戰；等他們糧草用儘，必然會發生變故。陛下暫且統領禦林軍渡過淮河，一來可以前往糧草充足之地，二來可以暫時避開敵軍的銳氣。” 袁術采用了他的建議，留下李豐、樂就、梁剛、陳紀四人，分兵十萬，堅守壽春；其餘的將士以及庫藏的金玉寶貝，全部收拾起來渡過淮河去了。
曹操的十七萬軍隊，每天耗費的糧食數量巨大，再加上各郡又鬨荒旱，接濟不上。曹操催促軍隊速戰，李豐等人緊閉城門，不出來迎戰。曹操的軍隊與之對峙了一個多月，糧食即將用儘，曹操寫信給孫策，借得十萬斛糧米，但還是不夠分發。管糧官任峻部下的倉官王垕進帳向曹操稟報說：“兵多糧少，該怎麼辦？” 曹操說：“可以用小斛分發糧食，暫且解一時之急。” 王垕說：“士兵們要是抱怨，怎麼辦？” 曹操說：“我自有辦法。” 王垕依令，用小斛分散糧食。曹操暗中派人到各營寨探聽，士兵們沒有不抱怨的，都說丞相欺騙眾人。曹操於是秘密召見王垕，對他說：“我想向你借一樣東西，來平息眾人的怒氣，你一定不要吝嗇。” 王垕問：“丞相想用什麼東西？” 曹操說：“想借你的頭來向眾人示眾。” 王垕大驚說：“我實在沒有罪過！” 曹操說：“我也知道你沒有罪，但不殺你，軍隊必然會嘩變。你死後，你的妻子兒女我會親自撫養，你不用擔心。” 王垕還想再說的時候，曹操早已喊來刀斧手，把他推出門外，一刀斬殺，將首級懸掛在高竿上，張貼告示說：“王垕故意用小斛分發糧食，盜竊官糧，謹按軍法處置。” 於是眾人的怨恨才得以平息。
第二天，曹操傳令各營將領：“如果三天內不全力攻破城池，全部斬首！” 曹操親自來到城下，督促各軍搬運土石，填埋壕溝。城上箭石如雨般落下，有兩名偏將因畏懼躲避而退回，曹操拔劍親自在城下將他們斬殺，然後自己下馬接過土石填坑。於是大小將士無不奮勇向前，軍威大振。城上守軍抵擋不住，曹兵爭先上城，砍斷門閂，打開城門，大隊人馬湧入城中。李豐、陳紀、樂就、梁剛都被生擒，曹操下令將他們全部在街市斬首。焚燒了袁術偽造的宮室殿宇以及所有違禁物品；壽春城中，被劫掠一空。曹操商議想要進兵渡過淮河，追趕袁術。荀彧勸諫說：“近年來荒旱，糧食艱難，如果再進兵，勞頓軍隊，損害百姓，未必有利。不如暫且回到許都，等到來年春麥成熟，軍糧充足，再圖謀此事。” 曹操猶豫不決。忽然有快馬來報，說：“張繡依托劉表，再次肆意猖獗，南陽、江陵各縣又反叛了；曹洪抵擋不住，連續輸了好幾陣，現在特地來告急。” 曹操於是寫信給孫策，讓他在長江沿岸布陣，作為威脅劉表的疑兵，使劉表不敢輕舉妄動；自己當天就班師回朝，另外商議征討張繡的事情。臨行前，曹操命令劉備仍然屯兵小沛，與呂布結為兄弟，互相救助，不要再相互侵犯。呂布帶兵回到徐州。曹操私下對劉備說：“我讓你屯兵小沛，這是掘坑待虎之計。你隻要與陳珪父子商議，不要出現閃失。我會作為你的外援。” 說完就分彆了。
曹操帶領軍隊回到許都，有人報告說段煨殺了李傕，伍習殺了郭汜，將他們的首級送來獻上。段煨還把李傕一族老小二百多著押解到許都。曹操命令分彆在各門處斬，將首級傳示各處，號令眾人，百姓拍手稱快。天子登上大殿，會集文武百官，舉辦太平筵宴。封段煨為蕩寇將軍、伍習為殄虜將軍，各自帶兵鎮守長安。二人謝恩後離去。曹操隨即上奏說張繡作亂，應當興兵討伐他。天子於是親自排設鑾駕，送曹操出兵。當時是建安三年夏四月。
曹操留下荀彧在許都，調遣兵將，自己統領大軍進發。行軍途中，看到一路上麥子已經成熟；百姓因為軍隊到來，都逃避在外，不敢收割麥子。曹操派人到遠近各處，遍告村中的父老以及各處守境的官吏說：“我奉天子的明確詔令，出兵討伐叛逆，為百姓除害。如今正是麥子成熟的時候，不得已才起兵，大小將校，凡是經過麥田，隻要有踐踏麥子的，一律斬首。軍法十分嚴厲，你們百姓不要驚疑。” 百姓聽到告示，無不歡喜稱頌，望著軍隊揚起的塵土，在道路兩旁下拜。官軍經過麥田時，都下馬用手扶著麥子，相互傳遞著走過，不敢踐踏。曹操騎馬正走著，忽然田中驚起一隻鳩鳥。那匹馬受了驚嚇，竄入麥田中，踐踏壞了一大塊麥田。曹操隨即叫來行軍主簿，讓他評議自己踐踏麥田的罪過。主簿說：“丞相怎麼能議罪呢？” 曹操說：“我自己製定法律，自己卻違反，怎麼能讓眾人信服？” 立即抽出所佩的寶劍，想要自刎。眾人急忙攔住。郭嘉說：“古時候《春秋》的大義是：法律不適用於尊貴之人。丞相統領大軍，怎麼能自殺呢？” 曹操沉思了很久，才說：“既然《春秋》有法律不適用於尊貴之人的大義，我姑且免死。” 於是用劍割下自己的頭發，扔在地上說：“割發暫且代替斬首。” 派人拿著頭發傳示三軍說：“丞相踐踏麥田，本應當斬首號令，現在割發代替。” 於是三軍將士都十分震驚，沒有人不嚴格遵守軍令。後人有詩評論說：“十萬貔貅十萬心，一人號令眾難禁。拔刀割發權為首，方見曹瞞詐術深。”
張繡得知曹操帶兵前來，急忙發信報告劉表，讓他作為後援；一麵與雷敘、張先二位將領帶兵出城迎敵。兩陣擺開，張繡出馬，指著曹操罵道：“你是個假仁假義、沒有廉恥的人，與禽獸有什麼不同！” 曹操大怒，命令許褚出馬。張繡命令張先迎戰。隻三個回合，許褚就將張先斬於馬下，張繡的軍隊大敗。曹操帶領軍隊追到南陽城下。張繡入城，緊閉城門，不出來迎戰。曹操圍城攻打，看到城壕十分寬闊，水勢又深，很難靠近城池。於是命令軍士運土填埋壕溝；又用土布袋和柴薪草把摻雜在一起，在城邊製作梯凳；還豎起雲梯，窺探城中情況；曹操親自騎馬繞城觀察，就這樣過了三天。曹操傳令讓軍士在西門角上堆積柴薪，召集眾將，準備從那裡上城。城中的賈詡看到這種情形，就對張繡說：“我已經知道曹操的意圖了。現在可以將計就計。” 正是：強中自有強中手，用詐還逢識詐人。