曹仁軍在攻下湖陽城後，立即回師攻打舞陽，舞陽城的軍隊原本不多，眼見宛城及湖陽已不能馳援，在無法抵抗的情況下，不久便棄城投降了。
於是，前後不到一個月，曹操軍已收復豫州領地，又回復到一年前的那種大好局面，曹操心中便又十分高興起來。
這時，曹操想到，宛城守備嚴密，一時難攻下，加以年節即到，天氣又日漸寒冷起來，很不利於用兵，乃下令曹洪率兵守住淯水以東，其餘部隊，全部班師返回許都。
曹操回許都等待到第二年三月，決定再度出兵，親臨淮水東岸。這是建安三年，即公元一九八年三月。
這次出兵，曹操仍像第一次一樣，留下荀彧及程昱這對最佳搭檔駐守許都，因第一次曹操出兵時，他二人已將許都管得井井有條，所以這次依然留了他二人。曹操自己則領著荀攸、郭嘉、曹仁、曹洪、於禁、呂虔、許褚等浩浩蕩盪出發。這個季節，原野春深，麥田正熟，曹操巡望一派豐收景象，心中十分欣慰。但是，由於大軍路過，鄉民不明所以，一個個嚇得四處逃散，田里便見不到一個收割的農民。
曹操為此心裡有所不悅。倍感於漢末以來，戰禍連連，軍紀太壞，給百姓帶來了不少痛苦。所以才出現現在這種情況，一聽說有軍隊到來，無不談虎色變，逃之夭夭。
鑑於此，曹操覺得，保護百姓的莊稼尤為重要。因此，他向各軍團及區域守軍下達指令：“吾等奉天子明詔，出兵討伐叛逆，與民除害。方麥熟時，不得已而起兵。大小將校，凡過麥田，但有踐踏者，並皆斬首。軍法甚嚴，爾民勿得驚疑。”
命令一下來，誰也不敢馬虎，軍官經過麥田，都主動下馬，一手牽馬，一手扶麥，小心經過。曹操自己也很小心地拉住韁繩慢慢地走，並細細品嚐著自己下這一道命令的政治效果。可是正走著，冷不防麥田裡，飛起了一隻斑鳩，正從曹操的坐騎面前掠過。那匹馬倏然一驚，竄到了麥田裡，踩壞了大片麥子。曹操就立即召來主簿，問他：“應該怎麼定罪?”
主簿說：“明公一軍之主，怎麼能定罪呢?”
曹操說：“我自己下了命令自己破壞，怎麼能叫別人心服?”
曹操說完，便做出一副準備自殺的模樣。
謀士郭嘉看出曹操的心意，立刻阻止，並表示說：“古者春秋之義，法不加於尊，丞相統領大軍，怎可自戕?”
曹操想了很久，面帶嚴肅的說：“既然春秋有法，不加於尊，我姑且暫免死刑，但仍以頭髮代替之。”
說完，曹操割下發椎，交給主簿，並傳令各軍營示眾：“丞相踐麥，本當斬首號令，今割發以代。”
於是全軍悚然，沒有人再敢輕忽軍令，紀律大整。
曹操大軍到達濟水河畔時，張繡以宛城過於突出，不利於全線防禦，乃戰略性地將軍隊撤守到西南八十里的穰城。這一下，曹操必須接連渡過濟水及湍水才能攻擊穰城，補給線方面便增加了不少困難。
但是，曹操在荀攸建議下，仍然採用中長期策略。下令隔著湍水，在穰城的正對岸建築一座城池，用以長期包圍並攻打張繡軍隊。依荀攸的看法，張繡的軍糧全部仰賴劉表，這是不符合劉表一向保守的戰略的。只要堅持對峙的作戰方法，劉表勢必無法忍受張繡軍隊的長期浪費，他們之間就注定要拆夥。相反，如果對張繡軍逼得太急，反而會使劉表基於同盟之誼而加入戰鬥，與曹軍對抗。
曹操也認識到荀攸計劃的合理性，但是，當他看到張繡耀武揚威的時候，就漸漸的無法忍受了。
在忍無可忍的情況下，曹操派許褚率精銳部隊猛攻穰城，使張繡軍遭到嚴重損失。果然，當張繡軍受到強力壓迫的情況下，劉表便率軍救他來了。這一來穰城對岸的曹軍主力反而腹背受敵，曹操才後悔不聽荀攸的建議。
由於糧食供應困難，曹操決定採取速戰速決的辦法。他經過觀察和思考，大膽地選擇湍水和湟水匯流處。地勢較緩和而且較寬的安眾城作為會戰場所。為了誘敵，曹操下令放棄城池，向西北撤軍到安眾坡。張繡和劉表看到曹操棄城，以為曹軍畏懼，便一路追趕。張繡先率軍渡湍河，擋住曹軍退路，劉表則由西南方面對曹軍施壓。表面看來，曹軍已被逼入死地。
曹操將計就計，置之死地而後生，他故意拖延撤退速度，讓張繡、劉表聯軍行佔據湛水渡口。其實曹操早下令全軍沿著山坡挖掘地道，讓輜重先行通過，並將軍隊埋伏在山腳的另一邊，使張繡、劉表以為曹軍已由地道向東南撤離了。
果然，天明之際，張繡及劉表各自發現曹操的本陣已成空營，以為曹操連夜逃走，又看見了地道上有輜重的痕跡，更確信自己的判斷，於是張繡、劉表在未作詳細勘察的情況下，便順著地道，全軍快速追趕曹軍。
張繡、劉表的軍隊剛追擊不遠，右側山坡高處突然出現大量曹軍騎兵，向張、劉軍左翼猛攻。張繡頓感意外，忙將軍隊調整到右側，但地道盡頭卻又出現曹操的大量步兵。這些步兵迅速沖入張繡、劉表的聯軍左翼。連續的意外攻擊，加上曹操居高臨下運用他最擅長的步騎混合戰，很快便將張繡及劉表的主力部隊打得大敗，不得不退回穰城。雖然賈詡在穰城仍部署堅固的防禦工事，曹操的追擊部隊無法作有效的攻擊，但是，張繡、劉表聯軍主力嚴重受損，已經沒有力量向曹軍作任何攻擊了。
這樣，張繡、劉表聯軍在穰城死守，曹軍屯在城下一時又沒有辦法，直到當年七月的秋收季節，曹操為了抓緊時機準備冬春的糧草，便下令主力部隊，撤回兗州。
於是，這次西征，終於沒能擊垮張繡、劉表，只得暫告結束。