從此，曹操部下文有足智多謀的臣子，武有勇猛善戰的將領，在山東一帶威名遠揚。於是，曹操派遣泰山太守應劭，前往瑯琊郡去接父親曹嵩。曹嵩自從在陳留避難後，便隱居在瑯琊；當日接到曹操的書信，就與弟弟曹德以及一家老小四十多人，帶著隨從一百多人，車一百多輛，徑直朝著兗州而來。途經徐州時，徐州太守陶謙，字恭祖，為人溫和寬厚、淳樸篤實，一直想與曹操結交，隻是一直沒有機會；得知曹操的父親經過，便親自出境迎接，行再拜之禮表示敬意，還大擺筵席，熱情款待了兩天。曹嵩要走時，陶謙又親自送出城外，特地派遣都尉張闓，帶領五百士兵護送。
曹嵩率領家小走到華縣、費縣之間時，正值夏末秋初，突然下起傾盆大雨，他們隻得前往一座古寺中歇宿。寺裡的僧人將他們接入。曹嵩安頓好家小，命令張闓把軍馬屯紮在兩廊下。眾軍士的衣服都被雨水打濕，他們齊聲抱怨。張闓叫來手下的頭目，在僻靜處商議道：“我們本是黃巾餘黨，勉強投降了陶謙，卻沒得到什麼好處。如今曹家的輜重車輛不計其數，你們想要獲得富貴並不難，隻需在今夜三更時分，大家衝進去，把曹嵩一家殺了，奪取財物，然後一起到山中落草為寇。這個計策怎麼樣？” 眾人都表示同意。
當夜，風雨未停，曹嵩正坐著，忽然聽到四周喊聲大作。曹德提著劍出去查看，當場就被刺死。曹嵩急忙帶著一個妾逃進方丈室後麵，想要翻牆逃走；但妾身體肥胖，無法翻過去，曹嵩慌急之下，與妾一起躲進廁所，結果被亂軍殺死。應劭拚命逃脫，投奔袁紹去了。張闓殺光曹嵩全家，奪取財物後，放火燒了古寺，與五百士兵逃奔淮南去了。後人有詩歎道：“曹操奸雄世所誇，曾將呂氏殺全家。如今闔戶逢人殺，天理循環報不差。”
當時，應劭部下有逃命的軍士，將此事報告給曹操。曹操聽聞後，悲痛得哭倒在地。眾人將他救起。曹操咬牙切齒地說：“陶謙縱容士兵殺害我父親，此仇不共戴天！我如今要傾儘大軍，蕩平徐州，才能雪我心頭之恨！” 於是留下荀彧、程昱率領三萬軍隊，鎮守鄄城、範縣、東阿三縣，其餘的軍隊全部殺向徐州。夏侯惇、於禁、典韋擔任先鋒。曹操下令：隻要奪得城池，就把城中百姓全部屠戮，以報父仇。
九江太守邊讓，與陶謙交情深厚，得知徐州有難，親自率領五千兵馬前來救援。曹操聽說後大怒，派夏侯惇在半路截殺了他。當時陳宮擔任東郡從事，也與陶謙交情匪淺；他聽說曹操起兵報仇，要殺光徐州百姓，便連夜趕來見曹操。曹操知道他是為陶謙當說客，本想不見，但又念及舊恩，隻好請他進入帳中相見。
陳宮說：“如今聽聞明公率領大軍兵臨徐州，為尊父報仇，所到之處要殺光百姓，我因此特地前來進言。陶謙乃是仁人君子，並非貪圖利益、忘恩負義之輩；尊父遇害，是張闓的惡行，並非陶謙的罪過。況且州縣的百姓，與明公有何仇怨？大肆殺戮實在不祥。希望明公三思而後行。” 曹操憤怒地說：“你昔日拋棄我而去，如今還有什麼臉麵再來見我？陶謙殺我一家，我發誓要將他摘膽剜心，以雪我心頭之恨！你雖然為陶謙遊說，可我就是不聽，又能怎樣！” 陳宮告辭出去，歎息道：“我也沒臉去見陶謙了！” 於是騎馬投奔陳留太守張邈去了。
再說曹操大軍所到之處，大肆殺戮百姓，挖掘墳墓。陶謙在徐州，聽聞曹操起兵報仇，殺戮百姓，仰天痛哭道：“我得罪了上天，才致使徐州百姓遭受如此大難！” 他急忙召集眾官商議對策。曹豹說：“曹兵既然來了，我們豈能束手待斃！我願意幫助使君打敗他們。” 陶謙隻得率領軍隊出城迎戰，遠遠望去，曹操的軍隊如同鋪霜湧雪一般，中軍豎起兩麵白旗，上麵大大地寫著 “報仇雪恨” 四個字。
軍隊列成陣勢後，曹操縱馬出陣，身穿白色喪服，揚鞭大罵。陶謙也騎馬來到門旗下，欠身施禮說：“我本想與明公交好，所以托付張闓護送尊父。沒想到他賊心不改，才導致了這樣的事。這實在與我陶謙無關。希望明公明察。” 曹操大罵道：“老匹夫！殺我父親，還敢胡言亂語！誰能把這個老賊生擒過來？” 夏侯惇應聲而出。陶謙慌忙退回陣中。夏侯惇追來，曹豹挺槍躍馬，前來迎敵。兩匹馬剛一交鋒，忽然狂風大作，飛沙走石，兩軍頓時大亂，各自收兵回營。
陶謙回到城中，與眾將商議說：“曹兵勢力強大，難以抵擋，我應當親自捆綁自己前往曹操軍營，任憑他處置，以此來拯救徐州一郡百姓的性命。” 話還沒說完，一人走上前說道：“府君長久以來鎮守徐州，百姓感恩戴德。如今曹兵雖然眾多，但一時還無法攻破我們的城池。府君與百姓堅守不出；我雖然沒什麼才能，但願意獻上一條小計策，讓曹操1死無葬身之地！” 眾人十分驚訝，連忙問他有什麼計策。正是：本為納交反成怨，那知絕處又逢生。