興平元年(公元194年)二月，曹操剛從徐州撤軍，僅僅休整了兩個月，到了這一年的四月，他就又留下司馬荀彧、壽張令程昱駐守鄄城，再次討伐陶謙。這次曹軍進展非常順利，接連攻克了徐州五座城池，一直劫掠了東�？�(治所郯縣，今山東省郯城縣北)、瑯邪國(治所開陽，今山東省臨沂市北)。陶謙部將曹豹與劉備駐扎在郯城以東準備截擊曹軍，曹軍回師后，一舉將其擊破，并趁勢攻克了襄賁(今山東省蒼山縣南)，此時陶謙已經(jīng)魂不守舍，打算棄城，逃奔丹陽。

而恰恰在這時，曹操后方出現(xiàn)了問題。

前九江太守邊讓，是陳留浚儀(今河南省開封市)人，文采、口才都是一流，大將軍何進曾征辟他為下屬，孔融、蔡邕、王朗都與他關(guān)系很好，后擔任九江太守。邊讓自恃才高，對曹操非常傲慢，尤其是曹操為了報父仇，不惜殘害徐州百姓，對此，邊讓很是不滿，曹操聽說后，不禁大怒，下令將邊讓處死，并將其妻子兒女一并誅殺。曹操這一不理智的行動立即產(chǎn)生了負面影響。邊讓名氣很大，他的死在兗州士大夫們中間引起了普遍的擔憂，陳宮素來剛烈，內(nèi)心也對曹操的做法十分不滿，邊讓的死讓他也心生恐懼，遂與從事中郎許汜、王楷以及陳留太守張邈的弟弟張超一起密謀背叛曹操。

陳宮對張邈說∶“如今天下分崩離析，豪杰并起，大人以千里之眾，居于四方要沖之地，手握寶劍，四下觀望，自當成為一代梟雄，卻受制于人(陳留郡屬于兗州)，這豈不是太無能了嗎!如今，兗州州軍全部投入了東征前線，后方十分空虛，呂布是位壯士，能征慣戰(zhàn)，所向無敵，如果權(quán)且將他迎來，一起統(tǒng)治兗州，再靜觀天下的形勢，等待局勢的變化，這正是縱橫捭闔的良機啊!”

曹操、張邈、袁紹三人原本關(guān)系不錯，曹操起兵就是在張邈的地盤，可以說，張邈給予他很大的幫助，但后來，曹操逐漸脫離張邈，被袁紹任命為東郡太守，不久，又成為兗州牧，成了張邈的上司，這自然讓張邈心里不是滋味。另外，呂布在投奔張楊之前與張邈握手發(fā)誓，結(jié)為同盟，讓袁紹恨得牙根癢，張邈也擔心曹操終歸會聽命于袁紹加害自己，內(nèi)心一直非常不安。在陳宮的勸說下，張邈決定趁勢一搏。

當時，曹操以陳宮領(lǐng)兵駐守東郡，陳宮遂率領(lǐng)部下秘密前往河內(nèi)迎接呂布，答應(yīng)擁立呂布為兗州牧。呂布在張楊那里幾個月了，過得并不舒心，聽到張邈等人愿意擁立自己為兗州牧，當然一百個情愿，當即率部趕來。呂布到來后，張邈派親信劉翊對荀彧說∶“呂將軍來協(xié)助曹大人進攻陶謙，請趕緊供應(yīng)軍糧。”留守在鄄城的眾人都心生疑竇，荀彧立即判斷出事情有變，當即下令整頓軍隊，并派人快馬前去濮陽召喚東郡太守夏侯惇前來。

得報后，夏侯惇立即率軍趕往鄄城，途中，恰與呂布軍遭遇，雙方交手后，呂布撤離戰(zhàn)場，遂掩襲濮陽，奪得了夏侯惇的輜重。而后，呂布派人前去詐降，在軍中劫持了夏侯惇，要求拿出錢財贖人，一時間，全軍震恐。夏侯惇的副將韓浩率軍將夏侯惇的大營團團圍住，召來軍中諸將，命令各部均不得亂動，然后，韓浩來到營門外說道∶“你們竟敢如此為非作歹，劫持大將軍，還想活嗎?我受命討賊，豈能僅僅因顧及一個將軍的性命而放縱你們嗎?”又流著眼淚對夏侯惇說∶ “在國法面前我也無能為力啊!”然后下令手下將士直接上前去捉拿劫匪。劫匪們見狀，趕忙跪下叩頭說∶ “我們只是想弄點錢財啊!”韓浩將這些人斥責一通后，全部斬首。

當時，兗州的文武官員很多都與張邈、陳宮勾結(jié)，夏侯惇來到鄄城以后，當夜就下令誅殺了數(shù)十人，局面才得到控制。

與陶謙任命的豫州刺史劉備同時還有另外一個豫州刺史郭貢，至于郭貢是長安朝廷任命的，或者是袁術(shù)任命的，史無明文。孫賁隨袁術(shù)南下，擊破袁紹任命的九江太守周昂以后，被袁術(shù)任命為豫州刺史，不久，袁術(shù)又命吳景、孫賁二人南下，趕跑了周昕，孫賁也被袁術(shù)調(diào)任為丹陽都尉、行征虜將軍，據(jù)此，郭貢可能就是袁術(shù)新任命的豫州刺史。當曹操東征徐州時，袁術(shù)派郭貢抄曹操的后路也在情理之中。

郭貢率領(lǐng)數(shù)萬人馬也不期而至，來到鄄城城下，有人說郭貢是與呂布合謀的，城內(nèi)一片恐懼。郭貢請荀彧出城相見，荀彧將行，夏侯惇等人勸阻說∶“你是全州的依靠，前去十分危險，不行。”荀彧回答∶“郭貢與張邈等人素來沒有什么交情，如今他倉促而來，一定不會蓄謀已久，趁此機會，前去說服，即使不聽從，也可使其保持中立，如果現(xiàn)在就懷疑他，勢必激怒他，反而促使他下定進攻我們的決心。”荀彧從容出城與郭貢見面，郭貢見荀彧毫無懼色，認為鄄城早有戒備，遂不戰(zhàn)而退。

當時兗州各地均紛紛反水，響應(yīng)呂布，只有鄄城、范(今河南省范縣東南)、東阿(今山東省陽谷縣東北阿城鎮(zhèn))三城沒有反叛。

荀彧對程昱說∶“如今全州皆反，只剩下這三座城池還在我們手里，陳宮等人率領(lǐng)重兵前去，如果不深結(jié)城內(nèi)軍民之心，三城勢必投降。你是東阿的名士，回去說服大家，可能會有效果。”程昱遂離開鄄城返回東阿。

當他路過范縣時，對縣令靳允說∶“我聽說呂布將您的母親、弟弟、妻子、兒女扣為人質(zhì)，身為孝子，您此時的心情自然非常沉重!如今天下大亂，英雄并起，最終必定會出現(xiàn)一位蓋世英雄，削平群雄，統(tǒng)一天下。智慧之人當對主子仔細選擇，選擇對了，就會干出一番事業(yè);選擇錯了，將性命不保。陳宮反叛，迎接呂布，兗州百座城市全部響應(yīng)，從表面上看，似乎能有所作為，但你認真觀察觀察，呂布又是什么樣的人呢?呂布對人冷酷無情，剛愎無禮，這不過是一個勇猛的粗人而已。陳宮等人與其聯(lián)合，只是相互利用罷了，沒有把他看作自己的主子，他們的軍隊人數(shù)雖多，最終必定不會成功。曹大人智慧膽略，世所罕見，這是上天賦予的啊!大人一定要堅守住范縣，我則守住東阿，那么，我們兩個將建立起田單一樣的功勞，豈不勝過違背忠義、附從叛逆而母子均被處死?請大人深思!”靳允流著眼淚對程昱保證道∶“不敢有二心!”當時泛嶷已經(jīng)率軍來到了范縣，靳允與泛嶷相見，設(shè)下伏兵將其刺死，然后，回城固守。

程昱又另派一支騎兵切斷了倉亭津"陳宮率軍來到后，卻無法渡過黃河。程昱來到東阿時，東阿縣令棗祗(后來首創(chuàng)了屯田制)已經(jīng)督促軍民加強戰(zhàn)備、堅守城池了。兗州從事薛悌與程昱齊心協(xié)力，最終保全了這三座城池，等待曹操大軍返回。曹操回來后，對程昱非常感激，他握住程昱的雙手說∶“如果不是你，我將無家可歸了!"遂任命程昱為東平相，駐扎在范縣;任命薛悌為泰山太守。程昱年少時經(jīng)常夢見自己登上泰山，雙手捧著太陽，他曾將此事偷偷告訴給了荀或，荀彧又告訴了曹操。曹操對程昱說∶“你終將成為我的心腹之臣。”程昱本名程立，曹操在立上加了一個日字，遂將其改名為程昱。