曹操接到兖州内乱的消息后，心中又惊又愤，惊的是这场叛乱之来势汹汹，随时可能使他失去立足之地；愤的是叛乱的领头人竟是昔日一直支持他的挚友张邈，以及他给予了极度信任的谋臣陈宫。
张邈和曹操的关系原本十分亲密，两人既是故交，又是挚友。当初曹操在陈留起兵，张邈给予了大力支持。而在讨伐董卓时，也只有张邈愿意派出一支队伍与曹操同行，虽然队伍人数不多，但也足以表明其对曹操的支持与友谊。在关东联军结盟之初，曹操是张邈的部属，盟主袁绍曾为了拉拢曹操，而表示支持曹操将张邈取而代之，结果遭到曹操的严词拒绝，张邈得知此事后，对曹操十分感激。
张邈
然而，在曹操担任兖州牧之后，张邈对曹操却生出了一些嫌隙。曹操原本是自己的部下，如今地位却突然超过了自己，面对昔日朋友地位的变化，张邈心中逐渐生出不满。同时，张邈也担心终究有一天会被曹操所灭，这种担忧和不安随着曹操的攻城略地愈演愈烈。
陈宫曾因仰慕曹操的名声而归附，在为曹操谋取兖州之地的过程中更是功不可没。但可惜，原本惺惺相惜的两人却因名士边让的死而心生嫌隙。边让是陈留人，曾任九江太守，和袁术颇有交情。曹操击败袁术时，边让在陈留隐居，得知袁术败北的消息后，边让心有不平，便多次出言讥讽曹操。此事辗转相传，被好事之人上告了曹操，曹操得知后勃然大怒，立即下令以扰乱军心的罪名将边让捕杀，此事还牵连了一干兖州名士。
陈宫与边让是旧识，同时又是士族统治的忠实拥护者，曹操此举不仅对兖州士族造成了极大伤害，同时也伤害了陈宫对他的仰慕之情，陈宫因此而对曹操有了不满。此外，陈宫与陶谦也素有交情，当初曹操第一次东征时，陈宫就曾极力劝阻，可惜未能成功。
种种事情加在一起，使得陈宫对曹操的怨愤与日俱增，于是，趁着曹操再次攻打徐州，后方空虚之际，陈宫便联合兖州从事中郎许汜、王楷以及张邈的弟弟张超等人，准备反叛曹操。曹操东征时，为了防范北方的冀州、青州两州军队伺机来袭，曾经交给陈宫一支部队，驻守在东郡地区。不想，这支军队却成了陈宫日后反叛曹操的资本。
怀抱着不同的心思和对曹操共同的不满，张邈与陈宫一拍即合，共同兴兵叛乱。为与曹操对抗，张邈还秘密派人前往河内邀请猛将吕布入主兖州。
那么，张邈等人又是如何与吕布交好的呢?
吕布
当初，吕布和王允杀死董卓之后，董卓的部将李傕、郭汜起兵打败吕布，杀死王允，控制了朝政。吕布出逃后便前往扬州投靠袁术，袁术因吕布为人善变而拒绝接纳他。之后，吕布又到北方投靠袁绍，袁绍想利用吕布的勇猛对付张燕的黑山军，便收留了他。谁知吕布在打败张燕之后，越来越目中无人，不仅纵容将士烧杀抢掠，并且还要求袁绍增加他的兵力，引起袁绍强烈不满，遂对吕布起了杀心。一天，袁绍召见吕布，说接到了朝廷的诏令，要封吕布为旧都洛阳的司隶校尉，以表彰他攻灭黑山军的功绩。此后，袁绍更是派遣一队精兵护送吕布前往洛阳“赴任”。当时，汉献帝落在李傕等人手中自顾不暇，又怎么可能颁布什么诏书来封赏吕布呢？袁绍编出这样的谎话不过是为了除掉吕布，而所谓的“护送精兵”自然就是为了将吕布“护送”到鬼门关。
还没出冀州，吕布就察觉出了情况不对，于是在一天夜里趁着夜色赶紧和亲信部下偷偷逃跑了。吕布打算前往河内投靠太守张杨，途经陈留的时候，张邈因忌惮吕布的勇猛，对他盛情款待，让处于苦况之中的吕布非常感动。于是，吕布便与张邈相约，日后只要有事，必定相互协助。因此，在准备与曹操对抗的时候，张邈第一时间便想到了吕布。
张邈和陈宫在兖州都拥有非常高的声望，尤其是在陈留和东郡两地，更是拥有深厚势力。曹操当初之所以能够轻易取得兖州，主要也是依靠陈宫等人的支持和拥护。因此，曹操失去张邈和陈宫等人，无异于失去了兖州的大半民心。加之边让事件以及曹操在徐州大开杀戒等事，使得兖州各郡县都深感不安。因此，张邈等人一起事就得到了一些郡县的响应，很快，他们便占领了兖州绝大部分郡县。只剩下荀彧和寿张令程昱等所驻守的鄄城、东阿、范城，以及夏侯惇驻守的濮阳仍在曹操的控制之下。
为彻底夺取兖州，陈宫亲自领兵攻打东阿，派遣氾嶷攻打范城。与此同时，豫州刺史郭贡也率领数万精兵进入兖州，向鄄城逼近。目前的形势对曹操来说，十分严峻和危急。
曹操
张邈等人暗中迎吕布入兖州之后，随即派人前往鄄城对荀彧说：“吕将军来是为了帮助曹使君（曹操）共同攻打陶谦的，我们应立即为吕将军提供军粮。”众人都非常疑惑，不知是真是假，唯独荀彧顿生疑心，看穿了张邈等人的奸计，立刻下令军队加强防范，并将夏侯惇紧急调回鄄城。其时，曹操的家眷均在鄄城，夏侯惇得知情况后，自然不敢怠慢，即刻奔往鄄城，不料途中却遭到了吕布截击。夏侯惇奋力搏杀，无奈之下只得丢弃所有辎重往鄄城奔去。吕布迅速占领了濮阳，并缴获夏侯惇所有辎重。
为了彻底击垮夏侯惇，吕布派遣手下将领伪装成逃兵前往夏侯惇军营诈降。这些人去到营中后将夏侯惇劫持为人质，全军震动，顿时乱作一团，不知如何是好。关键时刻，夏侯惇副将韩浩率部将大营团团围住，并下令不许放走任何一名劫匪。韩浩对着营内的匪徒们大喝道：“你们不想活命了吧！竟敢如此为非作歹！不要以为劫持了将军便能逃过一劫，我等奉命讨贼，绝对不会为了一个将军而姑息你们！”被劫持的夏侯惇听到韩浩如此说，气得眼睛瞪得如铜铃一般。韩浩只是副将，如此得罪夏侯惇，心里也虚得慌，只得流泪对夏侯惇说道：“将军啊，如今在国法面前我也是无能为力，还请您见谅啊！”眼见韩浩没有丝毫妥协的态度，而吕布又迟迟不来接应，营中匪徒只得缴械投降，夏侯惇也捡回了一条命。后来曹操得知此事，对韩浩大加赞赏，并下令左右，以后再遭遇这样的事情，无须顾及人质，定要将贼人尽数诛杀。
夏侯惇逃过一劫后即刻奔向鄄城，抵达鄄城后，夏侯惇立刻下令整饬部队，揪出了许多与张邈暗中通谋的将士官员，将其一并处死，这才将鄄城军心迅速稳定下来。然而这时，郭贡的军队已经兵临鄄城城下，军中无不恐惧。此时，郭贡突然遣人来传话，要求与荀彧相见。夏侯惇等人极力反对，恐荀彧遭遇不测。但荀彧却认为，郭贡与张邈等人素无往来，此次领兵前来，无非是受到煽动，如今他既然要求与自己相见，必然是还未拿定主意，若趁机游说，即使未必能让他成为盟友，也可使他保持中立，就此退兵。打定主意后，荀彧独自前往郭贡军营赴会，郭贡见荀彧孤身前来，且毫无惧色，心中不免对鄄城兵力有了几分忌惮，认为鄄城必定难以攻破，于是引兵而去。之后，荀彧、程昱等人积极安抚范县和东阿的军心，才使得三城得以保住。曹操回到兖州之后，激动地对众人说：“没有你们的帮助，我将无安身之处啊！”后封程昱为东平相，镇守范县，同时也封赏了荀彧、夏侯惇等人。
随后，曹操亲率主力军队奔赴濮阳，与吕布决一死战。
兴平元年（194年）六月，曹操大军进攻濮阳。大将于禁领命率兵攻打吕布驻扎在城外南面的大营，于禁作战勇猛，连续破吕布两座大营；但青州军领命攻打西面大营时，却被吕布率兵打败，损失惨重。
其后，曹操亲自领兵夜袭城西大营，成功将其攻破。正当曹操准备撤退时，吕布突然赶来增援，两军进行了激烈的战斗。双方的激战从黎明到正午，曹操军队渐渐无力招架，边战边退。最后，在典韦的全力护卫下，曹操才得以脱险。之后，曹操拜封典韦为都尉，统领亲兵数百人。
不久之后，濮阳城中一个田姓地主突然与曹军联系，自愿做曹操的内应来帮助曹军攻破濮阳城。曹操大喜，立即下令左右布置攻城事宜，但没想到，此人是吕布派来诈降引曹操入局的诱饵。曹操在此人的“接应”下带兵涌入了濮阳城，中了吕布的埋伏，在巷战之中险些被擒。经过激烈的厮杀后，曹操在众将士护卫下逃出濮阳，曹操身受重伤，但总算是捡回了一条命。
之后，曹操又与吕布僵持了一百多天，双方各有胜负。在此期间，全国范围内发生了严重的旱灾，曹军与吕军都面临着缺粮的困境，无奈之下，曹操只得暂且率兵退回了鄄城。
就在曹操最为困顿的时候，袁绍突然遣人送来消息，希望曹操将其家眷迁到邺城居住，以加强二人的同盟关系。袁绍此举表面上是要“保护”曹操家眷，但实际上，却是想以曹操的家眷作为人质，由此来控制曹操。
曹操哪会不知袁绍的不良用心，但如今，自己战场失利，又逢严重灾荒，军队已经出现了士兵叛逃的现象，处境十分困难，若不依附袁绍，恐怕难图发展。
袁绍
就在曹操心生动摇，试图归附袁绍之时，众部属纷纷表示反对，尤其是程昱坚决不同意曹操的做法。程昱对曹操说道：“袁绍占据燕赵广阔土地，有吞并天下的野心，但是以他的才智不足以成功。将军难道甘愿居于他之下吗？将军智勇兼备，岂能如韩信、彭越之辈，屈居人下！现在兖州虽然残破，但尚有三座城池，精锐将士也不下万人，以将军之勇，加上荀彧和我等都愿意为将军拼死效力，只要再广泛收罗人才，成就霸业又岂是难事！”程昱此言给曹操打了一针强心剂，权衡利弊之后，曹操终于打消了依附袁绍的念头。
经过一段时间的休整后，曹操重整旗鼓，准备与吕布再次展开角逐，收复兖州失地。
濮阳前为鄄城，后靠袁绍，为免腹背受敌，吕布于兴平元年（194年）将军队移到定陶附近的山阳驻扎，试图向兖州东南方向发展。兴平二年（195年）春天，曹操决定先攻打济阴郡治定陶（今山东定陶县西北），以扰乱吕布的判断，然后再伺机攻击吕布部属的机动部队。
面对气势汹汹的曹军，驻守定陶南城的济阴太守吴资退守南城，布下严密防线，曹军未能攻下。吕布得知消息后急忙率兵增援，曹操趁吕布立营未稳，立刻发动骑兵突袭，吕布战败后退回山阳。
在攻打定陶的同时，曹操派遣曹仁率领部队攻打山阳附近的另一座城池——句阳城。当时吕布的注意力都集中在定陶，因此句阳城很快就被攻陷。连失两城的吕布见形势不利，开始向东北方向撤退。
同年夏天，吕布决定反击，他命令属下薛兰、李封屯兵巨野（今山东巨野县），向曹操挑战。吕布和陈宫认为，曹操喜欢打和敌军主力互为犄角的机动部队，因此，便用薛兰等人作诱饵吸引曹操，准备等双方展开激战之时，再由吕布率领部队乘机包抄。
然而，曹操这次却改变了战术。他留下部分军队继续攻打定陶，又命令曹仁率领军队攻打巨野，自己则亲率主力部队埋伏在途中。当吕布率领军队向巨野逼近时，曹操出其不意地发动袭击，很快，吕布军队开始溃散逃走。
曹操率领军队与曹仁会合后，集中全部力量攻打巨野，最后，巨野被攻陷，薛兰等人全军覆没。为了预防吕布反扑，曹操命令一部分军队筹集粮食，自己则带领其余士兵积极修建工事，做好防御措施。
这时，探子传来了陶谦病死，并把徐州让给刘备的消息。曹操便想借此机会进攻徐州，以解决军粮的问题。最后在荀彧等人的劝阻下，曹操放弃了征讨徐州的打算，全力应付兖州的局势。
不久后，吕布和陈宫果然率领万余精兵反扑攻城。当时，曹操的军队大部分都在外边抢割麦子，留守的将士不足一千。情势危急之下，曹操命令城中妇女登上城楼参与防守，以便集中兵力对付敌军。
吕布行军至城外大堤处，见地形奇特，密林丛生，恐怕曹操在林中布下埋伏，一时之间不敢贸然前进。于是，吕布便和陈宫商议，暂时在大堤十里处安营扎寨。
当天夜里，外出抢割麦子的一部分将士赶了回来，曹操立即进行军事部署。他将一部分士兵暴露在大堤之外，大部分兵力则隐藏在大堤之内，借此诱敌来攻。第二天，吕布探听到树林中并无埋伏之后，便立刻下令士兵进攻。曹军暴露在大堤外的部队且战且退，将吕布引诱到埋伏圈内，堤内众军一拥而上，将吕布杀得措手不及。仓皇应战的吕布大惊失色，很快就败下阵来，士兵伤亡惨重，曹操乘胜追击，一直杀到吕布大本营。
吕布见大势已去，便连夜与陈宫带着残兵败将逃往徐州，准备投靠刘备。张邈见吕布大败，很是惊恐，立即派弟弟张超带领家属退守雍丘（今河南杞县，属陈留郡），自己则逃亡徐州。
此后，曹操亲率大军攻陷定陶城。同年八月，曹军攻打雍丘，张超率领残部顽强抵抗。张邈得知消息后，急忙向吕布求援，但却遭到了吕布的拒绝，张邈只好前往扬州向袁术求援。但还未行至扬州，就在途中被叛乱的军士所杀。
十月，朝廷见曹操已经基本控制了兖州的局势，便正式任命曹操为兖州牧。曹操忙向朝廷上书，再次表示了自己的忠诚。
十二月，在曹操数月围攻之下，雍丘粮草殆尽、军心涣散，张超见盼不来救兵，灰心自杀。曹操攻下雍丘后，将张邈和张超的家属全部杀死。其后，曹操势如破竹，兖州叛乱的郡县相继投降。
曹操终于收复了全部兖州失地，并获得朝廷认可，名正言顺地得到了兖州的控制权。至此，曹操才算正式获得了与群雄逐鹿中原的“入场资格”，开始了其波澜壮阔的宏图大业。
