正當曹操在兗州和呂布拉鋸不休的時候，劉備卻輕易地獲得了曹操夢寐以求的徐州的統治權。
早在興平元年十二月，勉強逃過曹操征討的兗州牧陶謙就生了病。臨終的時候，對他的心腹———東海的富家子弟麋竺和下邳人陳登說：“我死之後，非劉備不能安撫咱們這個州。你們千萬要把他接來，別忘了我的話啊……”
話未完，他就咽了氣。但關於徐州的事，他已說得很清楚了。
當此群雄環伺之際，西北又有曹操的威脅，為什麼陶謙單單要求劉備來當他的繼承人呢?就因為陶謙對於不計代價、冒險前來救他的劉備特別好感，他早就覺得徐州這個地方，就需要劉備這樣的人來治理。
麋竺、陳登謹遵陶謙之囑，親自到小沛去請劉備。劉備聽說陶謙死了，帶著關羽、張飛和趙雲趕到郯城去弔孝，哀悼之後，對於徐州州牧的印綬，劉備卻無論如何也不接受。他表示自己力量薄弱，不敢受此重任，主張迎接駐屯壽春的袁術來徐州。
這怎麼行呢?何況陶謙並無此托。於是，農事官陳登對劉備說：“袁術驕奢，實非治亂之主，何況陶州牧臨終並無此托。當今漢室衰弱，天下不安，大丈夫建功立業就在今天。徐州雖一度小遭破壞，仍然是個富庶之地。若將兵馬集中起來，也不下於十萬之眾。而且，徐州戶口有百餘萬。若據此，公足以匡主濟民，私則可以割境守地。如果先生不敢接受這個任務，我們怎麼能繼續支持你呢?”
北海相孔融也極力說服劉備：“袁術根本不是一位憂國忘家的將領。目前，又勢衰力竭，如同塚中枯骨，還管他幹什麼?如今天下大亂，百姓願跟從有德有能之人。這是上天賜給你的大好機會呀，若不接受，必將後悔終生。”
劉備在徐州郡縣領袖及官員的勸告下，才接下徐州牧這個冒險又艱苦的職位。
陳登他們馬上打發使者到冀州去向盟主袁紹報告，大意說：“陶州牧過世，州里無人主持，唯恐亂黨乘機偷襲，使盟主添憂，所以才公推前平原相劉備主持徐州，使百姓有所歸依。是否得當，請盟主包涵。”
明擺著，這是“真主意，假商量，”同意不同意都是一回事。袁紹明白於心，便說：“劉玄德是個忠厚長者，很有信義，徐州吏民能夠愛戴他，這是眾望所歸。我為此而向你們慶賀。”
曹操當時還不知道徐州方面已經得到了袁紹的支持。他只知道劉備接著陶謙坐了徐州牧，氣得臉都青了，說：“陶謙是我的仇人，死了也得報仇。劉備不勞一兵，坐得徐州，天下哪兒有這麼便宜的事?我先去滅了劉備，回頭再來收拾呂布。”
謀士荀彧趕快將曹操攔住了，說：“從前漢高祖守住關中，光武守住河內，他們有了鞏固之地後方才進可以攻，退可以守，經營天下，中間雖有困難，終完成了大事。將軍首先佔領兗州，河內是天下要地。也就是將軍你的關中，河內呀。再說，我們已經殺了薛蘭、李封，恢復了鉅野，士氣正旺。現在麥子熟了，正該叫軍士出去收割，以備軍糧的時候。兵精糧足，則可勝呂布。滅了呂布，再聯絡揚州人士，共同征討袁術。大軍到了淮、泗，不愁徐州打不下來。如果現在就去打徐州，兗州怎麼辦?弄不好，失了兗州，又得不到徐州，豈不一舉兩失?
曹操經荀彧這麼一說，才暫忍住氣，沒去攻打徐州。直到破了呂布，平定兗州之後，才又談起攻打徐州的事。何況敗兵呂布也投奔了劉備，正好一鼓作氣將他消滅。但就在這個時候，徐州的政治形勢發生了重大變化。
呂布投奔劉備時，劉備因為上次呂布進攻兗州，逼得曹操火速退兵，對徐州大有幫助，一聽呂布來了，準備出城迎接。麋竺攔住他說：“呂布是一隻狼，不能收留。”
劉備勸麋竺：“別這麼說。一來上次他牽制了曹操，對我們也有幫助；二來人家有了災難，才來相投，怎能拒絕呢?”
麋竺等人只好跟劉備出城迎了呂布進來，還給呂布擺酒接風。
殊不知呂布見劉備對他十分尊敬，反而驕傲了起來。他向劉備表示：“關東諸侯起兵時，我正在董卓陣營裡，所以成了敵人。即使我殺了董卓，離開京城，關東諸將也不會放過我。每個人都想置我於死地，所以只好來投靠你賢弟了。”
劉備見他出語傲慢，外表上仍然尊敬他，內心可很不樂意。但劉備天性寬厚，裝得滿不在乎的樣子，也不曾有過怨言。劉備雖然容得下，但劉備的兩個兄弟關羽和張飛卻是難以容忍。他二人對呂布怒目相對，大有一觸即發之勢。要不是劉備在背後百般勸阻二人，也許早就對呂布大打出手了。因此，劉備和呂布之間的關係，表面平靜，心裡卻是暗潮洶湧……
建安元年，即公元一九六年，六月，袁術趁劉備與呂布間的明爭暗鬥，出兵攻打徐州，劉備聞訊，立即進行積極部署。他派了張飛守下邳城，親自率軍在盱眙及淮陰間對抗袁術。由於及時部署，又有關羽、張飛兩員猛將，袁術來勢兇猛，也一時難取徐州。雙方屢次交戰，互有勝負，相持足有月餘。