谁知道刘备手下行事不密，风声走漏，被吕布手下发现了刘备的小动作。吕布当然不甘坐以待毖，只有下邳等吕布占领的城市，夺回徐州，让吕布先发制人。
吕布采纳了陈宫的建议，亲自率军进攻小沛。
刘备觉得夺回徐州的时期已经成熟，就出兵和吕布对决，希望一战定乾坤，夺回徐州。
两军交战，刘备缺乏骑兵的劣势再次显现，被吕布率骑兵击破军阵，一败不可收拾，只得前往许都投奔曹操。
眼看要到手的徐州，又一次被刘备丟失，而且是彻底的丢失。
此时，曹操已经从洛阳迎接汉献帝道许都，初步形成“挟天子以令诸侯”之势。
刘备和曹操不失一个阵营，也曾经兵戎相见，但都是那种站队的对峙，并没有死战结仇。
到了徐州以后，刘备虽然是救援陶谦，但并没有和曹操发生冲突，甚至两人表面上还相处不错。
刘备投奔曹操，他手下的谋士，有的主张杀掉刘备，有人主张接纳刘备，曹操一时难以决断。
此时，戏志才已经病故，荀彧推荐郭嘉代替戏志才的职位，深得曹操的赏识。
曹操征求郭嘉的意见，郭嘉劝道：
“不可。主公兴义兵，为百姓除暴，惟仗信义以招俊杰，犹惧其不来也；今玄德素有英雄之名，以困穷而来投，若杀之，是害贤也。天下智谋之士，闻而自疑，将裹足不前，主公谁与定天下乎？夫除一人之患，以阻四海之望：安危之机不可不察。”
曹操本来就希望刘备与吕布两虎相斗，听了郭嘉之言，决定接纳刘备，并用郭嘉之计，挑起刘备都吕布。
于是，曹操不但给与刘备配备兵马粮草，还上表汉献帝，任命刘备为豫州牧，让他讨伐吕布。..
建安三年（198年），刘备领军与吕布手下的中郎将高顺、北地太守张辽交战，不利，曹操派夏侯惇援救，也被吕布击败。
刘备败回收拢残军，与曹操联合进攻吕布。
攻破下邳以后，吕布被擒，徐州也落到曹操手里，不复为刘备所有，让他已经失去了根基。
刘备对吕布抢夺徐州的事，耿耿于怀，力劝曹操杀死反复无常的吕布。
曹操虽然接纳了刘备，但也不敢让他独自领兵在外，他们一起回到许都，被汉献帝认为皇叔，封为左将军。
建安四年（199年），车骑将军董承受汉献帝衣带诏，刘备暗中加入。
后曹操与刘备“煮酒论英雄”，曹操对刘备说：
“今天下英雄，就是你跟我。”
刘备心惊，筷子掉落，知道曹操难容自己。
恰逢曹操派并攻打袁术，刘备主动请命，与朱灵一起攻击袁术，袁术于途中病死。
刘备不敢再回许都，他进军下邳，杀徐州刺史车胄，留关羽守下邳，行使太守的职责，他自己领军回到小沛，与曹操相抗衡。
在糜家的帮助下，东海昌豨以及诸郡县都归顺刘备，他有拉起了数万兵马。
那时，曹操与袁绍已经因为汉献帝封赏官职之事翻脸，于是，刘备北连袁绍抗击曹操，又一次在徐州站稳了脚跟。