曹操一想，有道理，就坡下驴，写了回信给刘备，说看在他的面子上，暂且退兵，等以后再找陶谦算账。然后连夜拔营，回兖州对付吕布去了。徐州之围，就这么解了！
他顿了顿，又说：“您就不一样了，您仁义无双，天下闻名，百姓都拥戴您；又有云长、翼德、子龙三位猛将相助，兵强马壮，只有您，才能保住徐州，保住徐州的百姓！您要是不答应，我这心里实在不踏实啊！”刘备还是摇头：“府君，您别再说了，这事儿真的不行。咱们先商议退敌之策，等打败了曹操，再从长计议，好不好？”糜竺、孔融派来的使者也跟着劝，陶谦见刘备态度坚决，知道再劝也没用，只能暂时把大印收起来，但心里已经打定主意，一定要把徐州让给刘备。
田楷也赶紧站起身，劝道：“陶府君，玄德公说得有道理，您还是起来吧，这徐州牧的位置，可不是随便能让的，得从长计议。”关羽、张飞也跟着劝，陶谦这才不情不愿地站起身，但手里的大印还是要往刘备手里塞，刘备死活不肯要，两人推来推去，闹得挺热闹。
陶谦见曹操退兵了，心里的石头落了地，再次摆宴庆祝。宴会上，陶谦又提起让徐州的事：“玄德公，如今曹操退兵，徐州安全了，但隐患还在，您要是不接管徐州，我实在不放心啊！”刘备还是坚决不答应：“陶府君，我要是现在接管徐州，天下人会说我刘备是为了地盘才来救徐州的，我可不能背这个不义之名！”
孔融劝道：“玄德公，俗话说‘天与不取，反受其咎’，陶府君是真心相让，徐州百姓也盼着您来做主，您就别推辞了！”张飞也在一旁嚷嚷：“大哥，徐州是块好地方，有兵有粮，咱正缺个安身立命的地方，收下呗！”刘备瞪了张飞一眼：“三弟，休得胡言！咱是为了义气而来，岂能贪图人家的地盘？”
陶谦见刘备态度坚决，知道硬让也不行，就想了个折中的办法：“玄德公，您要是实在不肯受印，不如暂且驻军小沛如何？小沛是徐州的门户，您在那儿驻扎，既能保卫徐州，又能操练兵马，百姓也能安心。”刘备一听，这主意不错，小沛离徐州不远，既能帮陶谦防守，又不算占他的地盘，就答应了：“好！那我就暂驻小沛，为陶府君分忧。”
就这样，刘备带着人马去了小沛，在那儿招兵买马，安抚百姓，把小沛治理得井井有条。陶谦看在眼里，喜在心里，更觉得自己没看错人，让徐州给刘备的心思更坚定了。
可谁成想，天有不测风云，没过多久，陶谦就得了重病，一病不起。这老头儿知道自己不行了，赶紧派人去小沛请刘备来徐州。刘备接到消息，心里也挺着急，带着关羽、张飞就赶来了。到了陶谦的卧室，只见陶谦躺在床上，脸色蜡黄，呼吸都很微弱，糜竺、陈登等人站在一旁，都面带悲色。
陶谦见刘备来了，挣扎着要坐起来，刘备赶紧上前按住他：“府君，您安心养病，别动。”陶谦拉着刘备的手，眼泪就流下来了：“玄德公，我不行了，活不了几天了。徐州……徐州就拜托给您了！我那两个儿子，实在不成器，您可千万别让他们掌管徐州啊！不然，徐州百姓就遭殃了！”说着，又要把大印递给刘备。
刘备赶紧推辞：“府君，您别这样，您好好养病，徐州还有您的部下，他们能守住。”陶谦一听，急得咳嗽起来，指着自己的心口：“玄德公，我这心……我这心是为了徐州百姓啊！只有您，才能安此州！您要是不答应，我死不瞑目啊！”说完，一口气没上来，眼睛一闭，就这么去世了。
陶谦一死，糜竺、陈登等人立马跪下，对刘备说：“刘公，陶府君临终托付，让您接管徐州，这也是徐州百姓的心愿，您就答应吧！”外面的徐州百姓听说了，也都聚集在府衙门口，哭着喊：“请刘公接管徐州！救救我们吧！”
关羽和张飞也劝刘备：“大哥，陶府君是真心相让，百姓也拥戴您，这是天意啊！您就收下徐州吧！”刘备看着陶谦的遗体，又看看跪在地上的部下和外面的百姓，心里百感交集。他知道，自己要是再不答应，就对不起陶谦的托付，也对不起徐州百姓的信任。
沉吟了半天，刘备终于点了点头，对众人说：“既然陶府君有临终托付，百姓又如此拥戴，我刘备要是再推辞，就是不识时务了。我答应接管徐州，但我发誓，一定尽心竭力，保卫徐州百姓，要是有半点私心，天打雷劈！”说完，接过了徐州牧的大印。
就这样，刘备经过陶谦三次相让，终于当上了徐州牧。这事儿，历史上其实只有一次临终托付，“三让”是《三国演义》艺术加工的，但这加工得好啊！既突出了陶谦的大公无私，又体现了刘备的仁义之名，还让故事更有戏剧性。
有人说，刘备这是装的，故意推辞三次，就是为了博取名声。咱不管他是不是装的，至少他在那个乱世，能顾及百姓的死活，能拒绝到手的地盘，这就比那些烧杀抢掠的诸侯强多了。而且，刘备接管徐州之后，确实尽心尽力，安抚百姓，操练兵马，把徐州治理得不错。虽然后来因为吕布、袁术的进攻，刘备没能在徐州站稳脚跟，但“三让徐州”这事儿，却成了千古美谈。