刘备说：“我应州牧之约救援徐州，是为义而来。现在若无端据有徐州，天下将以为我是不义之人。”

孙乾、简雍、韩当、潘凤等皆目视刘备，意为劝刘备趁机接替陶谦治理徐州。

刘备苦苦推辞说：“陶公康健，二位公子亦有大才，今曹军已退，州事平稳。诸位欲陷我于不义耶?”

陶谦推让再三，见刘备终不肯受，便说：“如您坚不肯受，那就请暂驻军近邑小沛，以保徐州，何如?”

众人也皆劝刘备留驻小沛，刘备方始同意。

陶谦原本因为曹操虐杀徐州军民，心情积郁难平，不久又忽染病，日渐沉重，便派人以商议军务为名，把刘备从小沛请来徐州。

陶谦躺在病榻上对刘备说道：“今番请您前来，不为别事，只因老夫病已垂危，朝夕难保；万望您以汉家城池为重，接受徐州牌印，老夫死亦瞑目矣!”

刘备说：“可让您的二位公子接班，备全力辅佐。”

陶谦说：“其才皆不能胜任。老夫死后，还望您多加教诲，千万不能让他们掌握州中大权。”

刘备还是辞让，陶谦便以手指心而死。

下邳举城哀毕，徐州军民极力表示拥戴刘备执掌州权，潘凤、韩当、孙乾等也再三相劝。至此，刘备才同意接受徐州大权，担任徐州牧。

却说刘备“三辞徐州”，一方面体现了刘备博取仁义忠厚之名、收买民心的良苦用心；一方面当是出于刘备对当时情势的清醒认识。

当时的徐州正处于四战之地，野心勃勃的曹操正虎视眈眈、兵锋相向，自不待言。

此外，邻近的军阀如袁术、吕布、袁绍之辈都在觊觎着具有重要战略意义的徐州，怀有兼并野心。这些都是潜在的危险。

由此可见，当时的徐州并不是一颗好吃的果子，弄不好就会有惹火烧身的危险。即使徐州牧陶谦真心相让，其部下能否心悦诚服?这些都是很现实、很严重、很迫切的问题，不容刘备不顾虑!实际确实如此。

刘备领有徐州牧不久，与曹操争斗落败的吕布投徐州而来，众人皆言吕布乃虎狼之辈，弑父之人，不易接纳。

然刘备坚持道：“徐州虽然是富如膏腴，却乃四战之地，西有曹操，南有袁术，北有廖化，此皆虎狼之辈，对徐州虎视眈眈，而徐州兵疲将弱，空有钱粮。犹如体弱多病的富翁，独身行于黑夜，随时都会迎来豺狼的撕咬！”

“而吕布虽是豺狼虎豹，却没有根基，又与曹操有隙，可给足粮草，令其屯兵小沛，位于抵挡曹操的前线。由此徐州便可少了一个大敌，赢得恢复的良机。”

“明公所言极是！”陈珪道。

“州牧此策甚好！”曹豹道。

一众徐州大族自然支持——只要徐州安定，自己利息少受损失，那便是好策！

于是，吕布便屯兵小沛，有徐州充足粮草，吕布军便在小沛休养练兵，等待时机。

刘备亦在下邳组织百姓修缮城墙，恢复生产，又遴选世家、大族、地主子弟进入州牧府、郡府担任官吏，与其和睦相处，徐州遂逐渐繁荣。