且说曹操当夜取了小沛，随即进兵攻徐州。糜竺、简雍守把不住，只得弃城而走。陈登献了徐州。曹操大军入城，安民已毕，随唤众谋士议取下邳。荀彧说：“云长保护玄德妻小，死守此城。若不速取。恐为袁绍所窃。”曹操道：“我素爱云长武艺人材，欲得之以为己用，不若令人说之使降。”郭嘉说：“云长义气深重，必不肯降。若使人说之，恐被其害。”帐下一人出说：“我与云长有一面之交，愿往说之。”众视之，乃张辽。程昱说：“文远虽与云长有旧，我观此人，非可以言词说也。某有一计，使此人进退无路，然后用文远说之，彼必归丞相矣。”

程昱献计说：“云长有万人之敌，非智谋不能取之。今可即差刘备手下投降之兵，入下邳，见关公，只说是逃回的，伏于城中为内应；却引关公出战，诈败佯输，诱入他处，以精兵截其归路，然后说之可也。”操听其谋，即令徐州降兵数十，径投下邳来降关公。关公以为旧兵，留而不疑。次日，夏侯惇为先锋，领兵五千来搦战。关公不出，惇即使人于城下辱骂。关公大怒，引三千人马出城，与夏侯惇交战。约战十馀合，惇拨回马走。关公赶来，惇且战且走。关公约赶二十里，恐下邳有失，提兵便回。只听得一声炮响，左有徐晃，右有许褚，两队军截住去路，关公夺路而走，两边伏兵排下硬弩百张，箭如飞蝗。关公不得过，勒兵再回，徐晃、许褚接住交战。关公奋力杀退二人，引军欲回下邳，夏侯惇又截住厮杀。公战至日晚，无路可归，只得到一座土山，引兵屯于山头，权且少歇。曹兵团团将土山围住。

关公于山上遥望下邳城中火光冲天，却是那诈降兵卒偷开城门，曹操自提大军杀入城中，只教举火以惑关公之心。关公见下邳火起，心中惊惶，连夜几番冲下山来，皆被乱箭射回。捱到天晓，再欲整顿下山冲突，忽见一人跑马上山来，视之乃张辽。关羽迎谓说：“文远欲来相敌耶？”张辽说：“非也。想故人旧日之情，特来相见。”遂弃刀下马，与关羽叙礼毕，坐于山顶。关羽说：“文远莫非来劝说关某吗？”张辽说：“不然。昔日蒙兄救弟，今日弟安得不救兄？”关羽说：“文远将欲助我吗？”张辽说：“亦非也。”关羽说：“既不助我，来此干什么？”张辽说：“玄德不知存亡，翼德未知生死。昨夜曹公已破下邳，军民尽无伤害，差人护卫玄德家眷，不许惊忧。如此相待，弟特来报兄。”关羽怒道：“此言特说我也。我今虽处绝地，视死如归。你当速去，我立即下山迎战。”张辽大笑道：“兄此言岂不为天下笑乎？”关羽说：“我仗忠义而死，怎么为天下笑？”张辽说：“兄今天即死，其罪有三。”关羽说：“你说我哪三罪？”张辽说：“当初刘备与兄结义之时，誓同生死；今使君方败，而兄即战死，倘使君复出，欲求兄相助，而不可复得，岂不负当年之盟誓乎？其罪一也。刘使君以家眷付托于兄，兄今战死，二夫人无所依赖，负却使君依托之重。其罪二也。兄武艺超群，兼通经史，不思共使君匡扶汉室，徒欲赴汤蹈火，以成匹夫之勇，安得为义？其罪三也。兄有此三罪，弟不得不告。”

关羽沉吟说：“你说我有三罪，想让我怎么办？”张辽说：“今四面皆曹公之兵，兄若不降，则必死；徒死无益，不若且降曹公；却打听刘使君音信，如知何处，即往投之。一者可以保二夫人，二者不背桃园之约，三者可留有用之身：有此三便，兄宜详之。”关羽说：“兄言三便，我有三约。若丞相能从，我即当卸甲；如其不允，我宁受三罪而死。”张辽说：“丞相宽洪大量，何所不容。愿闻三事。”关羽说：“第一，我与皇叔设誓，共扶汉室，我今只降汉帝，不降曹操；第二，二嫂处请给皇叔俸禄养赡，一应上下人等，皆不许到门；第三，但知刘皇叔去向，不管千里万里，便当辞去：三者缺一，断不肯降。望文远急急回报。”张辽应诺，遂上马，回见曹操，先说降汉不降曹之事。曹操笑道：“我为汉相，我可以代表汉，此可从之。”辽又言：“二夫人欲请皇叔俸给，并上下人等不许到门。”曹操说：“我于皇叔俸内，更加倍与之。至于严禁内外，乃是家法，又何必怀疑！”张辽又说：“但知刘备信息，虽远必往。”曹操摇头道：“那我我养云长何用？此事却难从。”张辽说：“岂不闻豫让众人国士之论乎？刘玄德待云长不过恩厚耳。丞相更施厚恩以结其心，何忧云长之不服也？”曹操说：“文远之言甚当，我愿从此三事。”

张辽再往山上回报关公。关羽说：“虽然如此，暂请丞相退军，容我入城见二嫂，告知其事，然后投降。”张辽再回，以此言报曹操。曹操即传令，退军三十里。荀彧说：“不可，恐有诈。”曹操说：“云长义士，必不失信。”遂引军退。关公引兵入下邳，见人民安妥不动，竟到府中。来见二嫂。甘、糜二夫人听得关羽到来，急出迎之，关羽拜于阶下说：“使二嫂受惊，某之罪也。”二夫人说：“皇叔今在何处？”关羽说：“不知去向。”二夫人说：“二叔今将如何？”关羽说：“关某出城死战，被困土山，张辽劝我投降，我以三事相约。曹操已皆允从，故特退兵，放我入城。我不曾得嫂嫂主意，未敢擅便。”二夫人问：“那三事？”关公将上项三事，备述一遍。甘夫人说：“昨日曹军入城，我等皆以为必死；谁想毫发不动，一军不敢入门。叔叔既已领诺，何必问我二人？只恐日后曹操不容叔叔去寻皇叔。”关羽说：“嫂嫂放心，关某自有主张。”二夫人说：“叔叔自家裁处，凡事不必问俺女流。”

关羽辞退，遂引数十骑来见曹操。操自出辕门相接。关羽下马入拜，曹操慌忙答礼。关羽说：“败兵之将，深荷不杀之恩。”曹操说：“素慕云长忠义，今日幸得相见，足慰平生之望。”关羽说：“文远代禀三事，蒙丞相应允，谅不食言。”曹操说：“我言既出，怎能失信。”关羽说：“关某若知皇叔所在，虽蹈水火、必往从之。此时恐不及拜辞，伏乞见原。”曹操说：“玄德若在，必从公去；但恐乱军中亡矣。公且宽心，尚容缉听。”关羽拜谢。曹操设宴相待。