宴会结束后，关羽回到家，在门外参拜了甘夫人和糜夫人。甘夫人问：“叔叔两次出征，可曾得知皇叔刘备的消息？”关羽回答：“还没有。”关羽离开后，两位夫人在门内痛哭，说：“想必皇叔已经遭遇不测了！二叔担心我们姐妹烦恼，所以隐瞒了实情。”正哭着，有一个随行的老兵在门外说：“夫人别哭，主人现在在河北袁绍那里。”夫人问：“你怎么知道？”老兵回答：“我跟随关将军出征时，有人在阵上说的。”甘夫人急忙召见关羽责备他说：“皇叔未曾辜负你，你现在受了曹操的恩惠，就忘记了旧日的情义，为什么不把实情告诉我们？”关羽叩首说：“兄长现在确实在河北，我不敢告诉嫂嫂是怕泄露消息。此事须从长计议，不能操之过急。”甘夫人说：“叔叔应该抓紧时间。”关羽退去后，坐立不安地思索着离开的办法。
原来，于禁探听到刘备在河北的消息后，报告给了曹操。曹操派张辽来试探关羽的心意。关羽正闷闷不乐地坐着，张辽进来祝贺说：“听说你在阵上得知了玄德的消息，特来祝贺。”关羽说：“虽然知道故主在河北，但未能相见，有什么值得高兴的呢？”张辽问：“你与刘备的交情，和我与你的交情相比如何？”关羽回答：“我与你是朋友之交，但我与刘备是朋友而兄弟、兄弟而主臣的关系，这怎么可以相提并论呢？”张辽又问：“现在刘备在河北，你会去追随他吗？”关羽说：“我绝不会违背昔日的誓言！请你转告曹丞相。”张辽将关羽的话回报给曹操，曹操说：“我有办法留住他。”
关羽正在思索时，忽然有人报告说有故人来访。请进来后却发现并不认识。关羽问：“你是谁？”来人回答：“我是袁绍部下的南阳人陈震。”关羽大惊，急忙让左右退下后问：“先生此来必定有要事相告？”陈震拿出一封信递给关羽。关羽一看是刘备写来的信。信中大意是：刘备与关羽自桃园结义以来誓同生死，现在关羽为何中途违背誓言、割断恩义？如果关羽想要追求功名富贵的话，就献上刘备的首级来成全他的功业吧。关羽看完信后大哭道：“我并非不想寻找兄长只是不知道他在哪里而已。我怎么可能为了追求富贵而背弃旧日的盟约呢？”陈震说：“刘备非常盼望你能去见他你应该尽快前往。”关羽说：“人生在世如果没有始终如一的信念就不是君子。我来时明白去时也必须明白。我现在写封信麻烦你先告诉兄长一声容我向曹公告辞后再带两位嫂嫂去见他。”陈震问：“如果曹操不答应你离开怎么办呢？”关羽回答：“我宁愿死也不会长久地留在这里！”陈震说：“那你赶快写回信吧免得让刘使君久等。”于是关羽写了回信：我听说忠义之人不会辜负别人的心意即使牺牲生命也在所不惜。我自幼读书稍微懂得一些礼义看到羊角哀、左伯桃的故事时常常感慨万千。以前在下邳时城内没有存粮城外没有援兵我想立即以身殉国但考虑到两位嫂嫂的安全所以暂时没有自杀以辜负所托。现在我暂且留在曹营希望能够有机会与兄长再会。最近到汝南才知道兄长的消息我会当面向曹公告辞带着两位嫂嫂回去。如果我怀有二心的话甘愿受神人共诛。此信披肝沥胆言辞难尽。期待与兄长相见的日子伏请明察。陈震拿着回信离开了。
关羽进入内室告知两位嫂嫂随即前往相府向曹操辞行。曹操知道他的来意后在门口挂上了回避牌。关羽失望而归命令旧日跟随的人收拾车马早晚听候吩咐将宅中所有原赐之物都留下一点也不带走。第二天关羽再次前往相府辞谢但门口又挂上了回避牌。
关羽一连去了数次曹操的府邸，但都没有见到曹操。于是，他前往张辽家打算谈谈此事，但张辽也托病不出。关羽心想：“这显然是曹丞相不想让我走。但我已经下定决心要离开，怎能再留下来呢！”于是，他写了一封信向曹操辞谢。信的内容大致如下：
“我关羽年轻时就跟随皇叔刘备，誓言同生共死；天地神灵，都见证了我的誓言。之前在下邳失守时，我曾向您提出三个条件，您已仁慈地答应了。现在我得知故主刘备正在袁绍军中，回想起往日的誓言，我岂能违背？虽然您对我的新恩非常深厚，但我难以忘记旧日的情义。因此，我特地写这封信向您辞别，恳请您能够体谅。如果有未报的恩情，我愿意在以后的日子里来报答。”
写完信后，关羽将信封好，派人送到相府。同时，他将之前多次所受的金银财宝一一封存入库中，将汉寿亭侯的印章悬挂在堂上。然后请甘夫人和糜夫人上车，自己骑上赤兔马，手提青龙偃月刀，率领以前跟随的人马，护送车仗，直接出北门而去。门吏试图阻挡他们，但关羽怒目圆睁，横刀大喝一声，门吏们都吓得退避了。
关羽出门后对跟随的人说：“你们先护送车仗前行，如果有追赶的人，我自会抵挡他们，不要惊动二位夫人。”跟随的人便推着车，沿着官道进发。
这时曹操正在和手下人商议关羽的事情，但还没有决定。突然有下人来报告说关羽送来了一封信。曹操立刻看完信后大吃一惊说：“关羽已经走了！”不久北门守将也飞马来报：“关羽强行出城去了他带着二十多名车仗和随从都向北方去了。”同时关羽的宅中也有人来报告说：“关羽把所有赏赐的金银财宝都封存起来了。那十名美女也被安置在另外的房间里。他的汉寿亭侯印章还悬挂在堂上。丞相所分配给他的人马他一个都没有带走只带走了原来跟随他的人和他的随身行李出北门去了。”众人听后都感到非常惊讶。
这时一个将军挺身而出说：“我愿意带领三千铁骑去生擒关羽献给丞相！”大家一看原来是将军蔡阳。