關羽是河東解人。因殺了人而逃離家鄉，奔往涿郡躲避。中平元年（184年），劉備在鄉里募集支持民眾以組織一支義勇軍來參與保衛鄉里免於黃巾軍的掠奪，而關羽與張飛也隨之禦侮。191年，劉備擔任平原相時，以關羽、張飛為別部司馬，分統部曲。劉備與二人寢則同床，恩若兄弟。而稠人廣坐，侍立終日，隨劉備周旋，不避艱險。

194年，劉備繼陶謙領徐州，之後在建安元年（196年）被袁術、呂布夾攻，關羽便跟隨劉備一起投奔曹操。198年，劉備與曹操一同在下邳圍攻呂布；據《蜀記》及《華陽國志》記載，當時呂布部將秦宜祿外出求援，留下前妻杜氏和兒子秦朗[2]，關羽以其妻沒有生子，曾向曹操請求城破後娶杜氏為妻，曹操答應。之後關羽又數次向曹操提起，曹操懷疑杜氏是否異常美貌，城破後便先去看她，見她有美色，便占為己有，關羽因此心中不安。後來曹操任車冑為徐州刺史，關羽與劉備便跟隨曹操班師。後袁術北上投奔袁紹，劉備奉曹操命攔截袁術於徐州，劉備趁機襲殺車冑，命關羽守下邳、領徐州，劉備返回小沛。