在涿縣組織起了一支義勇軍參與撲滅黃巾軍的戰(zhàn)爭，關(guān)羽與張飛同在其中。劉備輾轉(zhuǎn)擔(dān)任許多官職后，投奔昔日同窗公孫瓚，被封為平原相，任關(guān)羽、張飛為別部司馬，分統(tǒng)部曲。三人情同兄弟，常一起同床而睡，當(dāng)劉備坐下時，關(guān)、張二人更不辭辛勞隨身守護(hù)。

公元194年(興平元年)，曹操因全家被殺而遷于陶謙，于是發(fā)兵攻打徐州。陶謙求救于劉備，劉備和關(guān)羽率千余人前往救援。曹操兵退后，陶謙表劉備為豫州刺史，關(guān)羽與劉備屯兵于小沛。而后在陶謙等人的再三相讓下，劉備領(lǐng)徐州牧。[1]