司马颖任命刘渊为代理辅国将军，负责北城防守诸事务。等到战胜晋惠帝的军队时，司马颖任命刘渊为冠军将军，封为卢奴伯。不久，并州刺史东赢公司马腾、安北将军王浚（读音同俊），起兵讨伐司马颖。刘渊劝司马颖说:“现在二镇的人骄横强暴，兵众十万，恐怕不是宿卫军以及都城附近的兵士所能抵抗得了的，我请求回去为殿下您劝说五部的人马来赴国难。”司马颖说:“五部的人马可以担保前来吗？即使能够前来参战，鲜卑、乌丸之人强劲、快捷如同风云，是那么容易抵挡的吗？我想护送皇上回洛阳，以避开他们的锋芒，接着再慢慢地告示天下，以叛乱的名义，名正言顺地制服他们。您认为怎样？”刘渊回答说:“殿下是武帝之子，对王室有突出的功劳，有威望、恩泽广，天下人都钦佩您的风范，谁不想为殿下您赴汤蹈火、献出生命呢？这种情况下，征发士兵有什么困难呢？王浚是个小人，东嬴公只是个偏远的旁枝，他们哪能与殿下您抗衡！殿下您如果一离开邺宫，就等于向他人示弱，这样，洛阳到达得了吗？纵然到达洛阳，恐怕威望、权力就不在殿下您的手里。一纸檄文，一尺书信，有谁肯去为他人尊奉这些！况且东胡的强悍不能超过五部之人，希望殿下您鼓励、安抚兵众，平定混乱，镇守住邺城，我当为殿下您以二部的兵力摧毁东嬴公，以三部的兵力斩杀王浚，两个小人的首级指日就可悬挂在邺城城头。”

司马颖听后非常高兴，于是任命刘渊为北部单于、参丞相军事。刘渊回到左国城后，刘宣等人便为刘渊上大单于的称号，二十日之间就聚众五万，定都离石。

永安元年（公元304年），司马颖击败司马乂，成为皇太弟，任命刘渊为屯骑校尉。不久，东海王司马越和陈昣（读音同诊）等与晋惠帝征讨司马颖，驻扎在荡阴。

第十五阶段，明修栈道暗度陈仓:刘渊向成都王司马颖请求回故地会合行送葬之礼，却被拒绝了。于是刘渊让呼延攸先回去，告诉刘宣等人招集五部人众，会同宜阳的诸多胡人，表面上宣称响应司马颖，实际上却是要图谋叛变。

后来，王浚派将军祁弘率领鲜卑兵众进攻邺城，司马颖战败。于是，挟持天子向南朝洛阳奔逃。刘渊说:“司马颖不听我的话，自己向相反的方向溃逃，真是蠢才。然而，我与他有言在先，不能不去救他。”于是，命令右於陆王刘景、左独鹿王刘延年等人率领步兵骑兵二万，将去讨伐鲜卑。

刘宣等人坚决劝阻道:“晋朝昏庸无道，他们像对奴隶一样对待我们，所以右贤王刘猛非常愤怒，承受不了心中怨恨，想有所作为，当时正碰上晋朝纲纪还未松弛，大事还没有成就，右贤王就被杀戮，这是单于的耻辱啊。”