中平五年（188年），朝廷正式任命刘虞为幽州牧。并下诏发南匈奴兵，跟随刘虞讨伐张纯。结果南匈奴发生内乱，单于被杀。 [30] [41]刘虞到达蓟县，精简了部队，广泛布施恩惠，派遣使者告峭王等人朝廷将宽大处理，可以免除他们犯下的罪责，又悬赏通缉张举、张纯二人。丘力居等人听说刘虞到了，纷纷派遣使者前来沟通归附之事。张纯二人逃到塞外，其余的也或降或散。公孙瓒担心刘虞立功，暗中派人在途中暗杀这些使者。外族得知此事后，便绕道到刘虞处。 [6] [29]
中平六年（189年）三月，张纯被手下王政杀死，首级被送到刘虞处。 [4]汉灵帝刘宏派使者升刘虞为太尉，封容丘侯。 [5]刘虞先是推让，并举荐卫尉赵谟、益州牧刘焉、豫州牧黄琬、南阳太守羊续担任此职，但刘宏最终还是拜刘虞为太尉。 [6] [8]
永汉元年（189年），董卓专权，派使者授予刘虞大司马，进封襄贲侯。
初平元年（190年），董卓拜刘虞为太傅，召他入朝任职。但因道路阻塞，任命竟不能够到达。 [11]
过去幽州因为地处边疆，与异族接壤，每年开支很大，常常要用青、冀二州的两亿多税收来补充幽州财政。当时因战乱交通断绝，无法调度金钱。刘虞在幽州追求宽政，劝导百姓种田，并在上谷与外族互市，还发展了渔阳的盐铁业，百姓热情高涨，粮食丰收，一石谷只卖三十钱。青、徐的士人百姓为避黄巾之难，来归附刘虞的有百余万口，刘虞都收留抚恤，为他们安排就业，流民们都像回到了家一样。刘虞虽为上公级的高官，但天性爱好节约，穿着破旧的衣服，一顿饭都不吃一道以上的荤菜。远近原本作风奢侈的豪族，都被他感化而改变风气。 [9]
公孙瓒奉命征讨乌桓时，受刘虞的节度。公孙瓒只注重自己的部队强大，放任部曲侵扰百姓，而刘虞注重仁政，很关爱百姓，于是与公孙瓒之间逐渐出现了矛盾。
当时，天下群雄起兵讨伐董卓。议者认为，汉灵帝刘宏失道，致使天下叛乱。汉献帝刘协年幼，是贼臣董卓所立，远在长安，又不识母氏所出。关东和长安远隔关塞，不知存亡，天下心无所归。而幽州牧刘虞宿有德望，是宗室中最贤明的，袁绍、韩馥等人便准备拥立他为皇帝。 [13] [38]
韩馥为立刘虞为帝，写信给袁术说当今天子不是孝灵皇帝刘宏的儿子，自己打算依照绛侯周勃、颍阴侯灌婴诛废少帝刘弘迎立代王刘恒故事；又称刘虞的功
…。。