段韶在高欢生前，曾随高欢参与广阿之战、邺城之战、韩陵之战，消灭尔朱兆，后在邙山之战、玉璧之战中亦发挥作用。

高欢临终时，令段韶随次子高洋镇守邺城，并嘱咐长子高澄加以重用。高澄掌权后，段韶奉命继续镇守晋阳。

高澄回到邺城后，赐给段韶女乐十几人，黄金十斤，还有缯帛，封长乐郡公。

当高澄准备出征讨颍川时，他写信给段韶，要他留守晋阳，又封他为真定县男爵，并行使并州刺史事。

同年十二月，段韶跟随尚书左仆射慕容绍宗讨伐侯景，段韶于涡水两岸暗中顺着风向点燃干草纵火，打算阻止侯景撤退。

但侯景十分精明，他率领骑兵进入水中，然后跃出往后撤退，岸上的干草被水打湿以后，火便熄灭，让侯景侥幸逃出了生天。

在高洋代魏建齐的过程中，段韶曾代高洋试探斛律金对其簒魏的意见，可见段韶也颇得高洋的信任。

武定八年（550年）五月，高洋受禅即位，建立北齐，是为文宣帝。随后，段韶被另封为朝陵县公，又封霸城县侯，加位特进。

段韶上表请求归还朝陵县公，乞请封自己的继母梁氏为郡君。梁氏是在段韶的生母娄氏因病去世后入门的，她待段韶兄妹不错，故段韶与继母的感情融洽。

高洋嘉奖他，另封梁氏为安定郡君。段韶又将霸城县侯让给了自己继母所生的弟弟段孝言，其高尚的行为，因此受到当时舆论的普遍夸赞。

段韶与广武王高长弼不和。当高洋准备于天保元年（550年）底前往晋阳时，高长弼对高洋说：“段韶在晋阳拥有强大的兵力，恐怕他的行动会出人意料之外，岂可直接去他那里！”

高洋没有理会高长弼的劝告，继续向晋阳进发，等到抵达晋阳后，高洋就把高长弼的谗言告诉段韶，还说：