并州以太原一线为界，包括太原郡北部、西河郡北部、雁门郡、代郡、云中郡和五原郡在内的整个并州北部都被匈奴的左贤王部占据，也有少数鲜卑和乌桓人杂居期间。

在东汉时期，大量汉人也生活在并州北部，匈奴和汉人杂居，且匈奴臣服于汉王朝，朝廷派出护匈奴校尉对匈奴、乌桓等游牧民族进行管理，但随着汉末朝廷衰败，汉王朝渐渐失去了对匈奴人的控制，匈奴左贤王刘豹完全占据了并州北部，并开始驱逐汉民，和关内