杨广即位后又在大业初年废除了凉州总管府，复置武威郡，郡治还在姑臧县，领姑臧、昌松、番禾、允吾4县。

隋末大乱，东突厥崛起达到“戎狄炽强，古未有也”的强盛程度，大业十三年七月，武威郡鹰扬府司马李轨举兵反隋，占领了河西，建大凉国，定都就在姑臧，建元安乐，归附于东突厥。

唐武德二年李轨被李渊所灭。李渊又废除武威郡，置凉州总管府，治姑臧。武德七年又废凉州总管府，改置凉州都督府。直到太宗