汉朝政府在与匈奴之战取胜后，又在兰州附近筑令居塞以隔断匈奴与甘肃境内羌人的联系，并设“护羌校尉”驻令居塞，管理河西地区的羌人。但匈奴并不甘心放弃  河西之地。匈奴与汉朝在河西之争失利，在北部沙漠一带仍不断与汉军相峙。在战争中，汉朝的将军李陵和李广利相继战败投降了匈奴。匈奴取得了一些优势后，又返回来谋取河西。
　　汉宣帝时，后将军赵充国对汉宣帝说：“匈奴使人至小月氏，传告诸羌曰：“汉贰师将军（李广利）众十余万人降匈奴。羌人为汉事苦。张掖、酒泉本我地，地肥美，可共击居之。”汉宣帝派赵充国去平定河西一带诸羌。赵充国利用分化瓦解的办法，争取了羌人的归附，并采用屯田的办法，建造桥梁，凿井浚渠，推广先进的农业技术，并将开发后的土地交给羌人耕种，逐渐安定了河西羌人，保持了河西的安宁。 
　　在河西四镇中，武威位于河西走廊的东端，是“丝绸之路”上的重镇。武威古称凉州，曾长期是古塞人和羌人居住之处。西汉政府在河西设镇之后，武威开始接受汉文化的影响，农耕逐渐发达。
　　由于武威处于河西走廊腹地，所以在很长的一个时期都被视为河西的中心。汉昭帝时在今兰州设金城郡，与武威、张掖、酒泉、敦煌合称河西五，组成凉州，武威郡即为凉州刺史的治所。