汉初，汉朝与匈奴为争夺对“丝绸之路”的控制权，再次展开拉锯式的大规模战争。位于黄河上游西侧，沿祁连北侧的走廊地带—河西走廊，成为汉朝与匈奴展开斗争的舞台。
　　汉武帝在稳定了北方之后，将眼光移至西边。此时匈奴仍占据了河西走廊及以北的地区，匈奴的浑邪王和休屠王两部控制着通往西域的孔道。公元前121汉武帝任命少将军霍去病为骠骑将军，带领万余骑兵，从陇西出发，深入沙漠2000余里，在匈族部落转战数天，过焉支山(位于甘肃永昌西)1000余里。在皋兰山下，与匈奴王力展开了激战，大获全胜，俘获了浑邪王的王子和相国、都尉等，缴获了休屠王的祭天金人。
　　同年夏季，霍去病由北地(今甘肃宁县西北)第二次西出，以数万骑兵，行军2000余里，突进匈奴境内，迅速越过居延海(今内蒙古境内)，一直打到祁连山麓，生擒单于以下的单桓王、酋涂王、相国和单于阏氏、王子等百人，沉重打击了匈奴的力量。匈奴内部由此引发内讧，单于怪罪浑邪王和休屠王，认为他们战守不力，要杀他们两人治罪，于是二人决定投降汉朝。汉武帝派霍去病前往受降，当霍去病到达河西之前，休屠王突然反悔，不愿投降了。
　　浑邪王刺杀了休屠王，收编了休屠王的队伍。霍去病率领骑兵渡过黄河之后，浑邪王的部队已经列阵等候。霍去病将队伍列阵前进，双方的阵营遥遥相望，步步临近，情势很紧张。浑邪王手下的许多人并非诚心投降，此时骚动起来，裹胁一部分人脱逃，匈奴的队伍顿时混乱起来。霍去病当机立断，策马驰入浑邪王的阵营，向浑邪王晓以利害。浑邪王下令阻止了队伍的哗变，由霍去病率队收降了4万余匈奴骑兵。
　　汉武帝将投降的匈奴士兵安置在边境五郡塞外，对浑邪王给予优厚的款待，封为浑阴侯。并在当年，在河西走廊上设置武威、张掖、酒泉、敦煌四郡，正式将河西之地纳入汉朝的版图。汉朝政府从内地招募10余万人来四郡定居兴水利，设田官，并把长城延伸至酒泉。河西走廊的收复，使得从甘肃兰州以西至新疆罗布泊之间“空无匈奴”。当时匈奴流传着一首歌：亡我祁连山，使我六畜不蕃息；失我焉支山，使我妇女无颜色。