王莽代汉建立新朝之始，西域已开始动荡不安了。以后中原大乱，天山南北重新被匈奴所控制。西汉王朝在西域建立的秩序被迫中断。东汉王朝建立之初，匈奴在西方和北方又构成了对东汉政府的威胁，并重新转居塞内。此时的西域诸国，已分化为55国，北道诸国重新役属于匈奴，只有南道的莎车远距匈奴，率领南道诸国与匈奴抗衡。
　　莎车王延在汉元帝时作过侍子，曾久居长安，回莎车作王以后，曾仿汉朝典章制度建立自己的统治。延死后，其子康继立为王，继续执行亲汉抗匈奴的政策。丝路中断以后，当时许多汉朝在西域的残余官吏都逃至了莎车，以避战乱。所以在建武五年(公元30年)，汉朝封康为汉莎车建功怀德王、西域大都尉，委任他管理整个西域。康死后，其弟贤代立。此时东汉政府因为一心巩固统治，无暇西顾，不愿与匈奴开战，所以未答应焉耆、鄯善、车师等国要求复置都护的请求。
　　莎车王贤向东攻破了鄯善，北灭龟兹，西愈葱岭，灭大宛。甚至将南道诸国如于阗、拘弥(于田东北)、姑墨(温宿、阿克苏)、子合(叶城)等国的国王召至莎车而杀之，代之以莎车的将军监国，征收贡赋，聚敛财物。莎车王的暴行，激起了这些国家的抵抗，匈奴乘机插手。不久，龟兹、鄯善便都落入了匈奴之手。
　　于阗人不堪莎车的暴政，杀掉了其派驻于阗的守将，拥立休莫霸为国王，并起兵攻打莎车。休莫霸战死后，他的侄子广德继立为于阗王，终于杀死了莎车王贤，而且攻占了莎车。于阗王取代莎车不久，便遇到了匈奴向南道扩张的势力。匈奴派遣五位将军，调集焉耆、尉犁、龟兹等15国兵3万余人，围攻于阗，于阗力抵不住，投降了匈奴。至此，整个塔里木盆地诸国都落入了匈奴之手。
　　建武二十二年(公元46年)前后，匈奴的大本营发生了空前的大旱灾，赤地千里，草木尽枯。匈奴的内部也发生了内乱，一部分主张以和平的方式投降东汉，以就食于东汉西北境内；而另一部分则主张向北迁徙，落脚于天山南北，两部分道扬镳。呼韩邪单于率领的一部在五原投降了东汉。这部分匈奴被称为南匈奴；另一部分向西北远徙。到明帝时，北匈奴屡屡寇掠河西一带的郡邑，致使这些郡邑的城白天也要闭上，东汉政府不得不将注意力放在西北。此时，由于南匈奴的归附，河西四郡的地方已重新归东汉所有。但在玉门关外的广大区域，仍是北匈奴的天下。
　　东汉政府想重新夺回对西域的控制权，打通丝路，势必要与北匈奴在西域展开冲突。最先提出反击匈奴的是耿秉。他认为东汉政府每年边患频频，经费耗靡的原因就在于匈奴的骚扰，要用战争去阻止战争。并认为应效仿武帝开辟河西，统有西域以削弱匈奴的故事，提出应攻打天山，夺取伊吾(哈密)、车师等地，联络乌孙，切断匈奴右臂。
　　耿秉的主张得到了汉明帝的支持，在水平十六年(公元73年)，派四路军队出击北匈奴。奉车都尉窦固、耿忠率领12，000骑兵，从酒泉出发，向天山东路进军。在天山东麓，击破了匈奴呼衍王之军，追击至蒲类海(今巴里坤湖)，取得了伊吾之地。随即在伊吾置屯田官—宜禾都尉，并留下一部分官兵在此屯田，巩固对伊吾的控制。