沟通中原与西域的联系，进而控制西域，断绝匈奴的右臂。然而根据张骞出使西域的经验，从中原西行必须经过匈奴占据的河西地区，非常危险。此外还有一条通道，即由蜀地经身毒至大夏。原来张骞在大夏时，曾见过产于蜀地的邛竹杖和蜀布，非常惊奇，询问大夏人后方知是由大夏商人从其东南的身毒国（古印度的别称）贩运而来。因此，张骞估计身毒在大夏东南，又有蜀物，肯定距蜀地不远。所以，张骞向武帝建议另辟新径，打通从蜀地经身毒至西域的西南新通道（即从今日四川、贵州、云南经缅旬、印度至中亚）。张骞这一大胆的设想，又一次引起了好大喜功的武帝的赏识。早在建元六年（前135年），武帝就曾耗费巨资经营西南地区，后因欲全力对付北方的匈奴，故而放弃了这一计划。元狩元年（前122年），武帝根据张骞的建议，遣使再次通西南夷，寻求通往身毒的道路，终因西南地区少数民族的阻断及道路艰险而未果。
西南新道既然不通，武帝又回过头来集中精力打通河西走廊，于是在元狩二年发动了“河西战役”。骠骑将军霍去病一举击溃匈奴在河西地区的部队，迫使匈奴驻守河西地区的浑邪王杀休屠王后降汉，收复了河西地区，控制了中原通往西域的道路，在与匈奴夺取西域的斗争中取得了一个初步、但又极其重要的胜利。元狩四年，著名的漠北大决战爆发。匈奴在连续失去河南、河西二个战略要地之后，又遭到卫青、霍去病二路大军的夹击，匈奴东部的左贤王与中部的伊稚斜单于均受到重创，逃往漠北，从此“漠南无王庭”。匈奴在汉北部边境全线失败后，其势力开始转移到其右部，更加强化了对西域的控制。
西域自从老上单于时隶属于匈奴，至元狩时已经六十余年。匈奴在西域的统治十分暴虐，视各国如僮仆，在天山之北的焉耆（王治今新疆焉耆西南）、危须（王治今新疆焉耆东北）、尉犁（王治今新疆库尔勒）间设置“僮仆都尉”，负责从诸国聚敛赋税，西域各国，尤其是与匈奴相邻的天山北麓诸国畏之如虎，不敢抗命。西域东北的蒲类本是一个大国，因其国王曾得罪匈奴，单于遂徙其壮民六千多人于匈奴右部阿恶地，号曰“阿恶国”，其老弱逃亡于山谷间，才得以保存国号，但从此一蹶不振。匈奴对西域各国的生杀予夺，由此可见一斑。如果汉朝不能将匈奴势力逐出西域，就无法避免匈奴从其右部卷土重来，边境战争的胜利也就不可能巩固。在这种形势下，争取西域遂成为汉匈战争的新焦点。
大约在漠北之战结束前后，武帝数次向张骞询问大夏诸国的情况。张骞因始通西域及随大将军卫青出征有功，在元朔六年（前123年）被封为博望侯，元狩二年（前121年）因延误战机当斩，赎为庶人。所以张骞见武帝垂询西域事宜，非常想再次立功复封，于是向武帝建议遣使联络西域北部强国乌孙，招其返归河西故地，同时遣公主出嫁，与乌孙结为昆弟，即可以断绝匈奴右臂，又可以招抚大夏诸国。武帝同意张骞的见解，派遣他再次出使西域。
元狩四年，张骞被任命为中郎将，率领一支三百多人的庞大使团，其中设有多名副使，每人均备马二匹，携带牛羊万头，币帛等财物不可计数，浩浩荡荡地向西域进发。这时河西走廊已经掌握在汉朝的手中，张骞不必再担心匈奴轻骑的骚扰，经由龟兹（今新疆库车一带）西行，顺利地抵达乌孙。然而此时乌孙正发生内乱，乌孙昆莫猎骄靡（昆莫是乌孙王号，又作昆弥；猎骄靡是名字）的次子与长孙因争夺太子之位而起兵相攻。昆莫年老，无力制止，只求自保。在这种形势下，乌孙当然无暇考虑与汉结盟的问题；况且乌孙邻近匈奴，服属已久，而对汉朝的情况却不甚清楚。虽然张骞一再宣扬大汉国威，厚赠财物，允诺以汉公主和亲，但是依然无法与乌孙缔结盟约。不过，乌孙见汉使气度非凡，礼物丰厚，推测汉朝应是一个大国，所以热情款待，并应允派专使赴汉致谢。张骞分遣副使等赴大宛、康居、大月氏、大夏、安息、身毒、于阗等国后，于元鼎二年（前115年）与乌孙数十人返回长安。随后，张骞所遣副使也陆续与各国派遣的赴汉答谢的使者返回。从此之后，汉与西域的联系日益密切起来，每年都有许多批汉朝使团或商队穿行西域各国之间，足迹遍及西域，甚至更远的地区，中原的丝织品等通过西域源源不断地输向西方，形成了一条举世闻名的丝绸之路。
张骞回长安后不久去世，但他在二次出使时所表现出的坚韧不拔的顽强毅力，以及与各国交往时宽宏友善的诚恳态度，在西域各国中留下深刻的印象。因此在他死后，许多出使西域的汉使都自称“博望侯”，试图以此取得各国的信任。司马迁称赞张骞通西域的壮举有“凿空”之功，决非虚言。
二、二征大宛与五夺车师
自从张骞二通西域后，汉与西域诸国的交往日渐密切，南北二道均已开通。大体上南道是出玉门关或阳关，至楼兰（都城楼兰，故址在罗布泊西北孔雀河南岸。昭帝时改国名为鄯善，迁都于罗布泊西南的抒泥城，即今新疆若羌）后沿塔里木盆地南缘与昆仑山北麓间通道西行；北路也是出玉门关或阳关，至楼兰后沿新疆中部天山南麓与塔里木盆地北缘之间的通道西行；南北二路在疏勒（王治今新疆喀什）会合，而后再逾葱岭至大宛、康居诸国。张骞“凿空”西域后，汉使与商旅们频繁地出现在南北二道之上，严重威胁到匈奴在西域的统治，匈奴当然不肯坐视。这时西域诸国尚处于匈奴的统治之下，尤其是对地处中原与西域交通要冲的楼兰与车师的控制更为严密。随着汉使往来的日渐增多，楼兰、车师等当道诸国供应食物，应接不暇，何况还有许多不法之徒混迹于使团之中，私带官物，依仗大汉的声威，强买强卖，勒索财物，更是引起诸国的反感。因此，楼兰、车师等国在匈奴的唆使与支持下，阻断交通，劫杀汉使。如果不断然采取措施，西域的交通存在着被匈奴重新阻断的可能。因此，武帝决心以武力保卫西域道路的畅通。
元封三年（前108年），武帝派遣将军赵破奴率数万骑击楼兰、车师，曾经出使过楼兰的使者王恢奉命佐助赵破奴。王恢先率轻骑七百人突袭楼兰，俘获楼兰王；随后，赵破奴率数万兵击破车师。此役是汉军在西域进行的第一次军事行动，不仅保障了敦煌以西的交通安全，汉长城也延伸至玉门关；而且也向西域诸国显示了汉朝强大的军事实力，对动摇于匈奴与汉朝之间的西域诸国起到了强烈的震慑作用。楼兰王向汉朝称臣献贡，与匈奴的关系逐渐疏远。元封六年，乌孙遣使至汉，请求和亲。在这种形势下，匈奴怨恨乌孙、楼兰，而集中全力经营车师，并联合大宛等国，扣留或截杀大月氏、大夏等国与汉朝的使团及商队，骚扰阻断丝路西段的交通。为了打破匈奴对大宛的控制，并夺取汗血马，武帝因此发动二伐大宛的战役。
大宛位于今中亚费尔干纳盆地，是西域南北二道会合后西行的必经之地，地理位置十分重要，而且以盛产汗血马而闻名。太初元年（前104年），武帝听说大宛贰师城有善马，非常想获得大宛善马改良中原马种，于是命期门郎车令携千金及金马前往大宛交换。大宛距汉遥远，素来只敬畏匈奴，又自珍宝马，所以拒绝了汉使的请求。车令是一介武夫，被拒绝后怒气冲天，厉声辱骂，椎破金马后起程回国。大宛王毋寡与贵臣受辱后也大怒，于是勾结位于其东边的郁成王拦路截杀车令等人，尽掠财物而去。消息传到长安，武帝怒不可遏，立即任命宠姬李夫人的弟弟李广利为贰师将军，率属国骑六千人及各郡国不法少年数万人征伐大宛。
李广利率西征军出玉门关后，必须穿越道路险恶的盐泽（今罗布泊地区）西行，在茫茫的沙漠戈壁之中无法找到足够的淡水供大军所用，不少士卒倒毙途中，等到走出盐泽，早已疲惫不堪。然而，更加沉重的打击尚在后面。西域北道的各国在匈奴的策动下，断绝对汉军的给养，并不断地袭击汉军。李广利率领汉军尚未抵达大宛，就被西域小国郁成击败，死伤惨重。李广利束手无策，只得率领残兵败将返回，退至近敦煌时，士卒仅剩十分之一二，于是上书请求罢兵。武帝大怒，决定将征伐大宛的战争继续下去，遣使至敦煌，于玉门关上宣布诏命：“有敢入玉门关者斩之！”李广利因此不敢入关，屯居在关外待命。这时，许多朝臣因浞野侯赵破奴击匈奴兵败投降，不希望汉军在二线同时作战，因此劝武帝罢征大宛兵，集中力量专攻匈奴。武帝则认为如果连小国大宛都不能攻克，大夏等国必然轻视大汉，截杀汉使之事将会愈演愈烈。正是基于这样的考虑，武帝将主张罢兵的邓光等人治罪，赦免罪犯囚徒及不法少年，皆令从军出征，又调集郡国边骑等，共征发六万多人，牛十万头，马三万匹，负载粮食与武器的驴、橐驼（即骆驼）数万匹，由内地向敦煌转运粮食的民夫络绎于路，“天下骚动，皆为伐宛”。
太初四年（前101年），李广利第二次伐大宛。此次出征兵众势盛，匈奴与西域诸国不敢截击，较为顺利地到达大宛贰师城。汉军将城重重包围，猛攻四十余日，终于将贰师外城攻破。大宛众贵人见形势危急，于是谋杀大宛王毋寡，被迫与汉军讲和，献善马三千匹，并约定以后每年贡献汗血马二匹。李广利终于以数万人死伤的惨重代价将大宛征服，结盟而返。武帝不惜倾注人力物力二伐大宛，夺取大宛善马固然是一个原因，但更重要的因素在于通过征服大宛，宣扬大汉的国威，抵消匈奴在西域的影响。事实也是如此，汉军西征时所经过的一些西域小国，震于汉军声威，都纷纷遣子入汉，称臣纳贡，转而依附汉朝。
汉武帝在取得征服大宛的胜利之后，又与匈奴展开了对车师的争夺。车师位于今新疆吐鲁番盆地，王治交河城（今新疆吐鲁番西北），是中原通往西域的第二道门户（第一道指楼兰），而且车师在楼兰之北，与匈奴相邻，早在汉初就臣服于匈奴。这种特定的地理位置，必然要成为汉匈反复争夺的焦点。自武帝从天汉二年（前99年）始夺车师以来，直至宣帝神爵二年（前60年）才最终领有车师。在长达四十余年的时间中，围绕着车师，汉匈共进行了五次规模较大的争夺战。
虽然在元封三年，汉将赵破奴曾攻破车师，不过那时武帝还没有考虑占领车师的问题，所以汉军很快撤走，只能是一种尝试性的争夺。天汉二年（前99年），武帝决心占领车师，以保证北道的安全，于是命李广利、李陵等分出酒泉、居延北击匈奴，另遣匈奴降者开陵侯率楼兰国兵击车师。李广利被匈奴所围，几乎不能脱身；而李陵则兵败身降。匈奴右贤王在击退李广利后，率数万骑救车师，开陵侯见形势不利，引兵而还。在一夺车师中，以汉军的失败而告终。
征和三年（前90年），武帝遣李广利、商丘成、马通三将军分出五原、西河、酒泉北击匈奴。马通率部队将经过车师之北，武帝恐怕车师袭击汉军，又遣开陵侯率楼兰、尉犁、危须等六国兵围车师。此时匈奴自顾不暇，无法前往增援，车师王降服，臣属于汉。在二夺车师中，汉军征服了车师。
车师是匈奴在西域的重要基地，自然不肯轻易拱手让出，特别是在昭帝元凤四年（前77年），亲匈奴的楼兰王安归被汉使傅介子刺杀后，安归之弟尉屠耆被汉朝立为王，更其国名为鄯善，移都城于抒泥城（今新疆若羌），南道的门户已经被汉朝牢固控制的情况下，车师对于匈奴就更为重要。元平元年（前74年），匈奴派遣四千骑兵前往车师屯田，车师又倒向匈奴，出兵与匈奴共侵乌孙。本始三年（前71年）春，宣帝应乌孙昆弥翁归靡的请求，遣度辽将军范明友等五将军，十五万骑，分道而出，北击匈奴；又命校尉常惠持节监护乌孙兵五万，从西方击匈奴。屯田于车师的匈奴骑兵得知汉五路大军齐出，乌孙兵即将西至，大惊失色，一哄而散。在三夺车师中，车师复通于汉。
匈奴得知车师再次臣服于汉后大怒，命车师王遣太子军宿入匈奴作为人质，军宿不愿入质于匈奴，逃归其外祖父家焉耆，车师王于是改立乌贵为太子。乌贵继承王位后，与匈奴联姻，又倒向匈奴。地节二年（前68年），汉遣侍郎郑吉率士卒屯田于渠犁，垦荒积谷，准备进攻车师。第二年秋收之后，郑吉与校尉司马熹发西域诸国兵万余人及屯田士卒一千五百人围攻车师，车师王乌贵