建元六年(公元前135年),汉武帝罢黜百家定儒一尊之后,采纳董仲舒的建议,始在长安建立太学。太学之中由博士任教授,初设五经博士专门讲授儒家经典《诗》、《书》、《礼》、《易》、《春秋》。
建元二年(前139年),张骞率领100多名随行人员,匈奴人堂邑父为向导从长安出发前往西域。正当张骞一行匆匆穿过河西走廊时,不幸碰上匈奴的骑兵队,全部被抓获。匈奴单于为软化、拉拢张骞,进行了种种威逼利诱,但均未达到目的。张骞“不辱君命”、“持汉节不失”。元朔三年(前126年),匈奴为争夺王位发生内乱,张骞趁机和堂邑父逃回长安。从武帝建元二年(前139年)出发,至元朔三年(前126年)归汉,共历十三年。出发时是一百多人,回来时仅剩下张骞和堂邑父二人。张骞对广阔的西域进行了实地的调查研究工作,回长安后,他将其见闻,向汉武帝作了详细报告。
元朔二年(公元前127年),匈奴大举入侵上谷、渔阳,劫掠百姓两千多人。武帝派李息从代郡出击,卫青率大军进攻匈奴盘踞的河套,切断驻守军同单于王庭的联系。而后,卫青又率精骑,飞兵南下,进到陇县西。汉军活捉敌兵数千人,夺取牲畜数百万之多,控制了河套地区。汉武帝在此设朔方郡、五原郡,迁徙十万人到那里定居,还修复了秦时蒙恬所筑的边塞和防御工事。此仗汉军全甲兵而还,卫青立有大功,被封为长平侯,食邑3800户。