公园前 129年,匈奴又一次兴兵南下,前锋直指上谷（今河北省怀来县）.汉武帝果断地任命卫青为车骑将军,迎击匈奴.从此,卫青开始了他的戎马生涯.
这次用兵,汉武帝分派四路出击.车骑将军卫青直出上谷,骑将军公孙敖从代郡（治代县,今山西大同、河北蔚县一带）出兵,轻车将军公孙贺从云中（今内蒙古托克托东北）出兵,骁骑将军李广从雁门出兵.四路将领各率一万骑兵.卫青首次出征,但他英勇善战,直捣龙城（匈奴祭扫天地祖先的地方）,斩首 700人,取得胜利.另外三路,两路失败,一路无功而还.汉武帝看到只有卫青胜利凯旋,非常赏识,加封关内侯.