此为河套地区建置之始。其后赵国衰落，河南地被匈奴占据。
秦始皇三十三年(公元前二百一十四年)，秦始皇嬴政遣将军蒙恬“发兵三十万人北击胡，略取河南地“，“以为三十四县，城河上为塞“，号为“新秦“，即汉代之朔方、五原二郡。秦末战乱，边地戍卒被调回中原，河南地又为匈奴所据。秦代后期所置郡名不可考，可能领有渠搜、临河、昫衍道、朐衍、高望、富平六县。
汉武帝时国力转盛，开始收复秦代边地。元朔二年(公元前一百二十七年)，匈奴侵入渔阳、上谷，杀千余人。武帝令车骑将军卫青“出云中以西，至高阙，遂略河南地，至于陇西“。主父偃进言朔方土地肥饶，宜屯田驻守，“内省转输戍漕，广华夏、灭胡之本也“。武帝从其言，遂“收河南地，置朔方、五原郡“。
西汉时，朔方郡辖境大致相当于，后世的内蒙古河套西北部及后套一带(鄂尔多斯西部及巴彦淖尔西南部)，即秦代九原郡的西半部，时称“新秦中“，郡治在朔方县。其东为五原郡，西、北与匈奴为邻。郡西有鸡鹿塞(后世的巴彦淖尔磴口县，沙金套海苏木太阳庙，山哈隆格乃山口)，北有高阙塞(后世的巴彦淖尔乌拉特后旗，呼和温都尔镇狼山大巴图沟口)，是阴山一带