刘邦灭秦后，在公元前202年称帝，国号汉，建都长安（今陕西西安）。此际，北方匈奴冒顿单于杀父自立，吞并邻族，日益强盛起来。

汉高祖七年（公元前200年），匈奴进攻马邑（今山西省朔县东北）。因汉将韩信投降，匈奴南下雁门，围攻太原。刘邦亲率三十二万大军迎战，却被围困于今山西大同东北的自登山上达七日之久。用陈平计，重赂冒顿的阏氏，始得突围。此后，在惠帝、吕后、文帝和景帝的六、七十年间，都对匈奴采取和亲政策。

刘邦称帝的第二年（公元前201年），下令修缮了秦昭王时所筑的长城。《史记·高祖本纪》载:“置陇西、北地，上郡、渭南、河上、中地郡；关外置河南郡。更立韩太尉信为韩王。诸将以万人若以一郡降者封万户。缮治河上塞。”

西汉王朝经“文景之治”，社会经济得到恢复和发展，平息了“吴、楚七国之乱”，国力强盛起来。公元前140年，汉武帝刘彻即位，他毅然采取积极防御的战略方针，以攻为守，主动出击，屡败匈奴。在军事进攻的同时，大规模地修筑了长城，据历史文献记载，大体可以分为四次，一次与忻州有关，据《汉书·武帝本纪》载:元光五年夏（公元前130年）在第一次北去匈奴前三年，武帝“发卒万人治雁门阻险”。这是对北击匈奴所作的准备工作。

真正较大规模地修筑长城当属元朔二年。《史记、匈奴列传载:“其明年（元朔二年）卫青复出云中以西至陇西，击胡之楼烦、羊王于河南，得胡首虏数千，牛羊百余万。于是汉遂取河南地，筑方，复缮故秦时蒙恬所为塞，因河为团。”蒙恬所为塞，其中就有州大地上筑的长城，这汉武帝筑的有可能就修缮了这段长城。

另外，宁武城西的苗庄古城，经市文物部门考察，为汉代城即汉代的楼烦关，市文管处长郭银堂等还写过文章。另外，在代县志上，也有汉代长城的记载。以上种种，忻州在汉代筑过长城是确证无疑的。