北周静帝大定元年（公元581年），杨坚代北周称帝，国号隋。隋文帝开皇三年（公元583年），隋朝统一了全国。都大兴（今陕西省西安），开皇九年灭陈，至此全国南北统一，结束了东晋以来二百余年的分裂局面。

隋朝统治时间不长，但国家基本强盛。当时隋朝的疆域是东南到海，西到今新疆东部，西南到云南、广西和越南北部，北到大漠，东北迤到辽东。隋朝建立后，北方突厥族势力仍十分强盛，屡犯边地，隋文帝不得不出兵迎战。开皇三年（公元583年）突厥内乱，分裂为东、西两部互相攻杀。隋王朝支持东突厥，封其头目为启民可汗，允其渡漠南，迁居自道川（分内蒙古呼和浩特西北）。因此，在隋朝较强盛的时期，边境是安定的。由于社会经济发展，国力增长迅速，边境较安定，修筑长城的规模也较小，多是在前朝长城的基础上做些修缮。据史载，隋文帝时期修筑了四次长城，隋炀帝时期修筑了两次，主要为了防御突厥的侵犯。可是就在隋朝第一次修筑长城时就在忻州市境内

忻州的隋长城是他第一次修的长城。据《隋书·高祖纪》载：开皇元年（公元581年）四月，“发稽胡修筑长城，二旬而罢”。《隋书·韦世康弟冲传》亦载:“发南汾州胡千余人北筑长城”。南汾州即今山西省吉县，北筑长城，应在山西北部。由于当时北部最完整最长的长城要数北齐天保五年修筑的长城了，因北周在此基础上进行了加固。据《重修岢岚州志》记载:明朝嘉靖年间，有人在县城附近牛圈洼掘得一块石碑，上有“隋开皇元年赞皇县丁夫筑…县长城筑于赵，而隋、而宋修之无疑。”的字样，更印证了这一点，只是丁夫的来源不同，究竟是河北赞皇人修还是山西吉县人修，在此已不重要了，因反正是隋朝修筑过长城。说明岢岚县的长城为这次的“北筑长城”。

经长城专家考证，当时隋文帝“北筑长城”也最多是修了从保德境内的黄河畔上开始，到神池境内的这段先北齐后北周的长城。目前这段长城保存得较差，但从建筑风格上仍辨清，最能代表隋长城特点的要数宁武、岢岚和五寨交界处的荷叶坪上的长城了。长城从岢岚县一直延伸至五寨南山的荷叶坪，再从荷叶坪东西横贯，曲折向东，最后消失在管涔林海中。荷叶坪是华北最大的高山草甸， 也是管涔山的最高峰，海拔3782米。高山之巅，有一处开阔的草原，面积约3700余亩，坪上油草茂盛，野花吐妍，冰川地貌明显，冻胀丘密布，坪周围是苍苍茫茫的管涔林海，一道古老的长城横跨东西，雄伟中显示着苍凉，苍凉中渗透着文化。这段长城全用当地产的紫色页岩垒成，故人称宁武关为“紫塞”。长城高处约三四米，低处有一两米，有的地方已经坍塌，但由于坐落在荷叶坪上，看上去十分苍老的长城也显得相当有魅力。近年来五寨县将荷叶坪开辟成旅游景点，游客们在草原上徜徉的时候，顺便瞻仰瞻仰古长城， 给旅程平添了一种难以名状的情趣。

据《中国军事通史·第九卷·隋代军事史》载，为了对付来自漠北突厥的南下袭扰和掠夺，隋文帝杨坚自建国伊始，就把修筑长城、巩固边防，作为重要国防建设来抓。开皇元年（581年）四月，杨坚下令“发稽胡修筑长城”；十二月，再次下令沿北部边境“修保障，峻长城”。

总之，自开皇元年至大业四年的28年中，隋朝两代统治者先后7次调发近200万劳力，于北部和西北部边境修筑长城、增建城垒，在前代北魏和周、齐修筑长城的基础上，使东迄紫河，中经朔方、灵武之境，西至榆谷以东的长城、筑垒，基本连成一线。这对巩固隋朝北部及西北边防，抵御突厥和吐谷浑的袭扰，无疑是有一定作用的。

还有，《清水河县志》上说:“隋之古长城。县境内有土边墙一道，东北自和林入境斜贯县之中部，至老牛湾与长城连接，殆即隋之长城。”老牛湾就在偏关，可能山西的老牛湾也有隋代长城。因内蒙的牛湾过去不叫老牛湾，叫闫王鼻子村。

我国历史学家范文澜在史书《隋炀帝修清水河长城》中讲了这样一个故事:公元607年，隋炀帝到北境去游玩。他出边塞宣扬武威，暂停在榆林郡，发丁男百余万人筑长城，西起榆林，东至紫河，限令二十天筑成，丁役死去十之五六。他筑长城同洛阳外围掘长堑是一样的想法，以为有了长城，可以保证行军的安全。他率领大军五万余人，马十万匹，结成方阵，四面准备应敌。他和后妃宫眷及百官家属都在方阵中间。大军出榆林塞，游行突厥牧地，受启民可汗朝见，大军转入楼烦关（宁武苗庄），回到太原。

隋朝灭亡，唐朝建立，国力更加强大，边境无有冒犯，故唐代没有修筑长城，再以后修筑长城就是宋长城了。