在民传说中，所有长城是“秦始皇走马修边墙”修筑的，其实历史上修筑长城的朝代很多，秦始皇修筑长城只是其中的一个朝代而已。但是，在秦朝修筑的长城中，在忻州大地也有遗迹。

秦始皇嬴政三十三年（前214年），秦始皇派大将蒙恬率领三十万人北逐匈奴，占据河套，并修筑长城。据《史记·蒙恬列传》载:“秦已并天下，乃使蒙恬将三十万众北逐戎狄，收河南。筑长城，因地形，用制险塞，起临洮（今甘肃岷县），至辽东，延袤万馀里，于是渡河，据阳山，逶蛇而北。暴师于外十馀年。”秦长城把过去秦、赵、燕三国长城连接起来，以防匈奴南进，从临洮到辽东的绵延万里，史称秦长城。从此始有“万里长城”之称。

秦长城可大致分为北段和西段。北段在黄河以北，沿阴山西段的狼山，向东至大青山北麓，再向东经今内蒙集宁、兴和至河北尚义，再向东北经今河北张北、围场，再向东经抚顺、本溪后向东南，终于朝鲜清川江入海处。西段起于今甘肃省岷县，循洮河北至临洮县，经定西县向东北至宁夏固原县、甘肃环县、陕西靖边、横山、榆林、神木，然后向北折至今内蒙古托克托南，抵黄河南岸。

说修到内蒙托县的黄河南岸，应为今偏关河曲一带。当年秦国利用黄河天险，修筑防御工事是可能的。据山西省著名长城专家刘忠信说，在偏关县老牛湾万家寨一带，有许多早期墙体的遗迹应为秦长城的遗存。可惜近年的风雨剥蚀，秦时的墙体已经很少了。当年秦始皇派蒙恬和扶苏在忻州境内修筑长城，守卫边关，在忻州大地上留下许多传说和遗迹，史书也有记载，特别是代县原平等地，有寺庙，有以蒙恬命名的村庄，皆与当时修筑长城有关。如代县有东西蒙王村、杀子河，原平崞阳镇有蒙恬庙、扶苏庙等。

传说，秦蒙恬大将与秦皇长子扶苏监军率兵30余万北逐戎狄、威振匈奴，戎边10年，功绩赫赫。山中多有传说遗迹。公元前201年，秦皇出巡，殁于沙丘行宫。宦官赵高串通丞相李斯篡改遗嘱，扶苏赐死，蒙恬被害。因蒙恬、扶苏军纪严明，秋毫无犯体恤百姓，当地土著感怀其德政，悼念其忠魂，遂将蒙恬、扶苏建庙祀之位于南神头村西之崞山寺专门为纪念蒙恬大将而建。寺院依山而建，重岗复岭，参差迤逦，庙宇多达300余间，崞县旧八景之一的山叠翠即由此得来。

在原平崞阳镇西神头村，有一座规划宏大的扶苏庙，是为纪念扶苏而修建的。后庙毁，但一株15人才可合抱的千年楸树，至今枝繁叶茂，虬枝横生，是不可多得、极其珍贵的古树名木。寺中有古碑数通，详细记载了扶苏和蒙恬的在山西筑城戌边的事迹。

据史载，秦始皇在沙丘暴卒后，秘不发丧，赵高和李斯为了防止长子扶苏作乱，伪造遗诏，“赐死”扶苏和蒙恬据《史记·李斯传记载:“蒙恬止扶苏曰:陛下居外，未立太子，使臣将三十万众守边，公子为监，此天下之重任也。今一使者来，即自杀，安知其非诈？……扶苏为人仁，谓蒙恬曰:父而赐子死，尚安复议！即自杀。蒙恬不肯死。”这段史实，既与忻州的蒙恬、扶苏的记载相吻合又为秦长城抹上了一份腥风血雨的色彩。