偏头关地处晋、陕、蒙三省区交界处，关河下游河谷之中，与宁武、雁门二关鼎峙晋北，互为犄角，是北疆之门户，京师之屏障。古人有诗赞日：“雄关鼎宁雁，形势独开张。地控黄河北，山连紫塞长。春深貔虎伏，秋老颧鹅翔。门户障宣大，藩篱限羯羌。层峦千里亘，绝险一夫当。土屋余唐俭，金城巩晋强。华夷天设域，表里若为防。可笑和戎利，相因误汉唐。”

偏头关在古代是山西境内最重要的军事要塞和军事重镇，一直有重兵把守。元代由偏头砦改为偏头关后，曾置武节将军、枢密院判镇守。到了明代，更加看重偏头关。洪武二年（1369年），改筑关城，置守备，专饬守关。下设十八堡寨，关以东为马站堡、八柳树、老营；东北为小营、水泉；北为寺土焉、滑石涧；西为桦林堡、楼子营、罗圈堡、阳冕、唐家会、五花营、得马水、灰沟营；南为永兴堡；东南为八角堡、长林堡。

偏头关驻守三关总兵是在明宣德年间。宣德四年（1429年），都督李谦屯兵偏头关，并在偏头关置三关总兵官，提督三关军务，专掌三关军事。仅偏头关部分，统领左、中、右三营，辖堡二十九个，共设兵万余。其中水泉、贾家堡、马站堡、滑石涧、老牛湾、草垛山等均为重要营镇，设重兵镇守。朝廷还特派内臣太监到偏头关驻守，协助镇守边关。在成化元年（1465年）拓城后，偏头关一直有兵备道及镇守副总兵驻扎。成化十一年（1475年），置偏头关守御千户所，并置老营守御千户所，副总兵仍在偏头关驻守。成化十八年（1482年），罢总兵官，置分守参将。偏头关守御所原有兵丁800名，改为杂色司兵丁500名，设道标营、中军守备各一名，千总一名，把总一名，

标兵彝汉马兵600名。总督、标兵、守操于道标各一员。马兵300名，统加造营军匠兵丁500名，千总一名，火器千总一员。弘治十四年（1501年），复罢参将，置协守偏头关副总兵官，偏头关的军事地位再度加重。

到了明嘉靖年间，镇守大同的大同镇总兵和进犯中原的元朝残部俺答相互勾结，达成协议，大同镇不阻拦俺答的南侵，于是俺答可突破外长城，长驱直入，顺恢河滩直达宁武关，宁武关的战略位置就显得尤为重要，明王朝不得不将军事重心由偏头关南移宁武关。嘉靖二十二年（1543年），太监撤回京师，三关镇移镇宁武关，总兵官移驻宁武关，称镇守，下辖参将五员，分驻太原、代州、偏头关、利民堡、北楼口；守备十员，分驻广武、偏头关、平型关、神池、利民、八角、老营、北楼口、西黄河、镇西卫。在偏头关特设西路参将府，派参将把守，同时又加设守备。下属二城五堡十三寨，二城为八角城和老营城，堡寨多在神池、偏关、河曲境内。管辖中军一名，千总一名，把总六名，马步兵丁3600名，驮正战马3600匹。明嘉靖三十七年（1558年），设偏宁道，总部驻偏关。三十八年，改为岢岚道，总部仍驻偏关，另设宁武道。

清朝雍正三年（1725年），改偏头关为偏关县，属宁武府，但军事防务没有放松。偏关城在军事上为偏关营，领楼沟堡和老牛湾堡。在北部设水泉营，领草垛山堡和滑石涧堡。东北设老营堡营，领贾家堡、五眼井堡、马站堡、永兴堡。偏关、老营由参将府改为都司。清末时，裁老营都司，改千总，属偏关营管辖。水泉旧设游击，后改守备，所领之堡并设把总或外委。

偏头关从明宣德四年到嘉靖二十二年，有史可查的，有名有姓的，共驻守三关镇守总兵官23名，到嘉靖二十二年总兵移驻宁武关后再未记载。从明成化已年到清康熙四年，共驻兵备道43名。从成化年间到清道光二十七年，共驻参将87名。从嘉靖三年到清雍正十二年，共驻西粮厅54名。从明永乐十七年到清咸丰二年，共驻守备74名。从这武官的频繁更替中可以看到偏头关在军事上的战略地位。