武乡，古为冀州地。春秋是时为晋地(即相传蔡地皋狼之地，有智伯瑶求诸赵襄子之说，由此而三国分晋);战国属韩，后属赵(周赧王53年即公元前260年归赵)，55年后(即公元前245年)秦、赵长平之战后属秦的上党郡。

        西汉为涅县，属上党郡。自此开始有了县的建制。据〈地理志〉载(下同)：“上党郡之县十有四，其六曰涅氏县“。由涅水(今涅河)而得名。轑阳(今左权)、榆社县皆为涅县地。东汉和三国时期仍属上党郡，改涅氏县为涅县。上党郡领县十三，其五曰涅。其时除上属三县外，和顺亦属涅县。治所在今故城。

        西晋秦始年间(约公元270年)始置武乡县并属上党郡。上党郡领县十、其八曰涅，其十曰武乡。也就是把原来的涅县一分为三，即涅县、武乡县、轑阳县(分到乐平郡)。武乡因武乡水(即发源于榆社北部的关河水)而得名。包括今武乡东部和和顺、昔阳的西部、县治在今榆社县北30里的社城镇。

        十六国时代先属前赵，公元319年石勒建立后赵后，分上党郡置武乡郡。约25年后随着石赵政权的覆灭，在真君九年撤郡。北魏延和二年(即公元433年)改称乡郡，领县四，即阳城县(即我县西部地区，县治由涅县时的故城移至甲水村)、乡县(原武乡县)、铜 县(今沁县)襄垣县。此时的乡县等于今武乡县城以东和榆社、和顺、左权，治所仍在社城。于北魏太和15年(公元491年)乡县的治所由社城移至南亭川(今故县)。也就是说古涅县之地一分为二，即阳城县和乡县两县。轑阳县(左权)在后魏的一段曾独立置县，但时间很短，在北周又归属乡县。

       隋开皇3年(公元583年)废乡郡。乡县属上党郡。上党郡领县十，其八曰乡。开皇十年以轑阳县地置辽山县，又归乐平郡。开皇16年(公元596年)榆社县分治，18年又改阳城县为甲水县。大业初年(公元606年)撤榆社县又归乡县，并甲水县于铜 县。义宁元年(公元617年)复置榆社县。这时的古涅县地分为三：日辽山、榆社、乡县。

        唐武德元年(公元618年)乡县属韩州(州治在襄垣)，包括襄垣、黎城、涉县、铜 、乡五县。真观17年(公元643年)韩州废。乡县属潞州。潞州上党郡领县十，其十曰武乡。这时又恢复武乡县名。武则天当政后于神龙中期复更名武乡县为乡县。不久又恢复武乡县名。在唐武德六年复置涅水县，武德九年撤。

        五代时武乡县属潞州。

        宋，武乡县属威胜军。太平兴国三年(公元978年)在铜 县的乱柳石围中置威胜军，撤沁州。威胜军领县四，其二曰武乡。熙宁7年(公元1074年)，辽州废，以榆社为镇，又归属武乡。元丰8年(公元1085年)又分置辽州、榆社。榆社全并武乡又20年。

        金，武乡属沁州。其时沁州锦山郡领县四，其二曰武乡。此时武乡唯一的镇为南关。

        元，武乡仍属沁州，至元3年(公元1266年)因武乡户不满千遂并入铜 县。元真2年(公元1296年)即31年后复立武乡县。

         明清以来建置没有大的变化。1940年7月日军白晋铁路开通后，迫于抗日战争的需要，将白晋线以西的石门编村(辖8闾12个自然村)、贾封编村(辖3闾4个自然村)、楼则底编村(辖5闾9个自然村)，约20平方公里划到平遥县，武乡又划为武东，武西两县。1945年9月随着全县的解放而合并恢复武乡建置。1958年1月榆社县再次并于武乡县，1959年7月分治。1971年将分水岭，石盘，墨镫三个公社分别划到祁县，榆社，左权县，襄垣县的龙王堂公社划归武乡。一年后又各归原制。