峨山歷史悠久，據塔甸老龍洞出土的舊石器時期人類下頜骨及石器、骨器、動物骨骼化石，證明距今約12萬年前就有人類生息繁衍。

據史籍記載，峨山地域在先秦時期屬古滇國轄地，漢屬益州郡俞元縣地。

三國時期益州郡劃設建寧郡，峨山屬建寧郡俞元縣地。

隋屬南寧州總管府。

唐初屬南寧州絳縣地，后屬南詔通海都督府。

宋大理國時期屬秀山郡。

元憲宗六年(1256)置嶍峨千戶，隸阿僰萬戶。

元世祖至元十三年(1276)改置嶍峨州，隸臨安路；二十六年(1289)改置嶍峨縣，隸臨安府。

明洪武十五年(1382)仍置嶍峨縣，隸臨安府。

清沿明制。

民國建立后仍名嶍峨縣。

1913年裁府設道，隸蒙自道。

1929年峨山人徐為光(任省民政廳廳長)認為“嶍峨”與“習惡”諧音，殊不雅訓，根據鄉紳要求，簽呈省政府將“嶍峨”改為“峨山”。

省政府于同年10月8日115次會議決議呈經中央核準，于1930年1月1日始更名為峨山縣。

中華人民共和國建立后，于1949年10月24日在甸中成立峨山縣臨時人民政府。

1950年2月2日縣臨時人民政府由甸中遷回縣城。

1951年5月12日成立峨山民族自治縣，1954年6月18日改稱峨山縣彝族自治區。

1956年1月17日改稱峨山彝族自治縣，隸玉溪專區。

1971年隸玉溪地區。

1998年隸玉溪市。