明初時期，衡山縣設崇岳、紫蓋、義城、武陽、永平、興樂6個鄉。

洪武十一年（1378年），下編32都1坊。

洪武十四年（1381年），縮編為16都1坊，清康熙四十三年（1704年），知縣李長祚將6鄉16都1坊改編成朝、宗、于、海等17字，期間南岳區的南岳鎮屬紫蓋鄉七都、海字區域。

民國二十一年（1932年），撤字建區屬衡山縣第一區。

民國二十五年（1936年）7月，廢區，實行鄉、縣兩級自治制，衡山縣設義安、南岳2個鎮和55個鄉。

1956年，南岳鎮為衡山縣3個縣轄鎮（城關、南岳、石灣）之一。

1958年，建南岳人民公社，1960年4月，南岳人民公社劃分為南岳公社和南岳鎮，屬南岳管理局和衡山縣雙重領導。

1983年，政社分設，南岳公社建南岳鄉。

1984年8月，設立南岳區南岳鄉、南岳鎮及后山10村從衡山縣成建制析出。

1985年3月，設南岳鎮。

1987年1月，南岳鄉并入南岳鎮。

2010年，白龍村更名南山村。