1949年5月，為山灣、西源、張?zhí)痢⑴砩洁l(xiāng)行政區(qū)域，隸屬二、三區(qū)管轄。
1951年，增設(shè)葛洪鄉(xiāng)。
1952年，增設(shè)賀山鄉(xiāng)。
1956年，合并為彭山、葛洪、山灣、賀山鄉(xiāng)，同年7月又合并為山灣、吳山二鄉(xiāng)，成立葛洪、五臺、紅橋、山灣等初級農(nóng)業(yè)社。
1957年，轉(zhuǎn)為葛洪、五臺、紅橋、林居、蔡河、張?zhí)痢⑸綖称邆�高級農(nóng)業(yè)社。
1958年，樟樹鄉(xiāng)（為1956年成立）并入，成立山灣人民公社，轄山灣、張?zhí)痢巧健⒘志印⒓t橋、葛洪、五臺、竹蓬、楊柳、樟樹、大嶺、蔡河、河鋪13個大隊。
1962年，拆分為山灣、吳山、樟樹三個公社。
1968年，三社又合并為山灣公社。
1972年，樟樹公社析出。
1981年，山灣公社更名為吳山公社。
1984年機構(gòu)改革，撤公社更名為吳山鄉(xiāng)。
2002年，樟樹鄉(xiāng)撤銷并入?yún)巧洁l(xiāng)。
2012年，撤鄉(xiāng)設(shè)鎮(zhèn)，為吳山鎮(zhèn)。