合山鎮始建于北宋年間（960年—1127年）。

清末，屬陽江縣長樂鄉喬馬都喬馬一圖、平樂鄉北慣都北慣一、二圖。

民國初期，屬第三區。

民國二十六年（1937年），屬第二區。

1953年5月，改為第五區。

1957年2月，撤區并鄉，稱合山鄉。

1958年11月，與北慣鄉合并成立幸福公社；同年12月，改稱合山公社。

1959年10月，分出北慣公社。

1961年5月，改為合山區，轄合山、那龍、田畔、北慣、那石公社。

1963年，撤區分為合山、北慣公社。

1979年3月，分出田畔公社。

1983年11月，改公社為合山區。

1987年2月，改區為合山鎮。

1988年1月至1991年6月，合山鎮屬陽江市陽東區管轄，1991年7月，屬陽東縣管轄。