漢武帝元鼎六年（前111年），漢武帝置零陵郡，郡治設在零陵縣（秦始皇二十六年即前221年始設零陵縣，漢武帝元鼎六年即前111年設為郡治，隋文帝開皇九年即589年撤消此零陵縣），治所在今廣西全州縣咸水鎮老拱橋邊。

清，屬宜鄉。

民國二十二年（1933年），屬建宜區，民國三十一年（1942年），為咸水鄉。

解放初，為咸水區。

1952年，屬第六區。

1955年，復稱咸水區。

1957年秋，分為咸水、魯塘二鄉。

1958年秋，二鄉合并為咸水公社。

1961年，屬紹水大區。

1968年，仍稱咸水公社。

1984年9月，由咸水人民公社改稱咸水鄉。

2014年6月，撤鄉改鎮。