宋代設溫泉團，明、清時屬泉上里和泉下里。

清雍正十二年（1734）設泉上分縣，置縣丞，分轄泉上、泉下、招賢（今水茜）三里。

1912年撤泉上分縣為泉上公安分局，1927年撤銷公安分局。

1930年蘇區時期設泉上區，1933年8月設泉上縣，建立泉上縣蘇維埃政府。

1934年冬為第二區，設三個聯保，1936年8月改屬三區（水茜），1941年并聯保為泉上鄉，1942年撤區為縣直屬鄉，1943年更名為元仲鄉，轄14個保。

中華人民共和國成立后，1950年3月屬第四區（湖村）為元仲鄉，1951年6月為四區改設泉上、泉正等6個鄉，1952年8月第四區政府遷駐泉上，1954年9月設泉上鎮和11個鄉，1956年5月改稱泉上區，設泉上鎮和6個鄉，1958年1月改設泉上鎮和泉正鄉，1958年10月為泉上公社和泉正公社，1959年2月合并稱泉上公社，1961年6月屬泉上工委分設泉上、泉正公社，1964年6月撤銷工委，泉上、泉正兩公社合并為泉上公社，1984年8月改制為泉上鎮。