夏、商、周，屬荊州和揚州地域。

春秋，分屬吳境西部和楚境東部地域。

戰國，先后屬吳、越、楚地域。

秦屬九江郡。

西漢高帝元年（前206），屬九江王國九江郡；四年，屬淮南王國；六年，屬柴桑縣。

王莽新朝元年（9），屬九江郡九江亭。

東漢屬九江郡柴桑縣。

三國魏黃初二年（221），屬武昌郡。

晉元康元年（291），屬江州武昌郡柴桑縣。

永興元年（304），屬江州尋陽郡柴桑縣。

南朝梁太清二年（548），屬江州尋陽郡柴桑縣。

隋開皇九年（549），屬尋陽州尋陽縣，十八年（598），屬江州尋陽縣，大業三年（607），屬九江郡湓城縣。

唐武德四年（621），屬江州尋陽縣；天寶元年（742），屬潯陽郡潯陽縣，乾元元年（758），屬潯陽州潯陽縣。

五代十國南唐升元三年（939），屬潯陽州德化縣。

宋太平興國三年（978），分屬德化、星子2縣。

元至正二十一年（1361），地屬九江府德化縣、西寧府星子縣。

1914年，地屬潯陽道九江縣、星子縣。

1926年，廢道置府。

1949年，置九江縣、星子縣。

1949年5月，先屬九江縣、星子縣，后屬九江市、廬山管理局（縣級）。

1980年5月，九江市市郊設郊區，原縣級九江市所轄工農兵、前進、新港、大橋、周嶺、水產6公社劃歸郊區。

1984年8月，郊區更名廬山區（縣級），管理局所轄紅旗、向陽、登廬、東風、高垅5公社劃歸廬山區，政府駐十里大道，隸屬九江市。

2000年，共轄海會、姑塘、威家、新港、蓮花、賽陽、牯嶺7鎮，高垅、虞家河、五里、十里、七里湖5鄉和十里街道。

2005年，共轄7鎮、1鄉、3街道。

2016年4月8日，根據國務院批復撤銷星子縣，設立廬山市，為避免重名，廬山區更名為濂溪區。