春秋時期屬吳國，秦屬九江郡。

漢高帝六年（201）為宜春縣地，屬豫章郡。

三國（吳）寶鼎二年（267），析宜春縣東境鐘山以東，置新渝縣，屬荊州安成郡。

晉元康元年（291），屬江州安成郡。

隋開皇九年（589），縣撤入吳平縣，屬洪州；開皇十一年（591），吳平縣并入宜春縣，屬洪州。

開皇十八年（598），復置新渝縣，屬袁州。

大業三年（607年），屬宜春郡。

唐武德五年(622)，新渝分屬袁州始平縣和西吳州。

貞觀二年（628），屬江南道袁州。

開元二十一年（733），屬江南西道袁州。

天寶元年（742），更名新喻，屬江南西道宜春郡。

乾元元年（758），屬江南西道袁州。

咸通六年（865），屬鎮南軍袁州。

五代十國（吳）天祐六年（909），屬鎮南軍新淦都制置使。

天祐七年（910），屬鎮南軍袁州。

南唐昇元元年（937），屬鎮南軍新淦都制置使。

昇元二年（938），屬鎮南軍袁州。

宋淳化三年（992），屬臨江軍。

至道三年（997年），屬江南路臨江軍。

天禧四年（1020），屬江南西路臨江軍。

元至元十四年（1277），屬江西行中書省臨江路。

元貞元年（1295），新喻因人口5萬余戶，升為州，屬江西行中書省臨江路。

明洪武二年（1369），新喻州改縣，屬江西行中書省臨江府。

洪武九年（1376），屬江西布政使司臨江府。

清襲明制。

1912年，屬江西省廬陵道（今吉安）。

1932年復隸省，屬江西省第八行政區。

1935年屬江西省第二行政區。

1949年7月14日，新喻全境解放，屬袁洲專區轄29個鄉，1953年袁洲專區與南昌專區合并后屬南昌專區。

1957年5月經國務院批準，將新喻更名為新余。

1960年9月30日，經國務院批準撤銷新余縣設立地級新余市，下轄45個人民公社（鄉）級以上行政區，1963年7月26日，經江西省人民委員會批準撤銷新余市恢復新余縣，屬宜春地區。

1983年7月26日，經國務院批準，撤銷新余縣恢復地級新余市，并將宜春地區的分宜縣劃分歸于新余市管轄，新余市人民政府正式成立。

1983年10月，江西省人民政府批準在原新余縣管轄范圍內設置渝水區，新余市轄新余市渝水區和分宜縣。

新余市得名后沿用至今。