兩漢時為卑陸、劫國地，屬車師后部，隸西域都護府和戊己校尉。

晉屬鐵勒。

隋屬西突厥。

唐設置輪臺城，隸北庭大都護府。

宋為高昌回鶻轄境。

元屬別失八里元帥府。

明代為厄魯特蒙古和碩特部游牧地。

清初為衛拉特蒙古準噶爾部所據。

清乾隆二十三年(1758)在南關一帶筑土城；二十五年(1760)設烏魯木齊同知，隸安西道；三十年(1765)，接土城北垣筑新城，命名迪化，俗稱漢城，又稱紅廟子；三十六年(1771)設烏魯木齊參贊大臣；三十七年(1772)在迪化城西北筑八旗兵新城，乾隆賜名鞏寧城(俗稱老滿城)；三十八年(1773)改參贊大臣為烏魯木齊都統，改安西道為鎮迪道，改迪化同知為直隸迪化州，駐鞏寧城。

同治三年(1864)鞏寧城毀于戰亂。

光緒十年(1884)新疆建省；十二年(1886)升迪化直隸州為迪化府，仍隸鎮迪道，下設迪化縣。

同年，迪化城擴建，省、迪化府及迪化縣治所均設在迪化城。

1913年，撤迪化府，保留迪化縣，隸迪化道。

1929年，迪化道改為迪化行政區，轄迪化、乾德(今米泉)、奇臺、昌吉、呼圖壁、阜康、孚遠(今吉木薩爾)、綏來(今瑪納斯)、木壘河、鄯善、哈密、鎮西(今巴里坤)12縣。

1938年，吐魯番、托克遜2縣劃入迪化行政區。

1943年，改為迪化督察專區。

1945年設迪化市。

1949年12月，成立迪化市人民政府，全市設7區。

1954年，迪化專區改名烏魯木齊專區，迪化市改名烏魯木齊市。

1956年烏魯木齊市所轄7區合并為3城市區(一區、二區、三區)、1郊區、1工礦區、1工礦鎮。

1957年，一區改名天山區，二區改名多斯魯克區，三區改名沙依巴克區。

1958年，烏魯木齊專區撒銷。

1959年，烏魯木齊縣劃歸烏魯木齊市，同年市郊區并入烏魯木齊縣。

1960年，天山區與多斯魯克區合并為天山區。

1961年，成立水磨溝區和頭屯河區，增設新市區。

1970年，自治區直屬的吐魯番、托克遜2縣劃歸烏魯木齊市。

1971年，設南山礦區。

1975年，吐魯番、托克遜2縣劃入吐魯番地區，烏魯木齊市轄6區、1縣。

1987年設東山區。

2002年撒南山礦區，增設達坂城區。

2007年昌吉回族自治州所轄米泉市與東山區合并，設立烏魯木齊市米東區。