西漢歷史上和西漢版圖內被稱為“渠犁”，為西域三十六國之一。

神爵三年（前59），漢朝在烏壘（今輪臺策大雅）設西域都護府。

唐貞觀十四年（640），設安西都護府于高昌（后遷龜茲），下轄天山以南焉耆、龜茲、毗沙、疏勒等都督府，庫爾勒歸焉耆都督府管轄。

12至13世紀，庫爾勒地區屬西遼。

元建立別失八里行尚書省。

庫爾勒隸于別失八里。

1758年，清朝先后平定準噶爾與大小和卓，在庫爾勒實行伯克制，設阿奪木伯克1人，級別三品，屬喀喇沙爾辦事大臣管轄。

1884年，新疆建省后，焉耆設喀喇沙爾直隸撫民廳，后改為焉耆府，轄輪臺、新平、若羌3縣，包括庫爾勒、和碩、和靜等地。

庫爾勒屬焉耆府，幅員七十余里，人口四千余戶，地理位置之重要于焉耆相等而商務繁盛。

1920年新增添焉耆、和闐兩道，庫爾勒隸屬焉耆道管轄。

1930年10月，設置庫爾勒設治局，區劃仍隸屬焉耆行政區。

1939年4月，正式將庫爾勒設治局改為庫爾勒縣，屬焉耆行政區轄。

1943年，設焉耆行政督察專員公署，庫爾勒縣歸其管轄。

1950年4月13日，成立焉耆專員公署，6月成立庫爾勒縣人民政府。

1954年6月，撤銷焉耆專員公署，分設巴音郭楞蒙古自治州和庫爾勒專署，庫爾勒縣歸庫爾勒專署管轄。

1960年12月2日，庫爾勒專署并入巴音郭楞蒙古自治州，庫爾勒縣歸巴州管轄，為自治州首府。

1979年10月，由庫爾勒縣分設庫爾勒市。

1984年4月，撤銷庫爾勒縣建制，并入庫爾勒市。