唐代，倉山地區隸屬于閩縣及侯官縣，宋代到明代中期分屬于閩縣和懷安縣。

明萬歷八年（1580年）懷安縣并入侯官縣，倉山地區分屬閩縣和侯官縣。

境內以龍峰山和望北臺為界，以東屬閩縣，以西屬侯官縣。

1913年閩縣與侯官縣合并成立閩候縣，倉山地區屬閩候縣。

1917年福州省會警察廳成立，倉山地區行政上屬閩候縣和省會警察廳第五署雙重管轄。

1945年10月福州市國民政府成立，同時成立倉山區公所。

1950年1月，林森縣（閩侯縣）一區的白湖、雙湖2個鄉劃入倉山區，劃入面積10多平方千米（同年9月又劃出）。

5月設水上區，轄閩江洪山橋到魁岐水域，面積7平方千米。

1955年3月，市郊蓋山的美墩、中墩、程厝邊、長安、塔仔里、洋洽、新成里、白鷺嶺劃入倉山區，面積3平方千米。

同年5月，水上區與倉山區合并。

1960年3月，市郊蓋山公社劃入倉山區，面積30多平方千米，次年6月又劃出倉山區。

1968年9月，倉山區因“文化大革命”更名為朝陽區，同時成立革命委員會。

1970年2月郊區朝陽（蓋山）公社、建新公社、市紅星農場、閩候縣城門公社劃入朝陽區（倉山區），總面積增至112平方千米，包括整個南臺島，1975年5月又劃出朝陽區（倉山區）。

1978年4月，朝陽區復名倉山區。

全區有4個街道辦事外及水上工作辦事處，下轄40個居委會。

1986年11月成立三叉街街道，1988年5月撤水上工作辦事處，成立對湖街道，1996年1月，晉安區的倉山、蓋山、城門、建新、螺洲5個鎮劃歸倉山區，轄地擴至整個南臺島，面積擴至142平方千米。

2002年6月成立東升街道，2002年7月從建新鎮劃出盧濱、后曹、潘邊、石邊、新頤、上雁、葛嶼、閩江、劉宅9個村，從倉山鎮劃出燎原村，從上渡街道劃出橫江居委會成立金山街道。

2014年，倉山區轄對湖、上渡、倉前、三叉街、下渡、臨江、東升、金山共8個街道，建新、蓋山、螺洲、城門、倉山共5個鎮。