始于春秋戰(zhàn)國，興于明清，秦稱上郡，明永樂六年(1408)，在今紅山(雄石峽)建榆林寨，榆林之名始見于史。

正統(tǒng)初年（1438）改設榆林堡，明成化七年（1472）擴建榆林堡為榆林衛(wèi)城，明成化九年（1474）遷延綏鎮(zhèn)鎮(zhèn)署于榆林衛(wèi)，延綏鎮(zhèn)因此又稱榆林鎮(zhèn)，是明朝九邊重鎮(zhèn)之一。

清雍正二年(1724)撤榆林鎮(zhèn)、衛(wèi)改設延綏道，道治榆林，八年（1730）設榆林府，九年（1731）撤延綏道、設榆林縣。

1913年撤榆林府設榆林道，轄陜北23縣，1930年撤榆林道，各縣由省直轄。

1949年6月，榆林和平解放設榆林市，1950年4月，榆林市、榆林縣合并榆林縣。

1959年1月，榆林、橫山兩縣合并仍名榆林縣。

1988年9月，榆林縣改為縣級榆林市。

2000年7月，榆林地區(qū)行政公署撤銷、設立地級榆林市，沿用至今。