春秋戰國時屬楚地。

秦王嬴政二十六年（前221），秦設郴縣，屬長沙郡。

1949年11月25日，郴州全境解放，置郴縣專區。

1950年11月更名為郴州專區。

1958年8月設郴縣郴州市。

1959年11月，郴縣郴州市升為地轄縣級市。

1960年8月，郴縣專區改為郴州專區。

1967年3月撤銷郴州專區，成立郴州地區革命委員會籌備委員會。

1968年2月成立郴州地區革命委員會。

1979年3月，改郴州地區革命委員會為郴州地區行政公署。

1994年12月，撤銷郴州地區，設立地級郴州市，撤銷縣級郴州市和郴縣，分設北湖區和蘇仙區。