商代曾在此建都稱亳。

西周屬管國。

春秋屬鄭。

戰國屬韓。

秦屬三川郡。

漢屬河南郡。

隋開皇三年（583）改滎州為鄭州，治成皋（今滎陽汜水）。

十六年（596）改鄭州為管州，治管城（今管城區）。

大業二年（606）復名鄭州。

唐武德四年（621）分置鄭州、管州，鄭州治成皋，管州治管城。

貞觀元年（627）廢管州入鄭州。

七年移治管城。

宋熙寧五年（1072）廢鄭州。

元豐八年（1085）復置。

崇寧四年（1105）鄭州建為“西輔”，為宋代四輔郡之一。

明屬開封府。

清雍正二年（1724）鄭州升為直隸州，屬河南省。

十二年復屬開封府。

光緒二十九年（1903）復為直隸州。

1913年改鄭州為鄭縣，屬豫東道。

1914年屬開封道。

1928年設鄭州市。

1931年撤銷，復鄭縣。

1933年屬河南省第一行政督察區。

1948年復置鄭州市。

1949年鄭州市及鄭州專區屬河南省。

1954年河南省人民政府由開封市遷入鄭州市。

1959年原開封專區的滎陽、鞏縣、登封、密縣、新鄭5縣劃入。

1961年滎陽縣、鞏縣、登封縣、密縣、新鄭縣復歸開封專區。

1971年滎陽縣劃入鄭州市。

1983年鞏縣、登封縣、密縣、新鄭縣、中牟縣劃入鄭州市，成今境。