古為豫州地。

殷商時應龍氏部落封國于此。

西周為武王宗室應侯封地，春秋戰國時期分屬鄭、楚、晉、魏、韓。

秦統一后，今境分屬潁川郡、三川郡、南陽郡。

漢改三川郡為河南郡，北部仍屬潁川郡。

晉析潁川郡置襄城郡，分屬河南郡、襄城郡、南陽郡。

南北朝時先后分屬魯陽郡、襄城郡、南安郡、汝北郡、汝南郡、順陽郡、漢廣郡。

隋代分屬襄城郡、潁川郡。

唐代先后分屬汝州郡、許州郡、襄城郡。

宋元明清時期分屬汝州、許州、裕州。

1912年，屬河洛道、汝陽道，后分屬豫南道、豫東道、豫西道。

1949年后逐步發展為以煤炭為主的新興工業城。

1954年成立平頂山煤礦籌備處。

1955年建立礦區。

1956年由寶豐縣析出井營鄉、西高皇鄉、姚孟鄉，葉縣析出大營鄉、東高皇鄉并入平頂山礦區。

1957年設平頂山市。

1958年寶豐縣留村鄉、葉縣北渡鄉劃入，屬許昌專區。

1960年寶豐縣撤銷，劃入平頂山市。

1961年析出復置寶豐縣，屬許昌專區。

1964年3月平頂山市復為平頂山礦區，6月改為平頂山特區。

1968年復為平頂山市。

1971年韓梁礦區與寶豐縣薛莊鄉劃入。

1977年舞鋼工區劃入。

1979年舞鋼區劃出，屬許昌地區。

1982年復屬平頂山市。

1983年原許昌地區的魯山、寶豐、葉縣3縣劃入平頂山市。

1986年原許昌地區的襄城、郟縣2縣，洛陽地區的臨汝縣劃入。

1997年襄城縣劃出，屬許昌市。