秦朝時期，今涼城縣地區基本上屬代郡。
西漢時期，置有沃陽縣（治所今縣西南）、強陰縣（治所今縣岱海東南，有的資料記載為“疆陰縣”），另設西部都尉（駐今縣城西南）。
西部都尉和以上2縣均隸屬雁門郡（治所善無，今山西省右玉縣）。
東漢時期，沿置強陰縣（治所今縣岱海東南），隸屬雁門郡（治所陰館，今山西省境內）。
三國、西晉時期，為拓跋鮮卑居地。
東晉時期，今縣境屬代轄地。
東晉咸康五年（339年），拓跋什翼犍會諸部落首領于參合陂（今縣岱海）。
東晉太和六年（371年）七月七日，拓跋珪在參合陂以北出生。
北魏登國元年（386年）正月初六，道武帝拓跋珪即代王位。
北魏天興元年（398年），魏王鮮卑拓跋趕將都城從盛樂（今和林格爾縣土城子鄉古城）遷至平城（今山西省大同市）后，今縣為代都畿內地，隸司州代尹。
北魏太延五年（439年），置恒州（在今縣雙古城），轄今黃旗海、岱海以南地區。
北魏太和二十一年（497年），置有涼城郡（治所在今縣岱海北），領參合縣（治所今縣西南）、旋鴻縣（治所今豐鎮市北），郡縣隸屬恒州（治所平城，今大同市）。
隋大業八年（612年），今涼城縣屬馬邑郡云內縣北境，為突厥族居住地。
唐朝時期，置桑乾都督府于縣境內，以突厥酋長領之，隸屬單于大都護府。
遼朝時期，置天成縣（治所今縣天成鄉境）。
遼天慶元年（1111年），置有德州，治所宣德縣（今縣麥胡圖鄉境），隸西京道。
金朝時期，置有宣寧縣（今縣麥胡圖鄉境）；下水鎮（今縣岱海南），均隸屬大同府。
元至順元年（1330年），置有宣寧縣（今縣麥胡圖鄉），隸屬于大同路。
明洪武二十六年至永樂元年（1393年—1403年），置宣德衛（治所今涼城縣麥胡圖鄉）。
明萬歷十年（1582年），今縣屬蒙古土默特政權轄地。
清康熙十四年（1675年），編屬察哈爾鑲紅旗、鑲藍旗轄地。
清雍正十二年（1734年），置寧朔衛（今縣后營鄉）及懷遠所（今縣永興鄉），設大朔理事通判。
清乾隆十五年（1750年），裁衛所，置寧遠廳（廳名稱取寧朔衛的寧和懷遠所的遠），以朔平府通判移治（治所蒿兒兔，今縣永興鄉），后又改為寧遠理事通判廳。
清光緒十年（1884年），又改為寧遠撫民理事通判廳，隸山西歸綏道。
至此，境內有鑲紅、鑲藍兩旗轄地，又有廳治，遂形成“旗廳并存，蒙漢分治”的格局。
民國元年（1912年），寧遠廳改縣，仍與鑲紅、鑲藍兩旗并存。
民國三年（1914年），以寧遠縣與他省縣名重復，故取北魏在境內所設之涼城郡名，改為涼城縣。
同時，劃歸察哈爾特別區管轄。
民國十七年（1928年），涼城縣劃歸綏遠省管轄。
民國二十六年（1937年）9月25日，涼城縣淪陷，歸偽蒙古聯盟自治政府所設巴彥塔拉盟管轄。
縣政府駐地從寧遠城（今永興）遷駐新堂（今縣城關鎮）。
民國二十七年（1938年）8月，大青山抗日游擊隊進入馬頭山開辟抗日游擊根據地，建立歸（綏）涼（城）縣動委會。
民國二十八年（1939年）2月，在蠻漢山成立綏察動委會綏東辦事處，綏察動委會主任武新宇派賈靖蕪任辦事處主任。
同時，建立涼（城）和（林）清（水河）縣抗日游擊政府，歸雁北專署領導。
同年8月，成立歸（綏）涼（城）縣抗日民主政府（賈靖蕪任縣長）。
民國二十九年（1940年）3月，成立左（云）右（玉）涼（城）縣抗日民主政府（魯平任縣長）。
同年7月，撤銷左（云）右（玉）涼（城）中心縣委和縣政府，長城以北為綏南專署，長城以南為雁北專署。
綏南專署先后在縣境與鄰縣設立涼（城）和（林格爾）清（水河）、歸（綏）涼（城）、豐（鎮）涼（城）等縣抗日民主政府。
民國三十四年（1945年）8月，日本投降。
同年9月，根據中共綏蒙區黨委決定，將抗戰時期的歸涼縣民主政府改為涼城縣，并組成涼城縣委、縣民主政府，屬綏南地委、專署領導。
同年12月12日，綏蒙政府決定成立龍勝縣時，將涼城縣北境的四區、五區劃歸龍勝縣。
民國三十五年（1946年），為適應當時的形勢，實行精兵簡政，綏南地委和涼城縣委、綏南專員公署與涼城縣民主政府合并，組成涼城中心縣（縣委書記楊業澎，縣長鄭天翔）。
同年9月，國民黨軍隊占領涼城，中心縣委、縣政府撤到馬頭山的營盤梁等地，成為解放戰爭中綏南重要的革命根據地。
民國三十七年（1948年）8月13日，中國人民解放軍解放涼城縣全境。
同年9月，涼城縣人民政府成立（縣長何風洲），隸屬綏南專署。
民國三十八年（1949年）9月19日，綏遠省和平解放，涼城縣人民政府駐新堂（今縣城關鎮），隸屬和林專員公署。
1949年10月1日，中華人民共和國成立，涼城縣隸屬綏南專員公署。
1950年9月，涼城縣屬集寧專員公署。
1954年3月19日，將察哈爾右翼鑲藍鑲紅聯合旗的二區劃入涼城縣，涼城縣隸屬內蒙古自治區平地泉行政區。
1958年4月2日，涼城縣劃歸烏蘭察布盟。
2003年12月，烏蘭察布撤盟設市，涼城縣屬烏蘭察布市。