錫林郭勒盟自古以來就是中國北方各族人民勞動、生活、繁衍的地方。

蘇尼特右旗、鑲黃旗和東烏珠穆沁旗境內都發現了舊石器時代人類生存的遺址；在蘇尼特左旗、阿巴嘎旗、錫林浩特市境內都發現了原始文化遺跡。

古代時期早在商周時期，這里就出現了游獵和養畜的氏族部落。

春秋戰國時期，錫林郭勒盟系澹襤和東胡所居。

公元前3世紀末，匈奴居內蒙古高原。

秦時期，南部屬上谷郡北境，西南部為漁陽郡北境。

西漢時期，匈奴單于庭直轄，東部為烏桓部轄地，南部屬于幽州。

東漢永和五年（公元140年），為鮮卑部轄區。

三國時期，隸屬于北朝（魏）拓跋鮮卑部轄區；南部、西部由鮮卑、柔然二部所居；東部由烏洛候、契丹二部所居。

晉朝時期，先后由代國、魏國和晉朝燕州所轄。

隋朝時期，北部、東部由東突厥占居，西部、南部屬隋朝奚部安樂郡、涿郡北境。

唐朝時期，南部為河北道北境，北部為關內道北境，北部為關內道突厥單于都護府轄地。

遼代時，錫林郭勒盟為契丹上京臨潢府轄區。

北宋政和五年（1115年）女真部建立大金國，東部屬臨潢府路慶州所轄，設置大鹽爍（額吉淖爾鹽池）群牧司，北部由廣吉剌部所居，南部屬宣德州轄地，中部正藍旗一帶由西北路招討使司所轄，設置桓州（正藍旗侍郎城遺址），西部為汪古部所轄。

元朝初，為扎剌兒部兀魯郡王營幕地。

十三世紀中葉，在錫林郭勒草原正藍旗境內建起元代第一都城——元上都，為元朝的夏季陪都，是元朝重要的政治、經濟、文化中心之一。

南部地區分別由中書行省興和路寶昌州、上都路桓州和應昌府所轄。

北部分別為上都省院官署、嶺北行省和寧路及濟南王部的封地。

明朝永樂年間，將上都改稱開平前屯衛，應昌、桓州變成驛站，南部為京師順天府北境，設置開平衛。

北部被蒙古各部占居。

明萬歷四十四年（1616年），女真首領努爾哈赤立國，占領察哈爾部地區。

清朝康熙十四年（1675年）把察哈爾部原轄區劃分為藍、白、黃、紅各分正鑲二旗，稱蒙古八旗。

其中鑲黃、正白、鑲白、正藍均在本盟南部地區。

并在寶昌一帶增設了太仆寺左右翼牧群、明安牧群、以及商都牧群，隸屬清朝直隸口北三廳。

清乾隆二十六年（1761年），始設察哈爾都統，管轄察哈爾八旗、四牧群和錫林郭勒五部十旗諸王。

清崇德、順治、康熙年間，對錫林郭勒河一帶的蘇尼特、阿巴嘎、阿巴哈納爾、浩濟特、烏珠穆沁等五部先后分別設置左、右翼兩個旗，共10旗，均設扎薩克，會盟于錫林河北岸的“楚古拉干敖包”山上，命名為錫林郭勒盟。

錫林郭勒，蒙語，意為丘陵地帶河。

清嘉慶年間遷盟址于貝子廟。

民國時期民國元年（1912年），將廳改設為縣。

民國三年（1914年），設置察哈爾特別行政區域。

民國十七年（1928年），將錫盟南部劃歸察哈爾省。

民國二十三年（1934年），設察哈爾盟。

民國二十五年（1936年），德穆楚克棟魯普成立“蒙古軍政府”，轄察哈爾盟和錫林郭勒盟。

民國二十六年（1937年），改為蒙古聯盟自治政府。

民國二十八年（1939年），成立偽“蒙疆聯合自治政府”。

民國三十四年（1945年），成立內蒙古自治聯合會，解散偽“蒙疆政府”。

民國三十五年（1946年），廢除了封建王公制度，成立察哈爾盟人民政府和錫林郭勒盟人民政府。

民國三十六年（1947年），劃歸內蒙古自治區。

中華人民共和國時期1949年，新中國成立后，察哈爾盟轄5旗。

1950年，將多倫、寶昌、化德3縣劃歸察哈爾盟。

1956年，撤銷明太聯合旗合并于正藍旗，將正鑲白聯合旗更名為正鑲白旗，合并寶昌縣和太仆寺左旗，更名為太仆寺旗，商都鑲黃聯合旗更名為商都鑲黃旗，后劃歸化德縣，又劃出定名為鑲黃旗。

1949年，將錫林郭勒盟原來的10旗編為5旗，即東部聯合旗、中部聯合旗、西部聯合旗、蘇尼特左旗和蘇尼特右旗。

1952年，撤銷中部聯合旗，1956年，改編為5旗。

1958年，錫林郭勒盟和察哈爾盟合并，撤消察哈爾盟，改稱錫林郭勒盟，轄9旗（東烏珠穆沁旗、西烏珠穆沁旗、阿巴嘎旗、蘇尼特左旗、蘇尼特右旗、正鑲白旗、正藍旗、商都鑲黃旗、太仆寺旗），兩縣（多倫縣、化德縣）。

1963年，設立阿巴哈納爾旗。

1966年，設立二連浩特市。

1969年，將錫盟所轄的蘇尼特右旗、二連浩特市、化德縣劃歸烏蘭察布盟。

1980年將蘇尼特右旗和二連浩特市劃歸錫盟。

1983年，撤銷阿巴哈納爾旗改設錫林浩特市。