秦朝時期，今磴口縣地區(qū)屬九原郡臨河縣轄區(qū)，亦是新秦地（自高闕向西南筑長城至雞鹿塞南）。

西漢初期，為匈奴統(tǒng)轄地。

元朔二年（前127年），朔方郡（治所朔方，在今鄂爾多斯市杭錦旗東北，亦有記載在今縣陶升井麻彌圖古城），其所領10縣中治所在今磴口縣境的就有：窳渾縣（治在今沙金套海蘇木包日浩特嘎查）、臨戎縣（前124年建，治在今補隆淖鄉(xiāng)沙河古城）、三封縣（前126年建，治在今哈騰套海蘇木7千米處陶升古城）等。

甘露三年（前51年），匈奴呼韓邪單于與漢朝議和后，漢遣宮兵護行，送單于出朔方雞鹿塞（在今沙金套海蘇木哈隆格乃口西沿上的石城）。

有記載，在百年時間內，這里曾是朔方的繁榮而重要的地區(qū)。

東漢時期，朔方郡治所臨戎（今磴口縣補隆淖鄉(xiāng)境內），仍有臨戎、三封縣及雞鹿塞在今縣境內，隸屬并州刺史部。

東漢末年至西晉時期，為河西鮮卑、西部鮮卑政權所轄地。

東晉十六國時期，今磴口縣境先后為后趙、前秦、后秦所置朔方郡以及夏統(tǒng)轄地。

南北朝時期，今縣境基本上屬北魏沃野鎮(zhèn)和夏州轄境。

北周時期，屬永豐鎮(zhèn)（治所今臨河縣北境）轄區(qū)。

隋朝初期，為豐州轄地。

大業(yè)元年（605年），屬五原郡永豐縣轄地。

唐朝初期，仍屬豐州，隸關內道。

總章二年（669年），今縣境巴彥高勒鎮(zhèn)及沿黃河部分地屬豐州永豐縣，西部和西北部大部分地區(qū)屬呼延都督府管轄區(qū)。

開元二十九年（741年），屬豐州永豐縣及天德軍管轄。

元和十五年（820年），屬豐州和豐州都防御使管轄。

五代時期，今縣境基本屬契丹遼政權統(tǒng)轄地。

遼、金、夏時期，今縣境均為西夏所置黑山威福軍司（治所兀剌海城，今烏拉特中旗境）管轄。

元朝時期，今磴口縣東南部（巴彥高勒鎮(zhèn)周圍）屬寧夏府路；西部和西北大部屬兀剌海路管轄，均隸甘肅行省。

明朝初期，屬寧夏衛(wèi)。

萬歷十年（1582年），今縣境屬“襖爾都司”。

清康熙二十五年（1686年），今縣境屬阿拉善和碩特蒙古牧地（俗稱王爺地）。

康熙三十六年（1697年），編入阿拉善和碩特旗轄地。

民國初年，沿襲清制。

民國十五年（1926年），馮玉祥在五原誓師北伐，為便于軍需供給，以原設“磴口兵站”為基礎，始設磴口縣治，隸屬甘肅省寧夏道管轄。

民國十八年（1929年）1月，國民政府批準正式設置磴口縣，劃歸寧夏省管轄。

民國二十五年（1936年）4月，經蒙藏委員會決定，磴口縣的土地管理權屬阿拉善旗，行政管理歸寧夏省。

1949年秋，磴口縣獲得解放。

隨后成立磴口縣人民政府，駐三盛公，隸屬寧夏省。

1954年，撤銷寧夏省后，改隸甘肅省巴彥浩特蒙古族自治州。

1956年4月3日，磴口縣隨巴彥浩特蒙古族自治州劃歸內蒙古自治區(qū)巴彥淖爾盟。

1958年4月2日，巴彥淖爾盟公署移駐三盛公，磴口縣為盟轄縣。

1960年7月，撤銷磴口縣建制，設立巴彥高勒市。

1964年7月，撤銷巴彥高勒市，恢復磴口縣建制，巴彥高勒改為縣轄鎮(zhèn)，縣人民委員會駐巴彥高勒鎮(zhèn)，隸巴彥淖爾盟。