原名“二站”。

清雍正十年（1732)，黑龍江將軍開辟齊齊哈爾城至呼倫貝爾城的驛道——龍海路，于此地設立驛站。

從齊齊哈爾城開始，排序為第二站，故名“二站”。

屬齊齊哈爾副都統轄區。

清光緒三十二年（1906)，甘井子荒務行局于二站附采定城址，勘建“三里三城基”，翌年街基落成，荒務行局自甘井子屯遷至二站。

清光緒三十四年（1908）撤銷荒務行局，設置甘井子巡防局，二站為巡防局所在地。

中華民國成立后，1914年7月，劃歸龍江縣，改設縣屬甘井子佐治局。

1916年劃歸布西設治局管轄。

1921年隸屬第一保。

1926年2月，將甘井子佐治局正式改設甘南設治局，二站改名為“甘南鎮”，成為治城。

1928年劃為設治局第一區。

東北淪陷后，1933年將設治局改為甘南縣，甘南鎮初為第一保。

1938年改為甘南村。

1945年“九三”抗日戰爭勝利后，1946年3月劃歸第一區管轄。

1951年11月將甘南鎮劃為區屬鎮。

1955年12月，改為區級鎮，由縣直轄。

1958年9月，與附近鄉村合并成立紅旗人民公社。

1960年3月，從紅旗公社劃出，改稱甘南鎮公社。

1980年9月，改稱甘南鎮，名稱沿用至今。