清代晚期形成聚落，1914年設碾子山火車站。

隸屬龍江縣第二區管轄。

東北淪陷后，始設碾子山保，后改設碾子山村。

1945年，“九三”抗日戰爭勝利后，始設碾子山區，后改為第四區。

1952年10月，設置碾子山鎮。

1958年9月，將碾子山鎮改稱超美人民公社。

同年12月，以華安機械廠為主體“廠社合并”，成立華安人民公社，由嫩江專員公署領導。

1959年，將甘南縣中興公社的三皇廟、簸箕山、馬架屯劃歸華安公社管轄。

1960年5月，劃歸齊齊哈爾市管轄。

1960年12月，將華安公社改為華安區。

1961年8月，成立華安公社農村分社，9月政企分。

1980年6月將躍進街道所轄農村劃出，增設曙光人民公社。

1983年12月，將華安區改為碾子山區，名稱沿用至今。