轄區(qū)位于小河與恒河交匯處北側(cè)，當(dāng)?shù)胤Q恒河為大河而得名。

大河鎮(zhèn)始建明朝中期。

清康熙二十二年（1683年），屬北沈桑鋪所轄。

民國二十四年（1935年），屬北區(qū)團(tuán)后聯(lián)保與沈桑聯(lián)保的3個(gè)保，后改聯(lián)保為鄉(xiāng)，屬沈桑鄉(xiāng)一、二保。

1949年，設(shè)第十四區(qū)，后改稱大河鄉(xiāng)。

1954年，設(shè)大河區(qū)。

1958年，改大河公社大河管理區(qū)。

1961年，成立大河公社。

1983年10月，設(shè)大河區(qū)。

1984年9月，設(shè)大河鎮(zhèn)。

1996年，廟梁鄉(xiāng)并入大河鎮(zhèn)。

2001年11月，流芳鄉(xiāng)并入大河鎮(zhèn)。