因該轄區內小清河而得名。

2013年，由鄭州市人民政府（鄭州市人民政府常務會議紀要2013[19號]）批準成立。