解放初期屬金口鎮民主鄉三片村,1955年合作化為平湖同興農業社。
1958年人民公社化時命名為聯營大隊。
1961年為聯營、五一兩個大隊。
1962年由金口鎮劃歸金口區新屋公社管轄。
1971年聯營、五一與永勝大隊合并為永勝大隊,屬金水公社管轄。
1980年春,永勝大隊分割成兩個大隊,永勝一大隊、二大隊(即現在的永勝村、淮山村)。
1980年秋第一次全國地名普查時將永勝二大隊更名為淮山大隊。
2001年5月,江夏區施行街鎮鄉體制改革,金水鄉、范湖鄉并入金口街道,現淮山村屬金口街道管轄。