現村域在古屬白石里。
南宋淳熙十二年屬蘭溪縣瑞山鄉;明萬歷六年屬蘭溪縣瑞山鄉;清雍正六年屬蘭溪縣玉華莊,光緒八年屬蘭溪縣二十二都三圖;民國三十年屬蘭溪縣華南鄉。
解放初屬蘭溪縣華南鄉;1951年7月劃屬原壽昌縣,為新葉鄉汪山、赤姑坪村;1955年為新葉鄉汪山、赤姑坪初級社。
1958年9月為李村公社汪山、赤姑坪生產隊,1961年7月為唐村公社汪山、赤姑坪大隊。
1983年11月為檀村鄉汪山、赤姑坪村;兩村自1992年5月起屬檀村鎮,2001年10月屬大慈巖鎮,2007年7月合并稱玉山,11月改稱汪山。
由原汪山、赤姑坪兩村合并而成。
按外紀世系所載,汪山汪氏系越國公汪華后裔。
抗日戰爭進入相持階段時期,蘭溪縣政府曾一度遷至汪山運轉。