明屬松源鄉向方里，清屬松源鄉第一、第二都。

民國屬楓合鄉、喬竹鄉。

1950年車根部分屬東喬鄉，1956年屬后廣鄉，1961屬后廣人民公社1981年析稱黃陂管理區1984年稱車根鄉。

1951年析建齋郎鄉，1958年稱齋郎管理區，屬新村人民公社，1961年稱齋郎人民公社，1984年復鄉。

1992年，全縣撤擴并，由車根鄉和齋郎鄉兩鄉合并稱百山祖鄉。

2013年3月，根據浙政函[2013]61號文件，撤銷百山祖鄉、合湖鄉建制，合并設立百山祖鎮后屬百山祖鎮。

百山祖鄉是“全國環境優美鄉”“浙江省生態鄉”。