宋朝時期惠安建縣時稱崇善鄉；元朝時期屬行滿鄉守節里二十六、二十七都青山埔、鳳洋埔、場下埔；民國時期設青山鄉，轄7個保；1949年設7個鄉，歸第四區公所管轄；1955年劃出新田、山霞、山腰、錦繡4個鄉，歸涂寨區管轄，其余3個仍歸崇武管轄；1956年合區并鄉，設錦山鄉，青濱鄉、霞東鄉歸崇武管轄；1958年撤區并鄉，設青山鄉，同年8月并入崇武鄉；1958年10屬飛躍公社錦山管區；1961年析出成立小社，屬崇武公社；1974年從崇高武公社析出，設山霞公社；1984年設山霞鄉人民政府。