休寧歷史悠久，文化源遠流長。

公元前11～8世紀境內就有定居居民，并形成族國，春秋戰國時期（公元前8～3世紀），休寧先后為吳、越、楚三國之領地。

秦漢時期為歙縣西鄉之地，秦屬會稽郡、鄣郡，漢屬丹陽郡。

東漢建安十三年（208年）分歙縣西鄉設置休陽縣，縣治鵂山之南。

吳永安元年（258年）改名海陽縣，縣治萬安萬歲山，隸屬新都郡。

晉太康元年（280年）改新都郡為新安郡，海陽縣為海寧縣。

此后，經唐、宋、元、明、清、民國各代至新中國成立，縣名均未改變。

縣治自唐天寶九年（750年）定駐松蘿山之南海陽鎮延續至今。

境域大部未變，局總邊緣地域曾有劃進劃出調整。

新中國成立后，休寧縣隸屬徽州專區、蕪湖專區、徽州地區。

1987年11月始隸屬地級黃山市至今。