西漢前期為皮山國，西域三十六國之一，王治皮山城。

神爵三年（前59）隸屬西域都護府。

東漢后屬于闐。

《魏書》作蒲山。

唐設皮山城，隸安西都護府。

宋、遼、金時期，皮山等地屬喀喇汗王朝、西遼統治。

元、明、清初時期，皮山地域先后屬察合臺汗國、葉爾羌汗國。

清光緒十年（1884）屬葉城縣，隸屬喀什噶爾道莎車直隸州。

光緒二十九年（1903）由葉城縣析固瑪、桑株等三十八莊置皮山縣，隸莎車府。

1920年隸屬和闐道。

1929年屬和闐行政區轄治。

1936年，皮山縣設置7個行政區。

1941年劃分為8大區。

1950年3月成立皮山縣人民政府。

1958年全縣劃分7個公社，1個農場，1個牧場。

1984年，實行撤社建鄉。