古為淮夷地，堯封禹為夏伯，始邑于此，名夏丘。

西漢置夏丘縣。

唐置虹縣。

清康熙十九年（1680），泗州城沉沒后，州署于乾隆四十二年（1777）移治于虹縣，州縣合一，仍為泗州，虹縣降稱虹鄉。

1912年中華民國成立后，廢州為縣，稱泗縣，直屬安徽省。

1949年4月，恢復泗縣建制，屬皖北行署宿縣地區。

1952年4月12日，屬安徽省宿縣專區。

1956年1月12日，屬蚌埠專區。

1961年4月13日，屬宿縣專區。

1971年3月29日，屬宿縣地區。

1979年2月27日，屬宿縣行署。

1999年8月，屬宿州市。