史前時期蚌埠地域為淮夷族聚居區。

春秋戰國時期今市區和三縣曾分別為徐方、魯、宋、吳、越、楚等國分領。

秦統一后，經歷1400余年至宋代，全地域一直未有郡、國、州所轄的縣分領。

至南宋寶祐五年（1257）始，在今懷遠縣地置懷遠軍，轄荊山縣。

咸淳七年（1271）始在今五河縣地置淮安軍，轄五河縣。

元至元二十八年（1291），改懷遠軍為懷遠縣，撤銷荊山縣。

自此，新建的五河縣、懷遠縣一直延續，而今蚌埠市、固鎮縣經歷元、明、清諸朝仍屬周圍縣所分領。

清同治二年（1863），劃鳳陽縣馬村溝以西、懷遠縣席家溝以東、靈璧縣后樓為蚌埠獨立行政區，置三縣司，直屬安徽省鳳陽府。

但中華民國建立后（1912）即撤銷，蚌埠仍屬鳳陽分領。

由于津浦鐵路通車后，蚌埠成為皖北重要商埠，1947年1月，經南京國民政府批準，蚌埠正式建市，直屬安徽省管轄。

1949年新中國建立后，懷遠、五河2縣屬皖北行署（后為安徽省）宿縣專區（一度為蚌埠專區）所轄。

1983年7月，懷遠、固鎮、五河縣一并由宿縣專區（1971年專區改地區）劃屬蚌埠市，至今未變。