春秋時期屬宋；秦置相縣，地屬泗水郡，為郡治府所在地；兩漢魏晉南北朝境內屬相縣；唐至清均分屬徐、宿兩地；1960年置濉溪市；1963年成立相山辦事處；1971年1月，撤銷相山辦事處，設相山區；1984年，撤銷市郊區原郊區所屬相山、蔬菜、任圩3個鄉劃歸相山區；2017年11月，撤銷劉橋街道，將原劉橋街道劃歸三堤口辦事處；撤銷人民路街道，將杈園、園林兩個社區劃歸任圩街道辦事處管轄，將錦花苑、曙光、康樂、城里四個社區劃歸南黎街道辦事處管轄。