元、明，屬泗安鄉。

清，屬東三、五甲和北一甲。

宣統元年（1909年），屬中興鄉。

民國二十四年（1935年），屬第三區羊馬、中興2聯保。

民國二十九年（1940年），改羊馬鎮。

民國三十年（1941年），鎮改鄉。

1953年，羊馬場改鎮。

1956年，崇江鄉梓潼、伏虎、拱陽3村劃歸羊馬鎮。

1957年，羊馬鎮并入羊馬鄉。

1958年，羊馬、安樂、太平3鄉合并為五江公社。

1959年，析附城管理區置城關鎮。

1961年，析五江公社置羊馬、安樂、太平3公社，羊馬仍轄原區域，并調整為13個大隊，后改鎮為鄉。

2004年安阜鄉與羊馬鎮合并，新建羊馬鎮。

2019年12月24日，撤銷羊馬鎮，設立羊馬街道，以原羊馬鎮所屬行政區域為羊馬街道的行政區域。