殷商時期即有村落，稱南麻地。

1644年始稱南麻。

清康熙年間，南麻鎮(zhèn)分屬沂水縣和蒙陰縣。

1930年至1936年間除永興官莊、田莊、北埠東、南埠東、侯家官莊、劉家大峪高堂峪屬蒙陰縣七區(qū)外，其余屬沂水縣八區(qū)。

1944年建縣后為歷山區(qū)。

1957年撤區(qū)建南麻鎮(zhèn)。

2001年3月鄉(xiāng)鎮(zhèn)區(qū)劃調(diào)整，溝泉鎮(zhèn)撤銷，將溝泉鎮(zhèn)的溝泉、王家莊、許村、蒼糧峪、仁里、雕崖、崮坡、祥峪、下高村、上高村、趙家莊、朱家莊、宋家莊、天井峪、核桃峪、紅花峪、酸棗峪17個村劃歸南麻鎮(zhèn)管轄。

2011年11月，原南麻鎮(zhèn)區(qū)劃調(diào)整為南麻鎮(zhèn)和歷山街道辦事處。

2014年撤銷南麻鎮(zhèn)設(shè)街道辦事處。