1949年屬漢陽縣第一區(qū)、第六區(qū)所轄的軍山、長河兩個鄉(xiāng)。

1958年為黃陵人民公社的軍山、洪海兩個管理區(qū)。

1959年為國營東城垸農(nóng)場軍山分場，洪�；癁殂缈陴B(yǎng)殖場。

1961年轉(zhuǎn)為軍山、洪寒兩個公社，屬黃陂區(qū)。

1975年軍山、洪海兩個公社合并為軍山公社。

1984年改名為軍山鎮(zhèn)。

2001年將黃陵鎮(zhèn)并入軍山鎮(zhèn)，鎮(zhèn)政府駐黃陵磯。

2004年撤銷軍山鎮(zhèn)，設立軍山街道，辦事處駐黃陵磯。

2006年將蔡甸區(qū)的軍山街道委托給武漢經(jīng)濟技術開發(fā)區(qū)管理。

現(xiàn)軍山街道設鳳凰苑社區(qū)、龍湖社區(qū)、蒲潭社區(qū)、小軍山社區(qū)、黃陵社區(qū)、得勝村、勝利村、新團村、群江村、涼亭村、幸福橋村、硃山村、鳳山村、張王廟村、沿河村、大山村、王家村、肖家村、長山村、龍湖村、川江村、小軍村、楓林村、黃石村、洪海村、軍江村。