水清溝街道成立于1954年10月，屬滄口區(qū)。

1961年1月轉屬四方區(qū)，1965年又轉屬滄口區(qū)。

1970年4月更名水清溝管區(qū)，1976年10月恢復名稱水清溝街道，沿用至今。

1994年7月按照青島市行政區(qū)劃調整，又轉屬四方區(qū)。

2001年6月，開封路以南區(qū)域劃歸水清溝街道。

2012年12月3日，撤銷青島市市北區(qū)、四方區(qū)，設立新的青島市市北區(qū)，水清溝街道轉屬市北區(qū)。

2017年市北區(qū)街道調整，將開封路社區(qū)居委會、阜陽路社區(qū)居委會從水清溝街道析出劃入開平路街道，駐地遷永豐路8號。