1914年屬中區(qū)，1930年屬第八區(qū)。

1949年屬第六督導區(qū)。

1950年屬第一區(qū)。

1953年屬第八區(qū)。

1958年公社時代，建立大隊，屬孫家壩公社管轄。

1981年屬孫家壩區(qū)的涼水井公社管轄。

1984年社改鄉(xiāng)，將原城關區(qū)的河東、磨溪、龍江，鸚鵡溪區(qū)的關口、孫家壩區(qū)的涼水井、磨石溪、息樂溪7個鄉(xiāng)劃歸涼水井區(qū)，建立涼水井鄉(xiāng)、息樂溪鄉(xiāng)、磨石溪鄉(xiāng)、磨溪鄉(xiāng)、關口鄉(xiāng)5個鄉(xiāng)，屬涼水井區(qū)的涼水井鄉(xiāng)管轄。

1992年2月，貴州省人民政府批準思南縣進行“建鎮(zhèn)并鄉(xiāng)撤區(qū)”工作，同年10月，撤銷涼水井苗族土家族鄉(xiāng)、息樂溪土家族苗族鄉(xiāng)、磨石溪土家族苗族鄉(xiāng)、磨溪鄉(xiāng)、關口土家族苗族鄉(xiāng)，合并建立涼水井鎮(zhèn)，轄原三個鄉(xiāng)的共30個行政村，屬涼水井鎮(zhèn)管轄。

2007年4月，縣人民政府下達《關于撤小村并大村整合的批復》，全縣開展撤小村并大村工作，把全縣561個村合并成168個村，涼水井鎮(zhèn)轄關口、水晶、磨溪、張家坳、息樂溪、謝家寨、涼水井、胡家莊、磨石溪9個行政村，其中，涼水井村由茶山村、紅巖底村、涼山村合并而成。

2010年11月16日，思南縣人民政府批準調(diào)整全縣行政區(qū)劃，同意思唐鎮(zhèn)等27個鄉(xiāng)鎮(zhèn)行政村（社區(qū)）調(diào)整設置為行政村489個，社區(qū)37個。

涼水井鎮(zhèn)由原30個行政村調(diào)整設置為29個行政村，1個社區(qū)，涼水井社區(qū)成立，屬涼水井鎮(zhèn)管轄。