相傳此地為春秋魯國季平子的封邑，故名平邑。

西周為顓臾國地，系魯國附庸。

春秋境內(nèi)設邱輿邑、武城邑、東陽邑。

秦滅顓臾國，全境屬薛郡。

西漢置南武陽縣和南城縣，并一度置平邑候國和南城候國。

新莽廢平邑候國并入南武陽縣，屬泰山郡，遺址在今平邑縣平邑鎮(zhèn)北10公里武山南麓。

南城縣屬東海郡，遺址在今平邑縣南魏莊鄉(xiāng)南武城地。

后漢今平邑一帶仍為南武陽、南城2縣地，同屬泰山郡。

晉改南城縣為南武城縣，仍屬泰山郡，南武陽縣改屬瑯邪郡。

劉宋改南武城縣復名南城縣，屬兗州泰山郡；改南武陽縣為武陽縣，也屬泰山郡。

高齊廢南城縣入武陽縣。

隋開皇十八年(598年)改武陽縣為顓臾縣，屬沂州瑯琊郡。

唐貞觀元年(627年)省顓臾縣入費縣，此后，今平邑縣境一直為費縣轄地，并隨費縣隸屬關系變化而變化。

1940年6月抗日民主政權以滋(陽)臨(沂)公路為界，將費縣析為費南、費北兩縣；公路以南的西半部地區(qū)為費南縣，是為平邑縣的前身，時屬魯南行政區(qū)；公路以北、汶河以西為費北縣。

1944年1月費南縣改稱費縣。

1946年1月費北與費東2縣合并為蒙山縣。

同年4月費縣改稱平邑縣，屬魯南行政區(qū)第一專區(qū)；溫河縣(原臨費邊縣)則改為費縣。

這時平邑縣下轄8個區(qū)。

1947年8月，平邑縣之第四(臨澗)、第九(山陰)2區(qū)劃歸新設的白彥縣，費縣(原溫河縣)由吾區(qū)、泗水縣香山區(qū)劃歸平邑縣。

1948年3月香山區(qū)復歸泗水縣。

同年7月平邑縣屬魯中南行政區(qū)第四專區(qū)(1949年7月改稱尼山專區(qū))。

1950年5月屬滕縣專區(qū)。

1952年3月撤銷蒙山縣，其西部的第一、二、三、四區(qū)共4區(qū)73鄉(xiāng)321村劃歸平邑。

1953年7月撤銷白彥縣，其第十、十一、十二、十三區(qū)共4區(qū)33鄉(xiāng)劃歸平邑縣。

同月平邑縣改屬臨沂專區(qū)。

1967年屬臨沂地區(qū)。

1994年屬臨沂市。