แต่เดิมเคยเป็นส่วนหนึ่งของอำเภอชนบท ในปี 2457 มีการจัดตั้งอำเภอพลแยกจากอำเภอชนบท ตำบลเปือยน้อยได้ย้ายมาขึ้นกับอำเภอพล ต่อมาปี 2482 มีการยกฐานะกิ่งอำเภอบ้านไผ่เป็นอำเภอบ้านไผ่ โดยแยกพื้นที่จากอำเภอชนบท ตำบลเปือยน้อยได้ย้ายมาขึ้นกับอำเภอบ้านไผ่ เพื่อความสะดวกในติดต่อราชการระหว่างตำบลกับอำเภอ และต่อมามีการจัดตั้งเป็น กิ่งอำเภอเปือยน้อย ตามประกาศกระทรวงมหาดไทยในราชกิจจานุเบกษา เมื่อวันที่ 25 มกราคม พ.ศ. 2520 โดยในระยะแรกมีเขตการปกครอง 2 ตำบล คือ ตำบลเปือยน้อยและตำบลวังม่วง ต่อมามีการยกฐานะเป็น อำเภอเปือยน้อย ตามพระราชกฤษฎีกาในราชกิจจานุเบกษา เมื่อวันที่ 3 มิถุนายน พ.ศ. 2537 จึงจัดตั้งตำบลเพิ่มขึ้นปัจจุบันมี 4 ตำบล