ภูเหล็ก[1]แต่ก่อนแต่เดิมนั้น เป็นหมู่บ้านเล็ก ๆ ในเขตตำบลในเมือง อำเภอบ้านไผ่ กระทั่งมีพลเมืองหนาแน่นขึ้นจึงแบ่งออกเป็นหมู่บ้านเพิ่มอีกหลายแห่ง เช่น บ้านภูเหล็กน้อย บ้านโนนสวรรค์ บ้านภูเงิน เป็นต้น ประกอบกับการเดินทางสัญจรไม่สะดวก และการให้บริการประชาชนยากลำบากเกี่ยวกับทะเบียนราษฎร เมื่อปี พ.ศ. 2517 ทางรชการจึงได้แบ่งท้องที่ของตำบลในเมืองออกมาจัดตั้งเป็นตำบลใหม่ ชื่อว่า ตำบลภูเหล็ก และเมื่อวันที่ 2 มีนาคม พ.ศ. 2538 ได้ประกาศจัดตั้ง สภาตำบลภูเหล็ก จนกระทั่งเมื่อวันที่ 16 ธันวาคม พ.ศ. 2539 ได้มีประกาศกระทรวงมหาดไทย ให้จัดตั้งขึ้นเป็น องค์การบริหารส่วนตำบลภูเหล็ก[2] จนถึงปัจจุบัน

การตั้งถิ่นฐานของบ้านภูเหล็ก เมื่อปี พ.ศ. 2434 มีผู้คนอพยพมาจากจังหวัดมหาสารคาม 3 กลุ่มใหญ่ ซึ่งได้แก่ กลุ่มของนายภูมี แก้วหย่อง จากอำเภอโกสุมพิสัย กลุ่มที่สองของนายกระดูก สายทอง จากอำเภอบรบือ และอีกกลุ่มหนึ่งของ นายอ้วน นามบุดดี จากบ้านบ่อใหญ่ อำเภอบรบือ เมื่ออพยพมาแล้วได้พิจารณาเห็นลักษณะพื้นที่ของสันเขาสองลูก ตั้งอยู่ใกล้พื้นที่ที่อุดมสมบูรณ์ด้วยป่าไม้ และสัตว์นานาชนิดคิดว่าน่าจะตั้งหลักแหล่งได้ เพราะไม่ไกลจากแหล่งน้ำมากนัก จึงได้พากันปลูกบ้านสร้างเรือน และตั้งชุมชนจากสิ่งแวดล้อมว่า "บ้านภูเหล็ก" ทั้งนี้ได้อาศัยการสังเกตว่ามีสันเขาที่ตั้งอยู่ทางทิศตะวันตกเฉียงเหนือ ชื่อภูหนองแซง อยู่ทางทิศตะวันอกเฉียงใต้ ชื่อ ภูหนองผือ ลักษณะหินของภูเขาทั้งสองลูก ดูคล้ายขี้เหล็กที่ถูกถลุงแล้ว แต่ไม่เคยพิสูจน์ยืนยันอายุ และความเป็นมาของลักษณะดังกล่าว อย่างไรก็ตามในพื้นที่นั้น มักจะขุดค้นพบหม้อและไหหินเผาอยู่เป็นประจำซึ่งแสดงถึงความที่เคยเป็นแหล่งที่อยู่อาศัยของคนในยุคอดีตล่วงมาแล้วหลายร้อยปี