ปี พ.ศ. 2501 ร.ต.ท.พวง ศรีบุญลือ นายอำเภอยโสธรในสมัยนั้นดำริเห็นว่าท้องที่ตำบลโนนเปือย ตำบลโพนงาม ตำบลกำแมด และตำบลไผ่ อยู่ห่างไกลจากอำเภอยโสธร หนทางทุรกันดาร ลำบากแก่ราษฎรในการไปมาติดต่อราชการ ณ ที่ว่าการอำเภอยโสธร ประกอบกับเจตนารมณ์อันแรงกล้าของราษฎรทั้ง 4 ตำบลดังกล่าวที่มีความต้องการให้ทางราชการยกฐานะ 4 ตำบลเป็นกิ่งอำเภอ โดยราษฎรยินดีจะสร้างอาคารสถานที่ราชการให้ โดยไม่ต้องรบกวนงบประมาณของทางราชการแต่อย่างใด เพื่อสนองเจตนาอันแน่วแน่ของประชาชนและเพื่อความเจริญของบ้านเมืองในอนาคต ร.ต.ท.พวง ศรีบุญลือ จึงประชุมกำนันทั้ง 4 ตำบล ซึ่งได้แก่ นายสงค์ วงษ์ไกร กำนันตำบลโนนเปือย นายสาย จันทพาล กำนันตำบลโพนงาม นายวรรณทอง ยาวะโนภาส กำนันตำบลกำแมด และนายหา ยาวะโนภาส กำนันตำบลไผ่ มีมติเป็นเอกฉันท์คัดเลือกชัยภูมิซึ่งได้แก่พื้นที่บางส่วนของ "ดงเย็น" เป็นที่ดอนและตั้งอยู่ใกล้ชิดกับหมู่บ้าน กุดชุม ตำบลโนนเปือย เป็นที่ตั้งกิ่งอำเภอกุดชุม

ปี พ.ศ. 2503 ก็ได้ลงมือสร้างกันอย่างจริงจัง โดยกำนันทั้ง 4 ตำบลดังกล่าว เป็นผู้นำที่เข้มแข็งรับอาสาชักชวนราษฎรสละตอไม้และแรงงานในการปราบพื้นที่ตั้งกิ่งอำเภอฯ ในอาณาบริเวณประมาณ 70 ไร่ และได้ตั้งปลัดอำเภอและหัวหน้าส่วนราชการประจำอำเภอยโสธรผลัดเปลี่ยนกันออกมาดำเนินการกำกับดูแลการก่อสร้างและข้าราชการผู้เป็นกำลังอันสำคัญยิ่งที่มีส่วนผลักดันให้งานนี้เป็นผลสำเร็จก็คือ นายพิสุทธิ์ ฟังเสนาะ ปลัดอำเภอโท อำเภอยโสธร ซึ่งนอกจากจะมากำกับดูแลการก่อสร้างเป็นประจำแล้วยังได้รับภารกิจพิเศษให้เป็นหัวหน้าคณะร่วมกับนายอ่วม นามสละ ที่ดินอำเภอยโสธร นายบุญชู ดีหนองยาง ครูใหญ่ ออกดำเนินการเรี่ยไรข้าวเปลือกจากราษฎรทั้ง 4 ตำบล เพื่อรวบรวมขายเอาเงินมาเป็นค่าใช้จ่ายสำหรับค่าช่างฝีมือ และวัสดุสำคัญในการก่อสร้าง ผลปรากฏว่าได้เงินจากการขายข้าวเปลือกเพียงพอแก่การดำเนินการตามวัตถุประสงค์ดังกล่าว ในที่สุดผลแห่งการร่วมมือร่วมใจของประชาชนและข้าราชการก็เสร็จสิ้นลงในราวเดือนพฤษภาคม พ.ศ. 2504 มีสถานที่ราชการและบ้านพักซึ่งสร้างด้วยน้ำพักน้ำแรงของราษฎรสำเร็จเรียบร้อย

อนึ่ง ผู้มีส่วนสำคัญยิ่งอีกท่านหนึ่งในการสนับสนุนเป็นกำลังใจให้การก่อสร้างกิ่งอำเภอกุดชุม เป็นผลสำเร็จคือ พระครูปลัดปาเรสโก (ผั่น ปาเรสโก) ลูกศิษย์ท่านพระอาจารย์มั่น ภูริทัตโต เจ้าอาวาสวัดบ้านหนองหิน ตำบลหนองหิน อำเภอยโสธร และท่านเป็นผู้ริเริ่มก่อสร้างวัดประชาชุมพลขึ้นมาพร้อมๆ กับการสร้างกิ่งอำเภอฯ และในระยะเวลาต่อมาหลังจากสร้างกิ่งอำเภอกุดชุมแล้วเสร็จไม่นาน ท่านก็เป็นผู้ดำเนินการตั้งหลักเมืองให้เป็นศักดิ์ศรีแก่กิ่งอำเภอด้วย

เมื่อสร้างกิ่งอำเภอกุดชุม เสร็จแล้ว ร.ต.ท.พวง ศรีบุญลือ นายอำเภอยโสธร ก็รายงานผลไปยังกระทรวงมหาดไทย ขอแยกตำบลโนนเปือย ตำบลโพนงาม ตำบลกำแมด และตำบลไผ่ จากอำเภอยโสธร ตั้งขึ้นเป็นกิ่งอำเภอกุดชุมตามนามหมู่บ้านกุดชุม ซึ่งสถานที่ที่ตั้งกิ่งอำเภอฯ อยู่ใกล้ที่สุด ในที่สุดได้มีประกาศกระทรวงมหาดไทยยกฐานะขึ้นเป็นกิ่งอำเภอกุดชุม เมื่อวันที่ 1 สิงหาคม 2504 โดยทางราชการได้แต่งตั้งนายพิสุทธิ์ ฟังเสนาะ ปลัดอำเภอโทอำเภอยโสธรมาดำรงตำแหน่งปลัดอำเภอโท ผู้เป็นหัวหน้าประจำกิ่งอำเภอกุดชุมคนแรก และเริ่มเปิดสถานที่ราชการติดต่อกับประชาชน เมื่อวันที่ 21 สิงหาคม พ.ศ. 2504 โดยผู้ว่าราชการจังหวัดอุบลราชธานี (นายกำจัด ผาติสุวัณ) เป็นประธานกระทำพิธีเปิดกิ่งอำเภอกุดชุม เมื่อปี พ.ศ. 2515 จึงได้รับการยกฐานะจากกิ่งอำเภอกุดชุมขึ้นเป็นอำเภอกุดชุม และคณะปฏิวัติได้ประกาศยกฐานะอำเภอยโสธรขึ้นเป็นจังหวัดยโสธร อำเภอกุดชุมจึงเป็นอำเภอหนึ่งขึ้นอยู่กับจังหวัดยโสธรตั้งแต่นั้นมา

ต่อมาเมื่อวันที่ 22 กรกฎาคม 2521 กระทรวงมหาดไทยได้โอนตำบลไผ่ อำเภอกุดชุม ไปขึ้นกับกิ่งอำเภอทรายมูล (ปัจจุบันเป็นตำบลไผ่ อำเภอทรายมูล) อำเภอเมืองยโสธร ในขณะนั้น เนื่องจากท้องที่ตำบลไผ่ อยู่ไกล้กับอำเภอทรายมูลมากกว่าอำเภอกุดชุม