สถาบันพัฒนาฝีมือแรงงานภาค ๖ ขอนแก่น เริ่มเปิดดำเนินการเมื่อวันที่ 22 กุมภาพันธ์ พ.ศ. 2522 มีชื่อว่าสถาบันพัฒนาฝีมือแรงงานภาคตะวันออกเฉียงเหนือตอนบน จังหวัดขอนแก่น เป็นสถาบันพัฒนาฝีมือแรงงานในภาคตะวันออกเฉียงเหนือ ซึ่งเป็นผลสืบเนื่องมาจากการสำรวจร่วมกันของกรมแรงงาน ธนาคารโลก และสำนักงานคณะกรรมการพัฒนาการทางเศรษฐกิจและสังคมแห่งชาติ ในปี พ.ศ. 2515 ในเรื่องความต้องการของการฝึกฝีมือแรงงานในรูปต่างๆ สำหรับผู้ที่ไม่ได้รับการศึกษาในโรงเรียน และเสนอแนะว่าน่าจะจัดตั้งศูนย์ฝึกอเนกประสงค์ขึ้นที่จังหวัดนี้ เพราะเป็นศูนย์กลางการค้าและการปกครองของภาคตะวันออกเฉียงเหนือ

เดือนตุลาคม พ.ศ. 2519 รัฐบาลญี่ปุ่นอนุมัติในหลักการของโครงการจัดตั้งสถาบันพัฒนาฝีมือแรงงานภาคตะวันออกเฉียงเหนือตอนบน จังหวัดขอนแก่น

วันที่ 7 กุมภาพันธ์ พ.ศ. 2520 มีการลงนามในบันทึกร่วม ไทย - ญี่ปุ่น และได้รับอนุมัติจากรัฐบาลญี่ปุ่นในเดือนเมษายน พ.ศ. 2520

ปลายปี พ.ศ. 2520 รัฐบาลไทย และรัฐบาลญี่ปุ่นลงนามความร่วมมือในโครงการจัดตั้งสถาบันพัฒนาฝีมือแรงงานภาคตะวันออกเฉียงเหนือตอนบน จังหวัดขอนแก่น กำหนดระยะเวลาโครงการ ตั้งแต่ 12 ธันวาคม พ.ศ. 2520 ถึง 11 ธันวาคม พ.ศ.2524 รวม 4 ปี โดยรัฐบาลญี่ปุ่น (JICA) ให้การสนับสนุนด้านงบประมาณซึ่งเป็นโครงการให้เปล่า เพื่อเป็นค่าก่อสร้างอาคาร อุปกรณ์การฝึก และเครื่องจักร และช่วยเหลือด้านวิชาการ การศึกษาดูงาน

สถาบันพัฒนาฝีมือแรงงานภาค ๖ ขอนแก่น เป็นชื่อที่ได้รับการแต่งตั้งใหม่เมื่อวันที่ 9 ตุลาคม 2545 ตามกฎกระทรวงแบ่งส่วนราชการ กรมพัฒนาฝีมือแรงงาน กระทรวงแรงงาน พ.ศ. 2545 ซึ่งเป็นผลมาจากการปฏิรูประบบราชการของรัฐบาล ส่งผลให้เกิดการปรับโครงสร้างของกระทรวง ทบวงกรมใหม่[1]