เมืองกุดสิมนารายณ์ และอำเภอเขาวง บรรพชนคนภูไท ได้อพยพโยกย้ายจากเมืองวังฝั่งซ้ายแม่น้ำโขง เข้ามาสู่ฝั่งขวาของแม่น้ำโขงสืบเนื่องมาจากการมีปัญหาทางด้านการเมืองการปกครอง ท่านผู้นำพร้อมด้วยบริวารจึงพากันโยกย้ายมาหาที่ทำกินแห่งใหม่ โดยการนำของท่านราชวงศ์กอ การตั้งเมืองกุดสิมนารายณ์ราชวงศ์กอ ท้าวด้วง และท้าวต้อพร้อมด้วยสมัครพรรคพวก ที่ได้อาศัยอยู่บนหลังเขาภูพานเป็นเวลานานพอสมควร ก็ยังเห็นว่าเป็นทำเลที่ยังไม่เหมาะสม ก็เลยพากันอพยพลงมาจากหลังเขาภูพาน จึงได้มาพบสถานที่แห่งหนึ่งเป็นบริเวณกว้างมีลำน้ำสายใหญ่สายหนึง (ลำพะยัง) และลำห้วยเล็กๆอีกหลายสาย ทั้งมีกุดหนองน้ำอีหลายแห่งที่พอจะใช้สอยบริโภค ประกอบอาชีพต่างๆ อีกทั้งยังมีป่าไม้เขียวชะอุ่มร่มรื่นน่าอยู่อาศัย จึงพร้อมใจปักหลักอยู่ตรงนี้ กุดที่พบครั้งแรกมีสิม (โบสถ์) และใบเสมาแกะสลักเป็นลายจึงได้ตั้งชื่อว่าบ้านกุดสิมนารายณ์ พ.ศ. 2388 พระบาทสมเด็จพระนั่งเกล้าเจ้าอยู่หัว รัชกาลที่สามแห่งราชวงศ์จักรี มีพระบรมราชโองการ โปรดเกล้าฯให้ราชวงศ์ (กอ) ราชวงศ์เมืองวัง แต่งตั้งเป็นพระธิเบศร์วงศา เจ้าเมืองกุดสิมนารายณ์ คุมคน 3,443 คน ขึ้นกับเมืองกาฬสินธุ์ ได้รับพระราชทานเงิน 2 ชั่ง ถาดหมาก 1 คณโฑเงินหนึ่งสัปทนการ 1 เสื้อเข้มขามก้านหนึ่ง ผ้าโพกแพรขลิบหนึ่ง ผ้าดำปักทองมีชัยหนึ่ง แพรขาวห่มหนึ่ง ผ้าปูมหนึ่ง ให้ท้าวด้วงเป็นอุปฮาด รับพระราชทานเงิน 10 ตำลึง เสื้อคัดลัดดอกลาย 1 แพรสีทับทิมติดขลิบ1ผ้าห่มขาว 1 ผ้าเชิงปม 1 พระธิเบศร์วงศ์ศา (กอ) เจ้าเมืองกุดสิมนารายณ์คนที่ 1 รับราชการเป็นเจ้าเมืองรวมเวลา 17ปี มีความซื่อสัตย์สุจริตตั้งใจปฏิบัติหน้าที่ ปกครองชาวบ้านอยู่ด้วยความสงบสุข ลุถึงพ.ศ. 2405 ก็ถึงแก่อนิจกรรม พระธิเบศร์วงศา (ด้วง) เจ้าเมืองกุดสิมนารายณ์คนที่ 2 (พ.ศ. 2409-พ.ศ. 2423) ทำหน้าที่เป็นอุปฮาดมาเป็นเวลา 17 ปี และรับหน้าที่รักษาการแทนเจ้าเมือง4 ปี ลุถึง พ.ศ. 2409 จศ.1228 ปีขาลอัฐศก พระบาทสมเด็จพระจอมเกล้าเจ้าอยู่หัว รัชกาลที่ 4 แห่งราชวงศ์จักรี มีพระบรมราชโองกาฯร โปรดเกล้าฯแต่งตั้งอุปฮาดด้วง เป็นเจ้าเมืองกุดสิมนารายณ์คนที่ 2 ท่านพระธิเบศร์วงศา (ด้วง) ตั้งใจปฏิบัติหน้าที่รับราชการ ปกครองชาวเมืองมาด้วยความสงบเรียบร้อยเสมอมาเป็นเวลา 14 ปี ครั้นถึง พ.ศ. 2423 จศ.124 ปีมะโรงโทศก ท่านพระธิเบศร์วงศา ด้วงก็ถึงแก่อนิจกรรม พระธิเบศร์วงศา (กินรี) เจ้าเมืองกุดสิมนารายณ์คน ที่ 3 (2426-2451) ลุถึงพ.ศ. 2426 จศ. 1242 ปี มะแม เบญจศก พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว รัชกาลที่ 5 แห่งราชวงศ์จักรี มีพระบรมราชโองการ โปรดเกล้าฯ แต่งตั้งให้ท้าวกินรี เป็นพระธิเบศร์วงศา (ต้นตระกูล ภูไท โทธิเบศร์วงศา) เจ้าเมืองกุดสิมนาร่ายณ์ หัวเมืองชั้นตรี พร้อมแต่งตั้งท้าวเพียเป็นหัวหน้าภูไทช่วยทำการในท้าวกินรีเจ้าเมือง ได้แก่ ท้าวสาร (ต้นตระกูล ภูไท วุฒิสาร) ท้าวเสน หรือ ท้าววรเสนไชยะ (ต้นตระกูล ภูไท วรเสนไชยะ, ไชยเขตขันธุ์, ไชยขันธุ์) ท้าวหลอยหลิ่ง (ต้นตระกูล ภูไท ศรีหลิ่ง, ศรีหริ่ง) อนึ่งพระธิเบศร์วงศา (กินรี) ได้รับพระบรมราชโองการโปรดเกล้าฯ จากพระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัวให้ปกครองเมืองกุดสิมนารายณ์ ตั้งแต่พ.ศ. 2426-2451 รวมเป็นเวลา 25 ปี ต่อมาในปี พ.ศ. 2451 เมืองกุดสิมนารายณ์ถูกยุบเป็นอำเภอกุดสิมนารายณ์ พระธิเบศร์วงศา (กินรี) ได้รับการแต่งตั้งให้เป็นนายอำเภอกุดสิมนาร่ยณ์ จนถึงพ.ศ. 2454 ท่านก็ได้ถึงแก่อนิจกรรม เป็นการสิ้นสุดระบบเจ้าเมืองภูไท

อำเภอกุดสิมนารายณ์ เมื่อครั้งที่ตั้งอยู่บ้านกุดสิม มีนายอำเภอเป็นหัวหน้าปกครองอยู่ 4 ท่านคือ1. พระธิเบศร์วงศา (กินรี)2. ขุนมาลาวินิจฉัย (ขำ พลวิจิตร)3. หลวงมหาดไท4. หลวงวิภักดิ์สถานุกุล (ลิ มัธยมนันท์)

ลุถึงพ.ศ. 2456 กลางเดือนมีนาคม ทางราชการก็ย้ายเมืองกุดสิมนารายณ์ไปตั้งอยู่ที่บ้านบัวขาว และได้เปลี่ยนชื่อเป็นอำเภอกุฉินารายณ์ ส่วนที่ตั้งอำเภอเดิมก็กลายมาเป็นตำบล ก็คือตำบลคุ้มเก่านับตั้งแต่เดือนมีนาคม 2456 มาถึงวันที่1กรกฎาคม 2512 นับเป็นเวลา56 ปี ถือว่าเป็นเวลาที่นานมากจึงได้รับการยกฐานะเป็นกิ่งอำเภอเขาวง โดยมีเขตปกครองรวม 5 ตำบลคือ1. ตำบลคุ้มเก่า2. ตำบลสงเปลือย3. ตำบลนาคู4. ตำบลภูแล่นช้าง5. ตำบลหนองผือ

ต่อมากิ่งอำเภอเขาวงได้รับการยกฐานะเป็นอำเภอเขาวง เมื่อวันที่ 23 มีนาคม 2517 ตามพระราชกฤษฎีกาตั้งอำเภอเขาวง และเมื่อวันที่ 1 เมษายน 2538 กระทรวงมหาดไทยได้ประกาศเรื่องแบ่งเขตท้องที่อำเภอเขาวง จัดตั้งเป็นกิ่งอำเภอนาคู โดยแยกตำบลนาคู ตำบลภูแล่นช้าง ตำบลบ่อแก้ว ตำบลโนนนาจาน และตำบลสายนาวังรวม 5 ตำบล ทำให้อำเภอเขาวงเดิมมีเขตปกครอง 11 ตำบล เหลือเขตปกครอง 6 ตำบล ได้แก่ตำบลคุ้มเก่า ตำบลกุดปลาค้าว สระพังทอง หนองผือ กุดสิมคุ้มใหม่ และตำบลสงเปลือย