อำเภอกุฉินารายณ์ มีชื่อเดิมคือ "กุดสิมนารายณ์" ที่ว่าการอำเภอตั้งอยู่บ้านกุดสิมหรือบ้านคุ้มเก่า ตำบลคุ้มเก่า (ในเขตอำเภอเขาวงปัจจุบัน) ได้รับการยกฐานะเป็นเมืองชั้นตรี มีชื่อว่า "กุดสิมนารายณ์" โดยมีพระธิเบศร์วงศา (ท้าวกอ หรือ ราชวงษ์กอ, ต้นตระกูล โทธิเบศร์วงศา) เป็นผู้ดำรงตำแหน่งเจ้าเมืองคนแรก เหตุที่ได้ชื่อว่า "กุดสิมนารายณ์" ก็เนื่องจากที่ตั้งที่ว่าการอำเภอหรือที่ตั้งเมือง มีหนองน้ำแยกจากห้วยเรียกว่า "กุด" และมีศาลาสำหรับประกอบศาสนากิจอยู่กลางน้ำ เรียกว่า "สิม" ต่อมาชาวบ้านได้พบเทวรูปพระนารายณ์ทำด้วยไม้อยู่ในหนองน้ำแห่งนั้น ชาวบ้านจึงเรียกว่า "กุดสิมนารายณ์" และต่อมาได้แผลงไปตามสำเนียงการพูดเป็น "กุฉินา-รายณ์"

แต่เดิมมีเขตการปกครอง 4 ตำบล คือ ตำบลคุ้มเก่า ตำบลเปลือย ตำบลแจนแลน และตำบลชุมพร ส่วนตำบลนาคู ตำบลภูแล่นช้าง ตำบลคำบง ตำบลไค้นุ่น อยู่ในเขตการปกครองของเมืองภูแล่นช้าง ต่อมาทางราชการได้พิจารณาเห็นว่าเมืองภูแล่นช้างกับเมืองกุดสิมนารายณ์ มีอาณาเขตคับแคบและตั้งอยู่ใกล้กัน จึงได้ยุบเมืองภูแล่นช้างให้ไปตั้งเป็นเมืองใหม่ที่อำเภอยางตลาดในปัจจุบัน แล้วให้รวมอาณาเขตเมืองภูแล่นช้างเข้ากับเมืองกุดสิมนารายณ์ เมื่อประมาณปี พ.ศ. 2445

ครั้นต่อมาเมื่อ พ.ศ. 2454 ทางราชการได้แต่งตั้งหลวงประเวศน์อุทรขันธ์ (ลี มัธยมนันท์) มาดำรงตำแหน่งนายอำเภอ และได้พิจารณาเห็นว่าสภาพท้องที่ทางภูมิศาสตร์ไม่เหมาะสมทุรกันดาร ทางคมนาคมไม่สะดวก ในฤดูแล้งขาดแคลนน้ำดื่มน้ำใช้มีไข้ป่าชุกชุม ราษฎรทำมาหากินไม่สะดวกจึงได้ย้ายที่ตั้งเมืองมาอยู่ที่บ้านบัวขาว เมื่อปี พ.ศ. 2456 อันเป็นที่ตั้งของอำเภอในปัจจุบัน และเป็นการสิ้นสุดระบบเจ้าเมืองภูไท โดยพระธิเบศร์วงศา หรือท้าวกินรี เป็นเจ้าเมืองคนที่สามเป็นเจ้าภูไทคนสุดท้ายที่ได้ปกครองหัวเมือง ในปี พ.ศ. 2474 จังหวัดกาฬสินธุ์ถูกยุบลงเป็นอำเภอ โดยให้จังหวัดกาฬสินธุ์เดิมทั้งหมดไปขึ้นกับจังหวัดมหาสารคาม รวมทั้งอำเภอกุฉินารายณ์ด้วย จนกระทั่งถึงปี พ.ศ. 2483 หลวงบริหารชนบท (ส่วนบริหารชนบท) ซึ่งเป็นข้าหลวงจังหวัดมหาสารคามได้ขอแบ่งปันเขตจังหวัดใหม่ ระหว่างจังหวัดนครพนมกับจังหวัดมหาสารคาม โดยถึอเอากึ่งกลางลำน้ำพอง และสันเขาภูพานเป็นเขตแดน จึงได้ตัดโอนหมู่บ้านห้วยแดง บ้านโคกโก่ง และบ้านขุมขี้ยาง จากอำเภอคำชะอี จังหวัดนครพนม (ปัจจุบันขึ้นกับจังหวัดมุกดาหาร) มาขึ้นกับ อำเภอกุฉินารายณ์ จังหวัดกาฬสินธุ์

ต่อมาในปี พ.ศ. 2490 ทางราชการได้ยกฐานะอำเภอเมืองกาฬสินธุ์ ขึ้นเป็นจังหวัดกาฬสินธุ์ อำเภอกุฉินารายณ์ จึงโอนมาขึ้นกับจังหวัดกาฬสินธุ์ตามเดิม และได้มีการเปลี่ยนแปลงอาณาเขตของตำบลต่างๆ อีกครั้งคือ แบ่งตำบลบัวขาว ออกเป็น 5 ตำบล ได้แก่ ตำบลบัวขาว ตำบลจุมจัง ตำบลกุดหว้า ตำบลเหล่าไฮงาม และตำบลหนองห้าง แบ่งตำบลแจนแลน ออกเป็น 2 ตำบล ได้แก่ ตำบลแจนแลน และตำบลสามขา แบ่งตำบลภูแล่นช้าง ออกเป็น 3 ตำบล ได้แก่ ตำบลภูแล่นช้าง ตำบลคำบง และตำบลไค้นุ่น และแบ่งตำบลคุ้มเก่า ออกเป็น 4 ตำบล ได้แก่ ตำบลคุ้มเก่า ตำบลนาคู ตำบลหนองผือ และตำบลสงเปลือย รวม 14 ตำบล จนกระทั่ง เมื่อปี พ.ศ. 2512 ทางราชการได้ยกฐานะตำบลคุ้มเก่าขึ้นเป็นกิ่งอำเภอเขาวงโดยมี ตำบลคุ้มเก่า ตำบลสงเปลือย ตำบลหนองผือ ตำบลภูแล่นช้าง และตำบลนาคู อยู่ในเขตการปกครองของกิ่งอำเภอเขาวง คงเหลือตำบลที่อยู่ในเขตการปกครองของอำเภอกุฉินารายณ์ รวม 9 ตำบล ต่อมาในปี พ.ศ. 2519 ทางราชการตั้งตำบลเหล่าใหญ่ขึ้นอีก 1 ตำบล โดยแยกจากตำบลแจนแลน ต่อมาในปี พ.ศ. 2520 ได้รับอนุมัติให้ตั้งตำบลนาขามขึ้นอีก 1 ตำบล โดยแยกจากตำบลสามขา ในปี พ.ศ. 2521 ได้รับอนุมัติให้จัดตั้งตำบลขึ้นอีก 2 ตำบล คือ ตำบลนาโก แยกออกจากตำบลบัวขาว และตำบลไค้นุ่น แยกจากตำบลนิคมห้วยผึ้ง

ในปี พ.ศ. 2524 ทางราชการได้ยกฐานะตำบลนิคมห้วยผึ้ง ขึ้นเป็นกิ่งอำเภอห้วยผึ้ง มีตำบลนิคมห้วยผึ้ง ตำบลไค้นุ่น และตำบลคำบง ไปขึ้นอยู่ในเขตการปกครองของกิ่งอำเภอห้วยผึ้ง คงเหลือตำบลที่อยู่ในเขตการปกครองของอำเภอกุฉินารายณ์ 10 ตำบล 84 หมู่บ้าน ในขณะนั้น

ปัจจุบัน อำเภอกุฉินารายณ์ จังหวัดกาฬสินธุ์ มีเขตการปกครองทั้งสิ้น 12 ตำบล 142 หมู่บ้าน เทศบาล 4 แห่ง และองค์การบริหารส่วนตำบล (อบต.) 10 แห่ง นายอำเภอคนปัจจุบัน ชื่อนายรณชิต พุทธลาดำรงตำแหน่ง เป็นลำดับที่ 46 ของผู้ดำรงตำแหน่งนายอำเภอ