แต่เดิมเมืองชัยภูมิก่อนการสถาปนาอาณาจักรสุโขทัยสันนิษฐานว่ามีประวัติศาสตร์ยาวนานตั้งแต่สมัยทวารวดี โดยเมืองชัยภูมินั้นถือเป็นเส้นทางการเผยแพร่วัฒนธรรมทวารวดีจากภาคกลางเข้าสู่ภาคอีสาน ปรากฏหลักฐานจากใบเสมาบ้านกุดโง้งในอำเภอเมือง และใบเสมานครกาหลงที่อำเภอคอนสวรรค์ และมีกลุ่มประชาชนชาวญัฮกุร ซึ่งสันนิษฐานว่าอาจเป็นชนเผ่าเดียวกับชาวมอญโบราณสมัยทวารวดีอาศัยอยู่ทางขอบสันเขาตะวันตกเฉียงใต้ของจังหวัด ในเวลาต่อมาเมื่ออิทธิพลทวารวดีเสื่อมลง อิทธิพลของขอมก็เข้ามาแทน ซึ่งมีลักษณะเดียวกันกับจังหวัดอื่น ๆ ของอีสานใต้ในเวลานั้น ดังปรากฏหลักฐาการสร้างปราสาทขอม เช่น ปรางค์กู่ในเขตอำเภอเมือง ปรางค์กู่บ้านแท่นในเขตอำเภอบ้านแท่น กู่แดงในอำเภอบ้านเขว้า เป็นต้น ส่วนในสมัยสุโขทัยนั้นสันนิษฐานว่าชัยภูมิน่าจะเป็นเมืองหนึ่งที่สุโขทัยครอบครองอีกด้วย

สมัยกรุงศรีอยุธยาเป็นราชธานี สันนิษฐานว่าบริเวณจังหวัดชัยภูมิมีประชากรลาวเข้ามาอาศัยอยู่ และมีการสร้างพระธาตุหนองสามหมื่น ซึ่งอยู่บริเวณตำบลบ้านแก้ง อำเภอภูเขียวปัจจุบัน โดยมีลักษณะแบบศิลปะล้านช้าง ล้านนา และอยุธยา โดยสร้างในสมัยพระไชยเชษฐาธิราชผู้ครองเมืองลาวในยุคนั้น ในเวลาต่อมาเมืองชัยภูมิปรากฏในทำเนียบแผ่นดินสมเด็จพระนารายณ์มหาราชว่าเป็นเมืองขึ้นกับเมืองนครราชสีมา แต่ต่อมาผู้คนได้อพยพออกไปตั้งหลักแหล่งทำมาหากินที่อื่น ในสมัยธนบุรี พระเจ้าตากสินหรือพระเจ้ากรุงธนบุรียกทัพมาปราบก๊กเจ้าพิมาย ซึ่งมีกรมหมื่นเทพพิพิธเป็นหัวหน้าก๊ก ตั้งมั่นอยู่ที่เมืองพิมายและต่อมาได้ ยึดเมืองนครราชสีมาเป็นที่ตั้งมั่น เจ้าพิมายให้พระยาวรวงษาธิราชคุมทัพไปตั้งรับเพื่อตีสกัดทัพพระเจ้าตากสินที่ด่านขุนทดและถูกกองทัพ พระเจ้าตากสินตีจนแตกพ่ายในที่สุดในกรณีศึกครั้งนี้อาจารย์คำผู้นำหมู่บ้านสี่มุมได้นำชาวบ้านเข้าสวามิภักดิ์ต่อพระเจ้าตากสินและขออาสาเป็น กองกำลังร่วมสู้รบในกองทัพหลวงด้วย พระเจ้าตากสินทรงยินดีรับไว้และให้เป็นกองกำลังเข้าตีด่านจอหอจนแตกพ่ายสามารถยึดเมืองพิมายและเมือง นครราชสีมาคืนมาได้ในครั้งเข้าตีด่านจอหอ กองกำลังของบ้าน สี่มุมโดยการนำของอาจารย์คำได้แสดงความสามารถในการรบอย่างกล้าหาญ เข้มแข็งเป็นที่พอพระทัยพระเจ้าตากสินเป็นอย่างมาก เมื่อเสร็จการศึกสงครามจึงได้ปูนบำเหน็จความชอบให้อาจารย์คำเป็น “พระนรินทร์สงคราม” ยกฐานะบ้านสี่มุมขึ้นเป็น “เมืองสี่มุม” (ในเขตอำเภอจัตุรัส ในจังหวัดชัยภูมิปัจจุบัน) ให้ปกครองเมืองสี่มุมให้ขึ้นตรงต่อเมืองนครราชสีมา เมื่อก้าวเข้าสู่ยุคกรุงรัตนโกสินทร์ ในสมัยรัชกาลที่ 1 หมื่นอร่ามกำแหง หรือนายภูมีชาวเมืองนครไทยซึ่งเป็นคนเชื้อสายหลวงพระบาง ได้เข้ามาตั้งบ้านแปงเมืองในเขตพื้นที่บริเวณอำเภอคอนสารในปัจจุบัน และขึ้นตรงต่อกรุงเทพมหานคร ในสมัยรัชกาลที่ 2 ปี พ.ศ. 2352 ในเขตอำเภอภูเขียว และเกษตรสมบูรณ์ มีชุมชนลาวเวียงจันทน์อพยพ คือหลวงไกรสิงหนาท ขึ้นตรงต่อกรุงเทพมหานคร และเมื่อปี พ.ศ. 2360 "นายแล" ข้าราชการสำนักเจ้าอนุวงศ์เมืองเวียงจันทน์ได้อพยพครอบครัวและบริวารเดินทางข้ามลำน้ำโขงมาตั้งถิ่นฐานอยู่ที่บ้านหนองน้ำขุ่น (หนองอีจาน) ซึ่งอยู่ในบริเวณท้องที่อำเภอสูงเนิน จังหวัดนครราชสีมาในปัจจุบัน

ต่อมาในปี พ.ศ. 2362 เมื่อมีคนอพยพเข้ามาอยู่มาก นายแลก็ได้ย้ายชุมชนมาตั้งใหม่ที่บ้านโนนน้ำอ้อม บ้านชีลอง ห่างจากตัวเมืองชัยภูมิ 6 กิโลเมตร นายแลได้เก็บส่วยผ้าขาวส่งไปบรรณาการเจ้าอนุวงศ์จนได้รับบำเหน็จความชอบแต่งตั้งเป็น "ขุนภักดีชุมพล" ในปี พ.ศ. 2365 นายแลได้ย้ายชุมชนอีกครั้งหนึ่ง เนื่องจากที่เดิมกันดารน้ำ มาตั้งใหม่ที่บริเวณบ้านหลวงซึ่งตั้งอยู่ระหว่างหนองปลาเฒ่ากับหนองหลอด (เขตอำเภอเมืองชัยภูมิปัจจุบัน) และได้หันมาขึ้นตรงต่อเมืองนครราชสีมา และส่งส่วยทองคำถวายแด่พระบาทสมเด็จพระนั่งเกล้าเจ้าอยู่หัว ไม่ยอมขึ้นต่อเจ้าอนุวงศ์อีกต่อไป พระบาทสมเด็จพระนั่งเกล้าเจ้าอยู่หัวจึงทรงพระกรุณาโปรดเกล้ายกบ้านหลวงขึ้นเป็น เมืองชัยภูมิ และแต่งตั้งขุนภักดีชุมพล (แล) เป็น "พระยาภักดีชุมพล" เจ้าเมืองคนแรก

ต่อมาเจ้าอนุวงศ์ได้ก่อการกบฏ ยกทัพเข้ามาหมายจะตีกรุงเทพมหานคร โดยหลอกหัวเมืองต่าง ๆ ที่เดินทัพมาว่าจะมาช่วยกรุงเทพมหานครรบกับอังกฤษ จนกระทั่งเจ้าอนุวงศ์สามารถยึดเมืองนครราชสีมาได้เมื่อปี พ.ศ. 2369 ซึ่งตรงกับรัชสมัยพระบาทสมเด็จพระนั่งเกล้าเจ้าอยู่หัว ครั้นต่อมาเมื่อความแตก เจ้าอนุวงศ์ได้กวาดต้อนชาวเมืองนครราชสีมาเพื่อนำไปยังเมืองเวียงจันทน์

เมื่อไปถึงทุ่งสัมฤทธิ์ หญิงชายชาวเมืองที่ถูกจับโดยการนำของคุณหญิงโม ภรรยาเจ้าเมืองนครราชสีมา ได้ลุกฮือขึ้นต่อสู้ พระยาภักดีชุมพล (แล) เจ้าเมืองชัยภูมิ พร้อมด้วยเจ้าเมืองใกล้เคียงได้ยกทัพออกไปสมทบกับคุณหญิงโม ตีกระหนาบทัพเจ้าอนุวงศ์เวียงจันทน์จนแตกพ่ายไป ฝ่ายกองทัพลาวส่วนหนึ่งล่าถอยจากเมืองนครราชสีมาเข้ายึดเมืองชัยภูมิไว้และเกลี้ยกล่อมให้พระยาภักดีชุมพลเข้าร่วมเป็นกบฏด้วย แต่พระยาภักดีชุมพลไม่ยอม เจ้าอนุวงศ์เกิดความแค้นจึงจับตัวพระยาภักดีชุมพลมาประหารชีวิตที่บริเวณใต้ต้นมะขามใหญ่ริมหนองปลาเฒ่า ซึ่งต่อมาชาวชัยภูมิได้ระลึกถึงคุณความดีที่ท่านมีความซื่อสัตย์และเสียสละต่อแผ่นดิน จึงได้พร้อมใจกันสร้างศาลขึ้น ณ บริเวณนั้น ปัจจุบันทางราชการได้สร้างศาลขึ้นใหม่เป็นศาลาทรงไทยชื่อว่า "ศาลาพระยาภักดีชุมพล (แล)" มีรูปหล่อของท่านอยู่ภายใน เป็นที่เคารพกราบไหว้และถือเป็นปูชนียสถานศักดิ์สิทธิ์แห่งหนึ่งของจังหวัด ตั้งอยู่ห่างจากศาลากลางจังหวัดชัยภูมิประมาณ 3 กิโลเมตร

ในปี พ.ศ. 2440 ในสมัยของพระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว ได้ทรงเปลี่ยนแปลงระบบการปกครองราชอาณาจักร โดยการจัดตั้งมณฑลเทศาภิบาล ให้อยู่ภายใต้บังคับบัญชาของกระทรวงมหาดไทยหน่วยงานเดียว เมืองในจังหวัดชัยภูมิ จึงเข้าอยู่ในมณฑลนครราชสีมา ต่อมาในสมัยหลังการเปลี่ยนแปลงการปกครองปี พ.ศ. 2475 มีการเปลี่ยนแปลงรูปการปกครองประเทศครั้งใหญ่ จากระบอบสมบูรณาญาสิทธิราชเป็นระบอบประชาธิปไตย โดยพระราชบัญญัติระเบียบราชการบริหารแห่งราชอาณาจักรสยาม พ.ศ. 2476 ได้ยกเลิกเขตการปกครองแบบ “เมือง” ทั่วราชอาณาจักร แล้วตั้งขึ้นเป็น “จังหวัด” แทน เมืองชัยภูมิ, เมืองภูเขียว และเมืองสี่มุม (จัตุรัส) จึงรวมกันกลายเป็นจังหวัดชัยภูมิ โดยใช้บริเวณเมืองชัยภูมิจัดตั้งเป็นอำเภอเมือง จังหวัดชัยภูมิ โดยสามารถสรุปการยุบหัวเมืองต่าง ๆ ได้ดังนี้ เมืองสี่มุมของพระยานรินทรสงคราม ปัจจุบัน คืออำเภอจัตุรัส บำเหน็จณรงค์ เทพสถิต ซับใหญ่ หนองบัวระเหว เนินสง่า ส่วนเมืองภูเขียว-เกษตรสมบูรณ์ของพระไกรสิหนาท ปัจจุบันคือ อำเภอภูเขียว เกษตรสมบูรณ์ บ้านแท่น แก้งคร้อ หนองบัวแดง ภักดีชุมพล ส่วนเมืองคอนสารของหมื่นอร่ามกำแหง ปัจจุบันคืออำเภอคอนสาร ซึ่งเคยเป็นตำบลหนึ่งของอำเภอภูเขียว และเมืองชัยภูมิของพระยาภักดีชุมพล ปัจจุบันคืออำเภอเมือง อำเภอบ้านเขว้า อำเภอคอนสวรรค์ โดยทั้งหมดในปัจจุบันรวมกันเป็นจังหวัดชัยภูมิ จังหวัดชัยภูมิมีเขตติดต่อกับจังหวัดเพื่อนบ้านหลายจังหวัด ได้แก่ ทิศเหนือ ติดกับเพชรบูรณ์และขอนแก่น ทิศตะวันออกติดกับขอนแก่นและนครราชสีมา ทิศตะวันตกติดกับเพชรบูรณ์และจังหวัดลพบุรี และทิศใต้ติดกับจังหวัดนครราชสีมา จังหวัดชัยภูมิในด้านภูมิศาสตร์อยู่ในเขตอีสานตะวันตกร่วมกับเลยและนครราชสีมา ในด้านอุตุนิยมวิทยาอยู่ในเขตอีสานตอนบน และในด้านการปกครองอยู่ในเขตอีสานตอนใต้

รายชื่อผู้ว่าราชการจังหวัด