เดิมซับใหญ่ เป็นพื้นที่ป่าสงวน ของอำเภอจัตุรัส จังหวัดชัยภูมิ เมื่อปี พ.ศ. 2508 ได้ขอแยกตำบล จากการปกครองของตำบลหนองโดน มาเป็นตำบลท่ากูบ อำเภอจัตุรัส จังหวัดชัยภูมิ ปี พ.ศ. 2510 ได้ขอตั้งเป็นหมู่บ้าน โดยใช้ชื่อว่าบ้านซับใหญ่ หมู่ที่ 4 ตำบลท่ากูบ อำเภอจัตุรัส จังหวัดชัยภูมิ ต่อมาเมื่อปี พ.ศ. 2523 ได้ขอแยกตำบล จากตำบลท่ากูบ เป็นตำบลซับใหญ่ โดยมีนายสงัด มะเรืองศูนย์ เป็นกำนันประจำตำบล และได้จัดตั้งหมู่บ้านซับใหญ่ จากหมู่ที่ 4 ตำบลท่ากูบ เป็นบ้านซับใหญ่ หมู่ที่ 1 ตำบลซับใหญ่ อำเภอจัตุรัส จังหวัดชัยภูมิจนกระทั่งปี พ.ศ. 2540 ได้รับการจัดตั้งให้เป็นกิ่งอำเภอซับใหญ่ ซึ่งแยกออกมาจาก อำเภอจัตุรัส ประกอบด้วย 3 ตำบล ได้แก่ ตำบลซับใหญ่ ตำบลท่ากูบ ตำบลตะโกทอง ตามประกาศกระทรวงมหาดไทยลงวันที่ 1 มิถุนายน พ.ศ. 2540 โดยให้มีผลตั้งแต่วันที่ 1 กรกฎาคม ปีเดียวกัน และต่อมาในวันที่ 24 สิงหาคม พ.ศ. 2550 ได้มีพระราชกฤษฎีกายกฐานะขึ้นเป็น อำเภอซับใหญ่ โดยให้มีผลบังคับตั้งแต่วันที่ 8 กันยายน ปีเดียวกัน