อำเภอทุ่งใหญ่เดิมมีฐานะเป็นกิ่งอำเภอชื่อ กิ่งอำเภอกุแหระ ขึ้นกับอำเภอทุ่งสง ตั้งเป็นกิ่งอำเภอเมื่อปี พ.ศ. 2449 ที่ว่าการตั้งอยู่ที่บ้านบางปรน หมู่ที่ 2 ตำบลกุแหระ (ปัจจุบันเป็นหมู่ 1 ตำบลกรุงหยัน)

ต่อมาปี พ.ศ. 2452 ได้ย้ายที่ว่าการกิ่งอำเภอมาตั้งอยู่ที่ หมู่ที่ 2 ตำบลท่ายาง และได้เปลี่ยนชื่อจากกิ่งอำเภอกุแหระเป็น กิ่งอำเภอท่ายาง ตามชื่อตำบลท่ายางซึ่งเป็นที่ตั้งที่ว่าการอำเภอใหม่ และมีฐานะเป็นกิ่งอำเภอมาเป็นเวลา 53 ปี เมื่อยกฐานะเป็นอำเภอก็ใช้ชื่อว่า อำเภอท่ายาง ตามชื่อของกิ่งอำเภอเดิม แต่ปรากฏว่าชื่อนี้ไปพ้องกับชื่อของอำเภอท่ายาง จังหวัดเพชรบุรี ซึ่งตั้งเป็นอำเภอมาก่อน ต่อมาทางราชการไปเปลี่ยนชื่ออำเภอใหม่จากอำเภอท่ายางมาเป็น อำเภอทุ่งใหญ่ เมื่อวันที่ 1 เมษายน พ.ศ. 2504 ซึ่งชื่อที่เปลี่ยนนี้เป็นชื่อของตำบลหนึ่งในเขตการปกครองของอำเภอทุ่งใหญ่ คือตำบลทุ่งใหญ่ ต่อมาได้ย้ายที่ทำการใหม่มาตั้งอยู่ที่ หมู่ที่ 6 ตำบลท่ายาง คือสถานที่ปัจจุบัน รวมเวลาที่เป็นกิ่งอำเภอและอำเภอถึงปัจจุบัน เป็นเวลา 100 ปี