เมื่อได้มีการจัดตั้งกรมสามัญศึกษาขึ้นแล้ว ต่อมาในปี พ.ศ. 2481 ได้มีพระราชบัญญัติปรับปรุงกระทรวง ทบวง กรม พ.ศ. 2481 จัดตั้งกรมสามัญศึกษาขึ้น ตั้งแต่วันที่ 1 เมษายน พ.ศ. 2482[1] มีหน้าที่จัดการศึกษาสายสามัญ

ในปี พ.ศ. 2494 ได้มีการตราพระราชบัญญัติปรับปรุงกระทรวง ทบวง กรม พ.ศ. 2494 ขึ้นอีกครั้ง ทำให้กรมสามัญศึกษา มีหน้าที่รับผิดชอบในการจัดการมัธยมศึกษา ทั้งของรัฐและเอกชน ตลอดจนการฝึกหัดครูด้วย และในปี พ.ศ. 2495 ได้มีการตราพระราชบัญญัติปรับปรุงกระทรวง ทบวง กรม ขึ้นใหม่อีกครั้ง ให้มี "กรมวิสามัญศึกษา" ทำหน้าที่จัดการศึกษาตั้งแต่มัธยมศึกษาปีที่ 1-5

ในปี พ.ศ. 2515 มีประกาศคณะปฏิวัติ ฉบับที่ 216, 217 และ 218 ได้ประกาศให้กรมสามัญศึกษากับกรมวิสามัญศึกษาเข้าด้วยกัน ให้ใช้ชื่อว่า กรมสามัญศึกษา ตั้งแต่วันที่ 1 ตุลาคม พ.ศ. 2515

ต่อมาในวันที่ 3 กรกฎาคม พ.ศ. 2546[2] ได้มีการปฏิรูปกระทรวง ทบวง กรม และยุบรวมหน่วยงานระดับกรมในสังกัดกระทรวงศึกษาธิการเข้าด้วยกัน[3] ทำให้กรมสามัญศึกษา ถูกโอนกิจการไปยังสำนักงานคณะกรรมการการศึกษาขั้นพื้นฐาน มีหน้าที่รับผิดชอบการจัดการศึกษาขั้นพื้นฐานในระบบทั้งหมด