สำนักงานปลัดกระทรวงมหาดไทย เริ่มมีการก่อตั้งขึ้นพร้อมกันกับการก่อตั้งกระทรวงมหาดไทย เมื่อวันที่ 1 เมษายน พ.ศ. 2435 ต่อมาในปี พ.ศ. 2476 มีพระราชบัญญัติจัดตั้งกระทรวง ทบวง กรม พ.ศ. 2476 โดยแบ่งส่วนราชการกระทรวงมหาดไทยออกเป็น 10 ส่วนราชการ ส่วนของสำนักงานปลัดกระทรวงฯ ใช้ชื่อว่า "กรมปลัด" ต่อมามีการปรับปรุงกระทรวง ทบวง กรม จึงเปลี่ยนชื่อเป็น "สำนักงานปลัดกระทรวง"