กรมอุตสาหกรรมพื้นฐานและการเหมืองแร่ แต่เดิมเป็นหน่วยงานในสังกัดกระทรวงเกษตราธิการ ก่อตั้งขึ้นในสมัยรัชกาลที่ 5 ในชื่อว่า "กรมราชโลหกิจและภูมิวิทยา" เมื่อวันที่ 1 มกราคม พ.ศ. 2434 ทำหน้าที่ดูแลการทำเหมืองแร่ การออกใบอนุญาตเกี่ยวกับการตรวจหาแร่และทำเหมืองตลอดทั่วราชอาณาจักร

ต่อมาได้มีการเปลี่ยนแปลงชื่อกรมอีกหลายครั้ง จนกระทั่งในปี พ.ศ. 2485 จึงได้มีการจัดตั้งกระทรวงอุตสาหกรรม และโอนกิจการของกรมราชโลหกิจและภูมิวิทยา เข้ามาสังกัดในชื่อว่า "กรมโลหกิจ" ในปี พ.ศ. 2506 ได้โอนมาสังกัดกระทรวงพัฒนาการแห่งชาติ ในชื่อ"กรมทรัพยากรธรณี" และโอนมาสังกัดกระทรวงอุตสาหกรรมอีกครั้งในปี พ.ศ. 2516 จนถึงการปฏิรูประบบราชการ พ.ศ. 2545 เมื่อวันที่ 3 ตุลาคม พ.ศ. 2545 ได้แยกตัวออกมาตั้งเป็นกรมอุตสาหกรรมพื้นฐานและการเหมืองแร่ สังกัดกระทรวงอุตสาหกรรม ซึ่งคนทั่วไปจะเรียกชื่อกรมอุตสาหกรรมพื้นฐานและการเหมืองแร่สั้นๆ ว่า "กรมเหมืองแร่"