การเจาะบ่อน้ำบาดาลระดับลึกในประเทศไทย เริ่มเมื่อปี พ.ศ. 2450 โดนนายเส็งยัง แซ่อาว เจ้าของห้างหุ้นส่วนจำกัด อาวย่งซุนฮวด ได้เจาะบ่อน้ำบาดาลโดยใช้ไม้ไผ่ ต้นแบบของเครื่องเจาะไม้ไผ่มากจากประเทศจีน โดยเจาะบ่อบาดาลบ่อแรกที่โรงพยาบาลเทียบหัวย่านเยาวราช กรุงเทพฯ ใกล้โรงภาพยนตร์นิวโอเดียนในอดีต ความลึกประมาณ 120 เมตร ได้น้ำบาดาลพอที่จะใช้ในการอุปโภคบริโภคได้

ปี พ.ศ. 2452 พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว รัชกาลที่ 5 ได้ทรงพระกรุณาโปรดเกล้าฯ จัดให้มีการประปาในกรุงเทพฯ โดยใช้แหล่งน้ำผิวดินในคลองประปาเป็นแหล่งน้ำดิบ ในอดีตแหล่งน้ำผิวดินมีเพียงพอสำหรับการอุปโภคบริโภค เนื่องจากยังไม่มีประชากรหนาแน่นดังเช่นปัจจุบัน ต่อมาภายหลังเมื่อมีการขยายตัวของชุมชน และขยายเขตบริการของการประปา ทำให้มีการเจาะบ่อบาดาลเพื่อนำน้ำบาดาลเพื่อนำน้ำบาดาลมาใช้เป็นน้ำดิบร่วม กับแหล่งน้ำผิวดิน

ต่อมาในปี พ.ศ. 2502 กรมโยธาธิการได้จัดตั้งโครงการเจาะน้ำบาดาล โดยสังกัดกองประปาภูมิภาค กำหนดเป้าหมายเจาะบ่อบาดาลในท้องถิ่นชนบททั่วราชอาณาจักร

ปี พ.ศ. 2497 กระทรวงอุตสาหกรรม กับคณะเจ้าหน้าที่องค์การให้ความช่วยเหลือของประเทศสหรัฐอเมริกาคือองค์กร Special Technical Economic Mission หรือเรียกว่า STEM (องค์การความช่วยเหลือของประเทศสหรัฐอเมริกา มีชื่อเปลี่ยนไปต่าง ๆ กันคือ ECA MSA STEM ICA และ USOM) ได้ร่วมกันพิจารณาปัญหาความแห้งแล้งขาดแคลนน้ำในภาคตะวันออกเฉียงเหนือ เนื่องจากเป็นภาคที่มีภาวะขาดแคลนน้ำในฤดูแล้งมากที่สุดและรุนแรงยิ่งกว่า ภาคใดๆ กรมโลหกิจ กรมชลประทาน และกรมอนามัยของไทย จึงได้ร่วมกันจัดตั้ง "โครงการสำรวจน้ำบาดาล" ขึ้น โดยองค์กร STEM ให้ความช่วยเหลือผู้เชี่ยวชาญด้านวิชาการ เครื่องมืออุปกรณ์ การฝึกอบรม และงบประมาณองค์การ คณะรัฐมนตรีจึงได้แต่งตั้ง "คณะกรรมการน้ำบาดาล" เพื่อควบคุมกำกับดูแลการสำรวจน้ำบาดาลในภาคตะวันออกเฉียงเหนือ เมื่อวันที่ 11 พฤษภาคม พ.ศ. 2498

ในปี พ.ศ. 2501 โครงการสำรวจน้ำบาดาลได้รับความช่วยเหลือจาก International Coorporation Administration (ICA) ซึ่งเป็นองค์การให้ความช่วยเหลือต่อเนื่องจากองค์การ STEM โดยการดำเนินงานอยู่ในความควบคุมดูแลของกรมโลหกิจฝ่ายเดียว ปีถัดมาในวันที่ 8 มิถุนายน 2502 คณะรัฐมนตรีได้มีการแต่งตั้ง “คณะกรรมการน้ำบาดาลแห่งประเทศไทย” เพื่อทำหน้าที่สำรวจน้ำบาดาลทั่วประเทศไทยขึ้น โดยคณะกรรมการนี้มีการประชุมเป็นครั้งคราวส่วนใหญ่เป็นการควบคุมและติดตามผลงานโครงการสำรวจ และพัฒนาการน้ำบาดาลของกรมโลหกิจ

เมื่อวันที่ 22 พฤษภาคม พ.ศ. 2506 ได้มีการจัดตั้งกระทรวงพัฒนาการแห่งชาติขึ้นใหม่และมีพระราชบัญญัติโอนอำนาจ หน้าที่ของกรมโลหกิจ กระทรวงอุตสาหกรรม มาสังกัดกระทรวงพัฒนาการแห่งชาติ เพื่อความเหมาะสมในการพัฒนาประเทศให้เจริญยิ่งขึ้นและเปลี่ยนชื่อจาก "กรมโลหกิจ" เป็น "กรมทรัพยากรธรณี" ในการนี้กระทรวงพัฒนาการแห่งชาติได้พิจารณาเห็นว่า งานสำรวจและพัฒนาการน้ำบาดาล โดยเฉพาะในภาคตะวันออก เฉียงเหนือ มีความจำเป็นอย่างยิ่งที่ต้องดำเนินการ ให้ได้ผลเร็วที่สุด คณะรัฐมนตรีจึงมีมติเมื่อวันที่ 6 สิงหาคม พ.ศ. 2506 ให้แต่งตั้ง "คณะกรรมการน้ำบาดาล" ขึ้นใหม่ คณะกรรมการชุดนี้ปฏิบัติงานเรื่อยมาจนสิ้นสุดอายุของรัฐบาลชุดก่อนการเลือก ตั้ง ปี พ.ศ. 2512 จึงหมดอายุ และไม่ได้มีการแต่งตั้งขึ้นใหม่จนถึงปัจจุบัน

ปี พ.ศ. 2507 กรมทรัพยากรธรณีได้มีการจัดตั้งกองขึ้นใหม่ 4 กอง โดย "แผนกน้ำบาดาล กองธรณีวิทยา" ได้ยกฐานะขึ้นเป็น "กองน้ำบาดาล" สังกัดกระทรวงพัฒนาการแห่งชาติ จนถึงวันที่ 18 ธันวาคม พ.ศ. 2515 ได้มีการยุบกระทรวงพัฒนาการแห่งชาติ กองน้ำบาดาล กรมทรัพยากรธรณี จึงได้ย้ายกลับมาสังกัดกระทรวงอุตสาหกรรมตามเดิม

ในปี พ.ศ. 2545 รัฐบาลมีนโยบายปฏิรูประบบราชการทุกกระทรวง ทบวง กรม เพื่อให้ระบบราชการเป็นกลไกและเครื่องมือที่มีประสิทธิภาพ เสริมสร้างสมรรถนะของประเทศในการแข่งขันระดับโลกสร้างความโปร่งใสในการ ปฏิบัติราชการและสร้างวัฒนธรรมใหม่ในวงการ จึงได้ยกฐานะกองน้ำบาดาล กรมทรัพยากรธรณี ขึ้นเป็นกรมทรัพยากรน้ำบาดาล และมีพระราชบัญญัติโอนอำนาจหน้าที่ของกรมทรัพยากรน้ำบาดาลไปสังกัดกระทรวง ทรัพยากรธรรมชาติและสิ่งแวดล้อมที่จัดตั้งขึ้นใหม่เมื่อวันที่ 3 ตุลาคม 2545