ตำบลหน้าถ้ำเคยเป็นแหล่งชุมชนโบราณมาตั้งแต่สมัยก่อนประวัติศาสตร์ พบร่องรอยศาสนสถาน เมืองโบราณ ซึ่งเป็นศาสนสถานที่พบเทวรูปสำริด กำแพงเมือง พระพิมพ์ดินดิบแบบทวารวดีศรีวิชัย ภาพเขียนสีพระพทธรูปฉาย ภาพเขียนสีราชรถมีสัตว์เทียม มีอายุราวพุทธศตวรรษที่ 15 -17 ยะลาเป็นชุมชนเกษตร นักโบราณคดีได้พบภาพเขียนก่อนประวัติศาสตร์บริเวณถ้ำคูหาภิมุข เป็นภาพพระพุทธฉายและภาพราชรถแกะสลักไว้บนหน้าผา ภายในบริเวณถ้ำคูหาภิมุข