เกาะตาปูเป็นเขาหินปูน มีอายุยุคเพอร์เมียนหรือประมาณ 250–295 ล้านปีมาแล้ว เนื่องจากหินปูนมีคุณสมบัติสึกกร่อนจากการละลายน้ำได้ง่าย ดังนั้นเกาะต่าง ๆ ในบริเวณอ่าวพังงาจึงมีรูปร่างแปลก ๆ และมีหลายรูปแบบขึ้นอยู่กับการผุพังทำลายของเนื้อหิน

กำเนิดของเกาะตาปูมีความสัมพันธ์กับการเปลี่ยนแปลงระดับน้ำทะเลสมัยโบราณ เดิมเกาะตาปูและเกาะเขาพิงกันด้านตะวันออกมีสภาพเชื่อมต่อเป็นผืนเดียวกันและอยู่บนผืนแผ่นดิน การเคลื่อนไหวของเปลือกโลกในเวลาต่อมาทำให้เกิดรอยเลื่อนใหญ่เป็นแนวยาวพาดผ่านพื้นที่อ่าวพังงาด้านตะวันตก เรียกว่ารอยเลื่อนคลองมะรุ่ย รอยเลื่อนนี้ทำให้เกิดรอยเลื่อนย่อย ๆ ติดตามมา ดังจะเห็นได้จากรอยเลื่อนที่เขาพิงกัน รอยเลื่อน รอยแตก และรอยแยกที่พบในหินปูนเกาะตาปู นอกจากนั้น รอยเลื่อนยังทำให้เกิดการหักพังของหินขึ้นในบริเวณรอยต่อระหว่างเขาตาปูกับเขาพิงกันทางด้านตะวันออก ทำให้เขาตาปูแยกออกมาเป็นเขาลูกโดด

แผ่นดินเขาตาปูและเขาพิงกันได้รับอิทธิพลจากน้ำทะเลที่แผ่ขยายเข้ามาท่วมในช่วงหลังสุดเมื่อประมาณ 10,000 ปีที่ผ่านมา ทำให้พื้นที่เขาพิงกันและเขาตาปูมีสภาพเป็นเกาะ โดยบริเวณเขาตาปูเป็นหัวแหลมยื่นออกไปในทะเล ต่อมาหัวแหลมถูกคลื่นกัดเซาะและขัดเกลาจนกระทั่งมีรูปทรงเรียวและขาดออกจากตัวเขาพิงกันตะวันออกอย่างเด่นชัด มีสภาพเป็นเกาะหินโด่ง

น้ำทะเลที่ขึ้นสูงสุดเมื่อประมาณ 6,000 ปีที่ผ่านมา มีระดับสูงกว่าระดับปัจจุบันประมาณ 4 เมตร การขึ้นลงของน้ำทะเลได้กัดเซาะเกาะตาปูให้เกิดเป็นแนวรอยน้ำเซาะหิน เว้าเข้าไปที่ระดับดังกล่าว ต่อมาน้ำทะเลลดระดับลงมาอยู่ที่ระดับความสูงประมาณ 2.5 เมตรจากระดับน้ำทะเลปัจจุบัน ระดับน้ำทะเลใหม่ได้กัดเซาะส่วนล่างของเกาะตาปูให้เกิดเป็นรอยน้ำเซาะหินแนวใหม่ คือ ระดับที่เป็นส่วนคอดกิ่วที่สุด และเป็นบริเวณที่มีสิ่งมีชีวิต เช่น หอย เพรียง เกาะอาศัยอยู่โดยรอบ เมื่อได้นำซากหอยนางรมที่ติดอยู่ในแนวรอยกัดเซาะนี้ไปหาอายุโดยวิธีคาร์บอนรังสี (C14) ได้อายุประมาณ 2,620 + 50 ปี แสดงว่ารอยคอดกิ่วนี้เกิดจากการกัดเซาะของน้ำทะเลเมื่อเวลาประมาณ 2,500 ปีที่ผ่านมา หลังจากนั้นน้ำทะเลจึงลดระดับลงมาอยู่ที่ระดับปัจจุบัน ส่วนที่คอดกิ่วที่เกิดขึ้นเมื่อ 2,500 ปีที่ผ่านมานี้เองทำให้เกาะตาปูมีลักษณะโดดเด่นเป็นเอกลักษณ์ และเป็นแหล่งท่องเที่ยวที่มีชื่อเสียงของประเทศ

เกาะตาปูมีปัญหาการพังทลายอันเกิดจากการกัดเซาะกัดเซาะของน้ำทะเล การขุดเจาะเนื้อหินเพื่อเป็นที่อยู่อาศัยของสัตว์จำพวกหอยนางรม เพรียง ปู ฯลฯ ความแรงของคลื่นลมในฤดูมรสุม การเปลี่ยนแปลงสภาพแวดล้อมของโลก เนื่องจากปฏิกิริยาเรือนกระจกอันอาจมีผลให้คลื่นลมเปลี่ยนความเร็ว และสุดท้ายคือการถูกรบกวนด้วยกิจกรรมของมนุษย์ เช่น การจอดเรือโดยการทิ้งสมอการผูกเรือไว้รอบเกาะ รวมทั้งคลื่นจากเรือหางยาวที่วิ่งรอบเกาะ