ภูมิภาคแคปพาโดเชียที่มีชื่อเสียงว่ามีภูมิสัณฐานที่เป็นเอกลักษณ์ทั้งทางด้านภูมิศาสตร์, ประวัติศาสตร์ และ วัฒนธรรม ตั้งอยู่ทางตะวันออกเฉียงใต้ของเมืองไคย์เซอรี

ฐานของธรณีสัณฐานของแคปพาโดเชียเป็นการทับถมของหินที่มาจากทะเลสาบและลำธาร และ จากการทับถมของวัตถุต่างๆ ที่ระเบิดจากภูเขาไฟ (Ignimbrite) โบราณเมื่อราว 9 ถึง 3 ล้านปีที่ผ่านมาในระหว่างสมัยไมโอซีนจนถึงสมัยไพลโอซีน

หินในภูมิภาคแคปพาโดเชียไม่ไกลจากเกอเรเมถูกกัดกร่อนจากธรรมชาติรายเป็นรูปทรงคล้ายแท่งหรือหอที่มีปลายแหลมบนยอดคล้ายเห็ดอันดูแปลกตา วัตถุที่ระเบิดจากภูเขาไฟเป็นหินที่มีคุณสมบัติที่ง่ายต่อการกัดกร่อนหรือสลักเสลา ที่ทำให้ผู้ที่อาศัยอยู่ในบริเวณแคปพาโดเชียใช้ในการขุดคว้านเป็นบ้านเรือนที่อยู่อาศัย, ศาสนสถาน หรือ อารามได้ ซึ่งทำให้เกอเรเมกลายมาเป็นศูนย์กลางของอารามราวระหว่างปี ค.ศ. 300—ค.ศ. 1200

การตั้งถิ่นฐานในยุคแรกในเกอเรเมเริ่มขึ้นในสมัยโรมัน บริเวณนี้ที่ว่านี้เต็มไปด้วยบ้านเรือน, หมู่บ้าน, หมู่บ้านใต้ดิน และ คริสต์ศาสนสถานที่ขุดเข้าไปในโพรงหิน โบสถ์ในเกอเรเมมีด้วยกันกว่า 30 โบสถ์และโบสถ์นอ้ย บางโบสถ์ก็มีงานจิตรกรรมฝาผนังจากคริสต์ศตวรรษที่ 9 ถึง 11 ที่ยังมีความงดงามสดใสอยู่