ภูมิประเทศในพื้นที่เขตรักษาพันธุ์สัตว์ป่าคลองยัน ความลาดชันของพื้นที่เป็นเทือกเขาสูงสลับซับซ้อน ตามแนวทิศเหนือ-ทิศใต้ มีเทือกเขาสูงสุดคือ หัวเขาแดนมุย มีความสูง 1,028 เมตร เป็นเทือกเขาที่มีความสูงลดหลั่นกันไปและไม่ค่อยมีหน้าผาที่สูงชัน ลักษณะภูมิประเทศของเขตรักษาพันธุ์สัตว์ป่าคลองยันพื้นที่แบ่งออกเป็น 2 ส่วน คือ ส่วนเหนือ มีลักษณะเป็นภูเขาสูงสลับซับซ้อน มียอดเขาหลังคาตึกเป็นจุดเด่น สูงจากระดับน้ำทะเล 1,010 เมตร ลักษณะเป็นภูเขาดินดานและ หินทราย เป็นจุดกำเนิดของต้นน้ำคลองยัน จังหวัดสุราษฎร์ธานีและ ต้นน้ำลำคลองกะเปอร์ จังหวัดระนอง พื้นที่ส่วนนี้เป็นศูนย์กลางของป่าผืนใหญ่ที่อุดมสมบูรณ์ที่สุด ซึ่งถูกล้อมรอบด้วยเขตรักษาพันธ์สัตว์ป่าคลองนาคา เขตรักษาพันธุ์สัตว์ป่าคลองแสง และอุทยานแห่งชาติแก่งกรุง ส่วนใต้ มีลักษณะเป็นภูเขาสูงสลับซับซ้อน วางแนวยาวจากเหนือจรดใต้ ประกอบด้วย ทิวเขาสูงจากระดับน้ำทะเล 1,007 เมตร ทิวเขาแดนมุย 1,028 เมตร และทิวเขาแดนยัน 1,019 เมตร ทิศทางการไหลของน้ำส่วนใหญ่จะไหลไปทางทิศตะวันออกลงสู่หมู่บ้านเป็น จุดกำเนิดของลำคลองหลายสายที่ไหลลงสู่คลองยัน และส่วนหนึ่งจะไหลไปทางทิศตะวันตกลงสู่คลองมุย และไหลลงเขื่อนรัชชประภา แนวเขตด้านตะวันตกจะติดกับพื้นที่ป่าสมบูรณ์ของเขตรักษาพันธุ์สัตว์ป่าคลองแสง และพื้นที่น้ำของเขื่อนรัชชประภา ซึ่งอยู่ในความดูแลของอุทยานแห่งชาติเขาสก