แกนที่ยาวที่สุดของเกาะอยู่ในแนวตะวันตกเฉียงเหนือไปตะวันออกเฉียงใต้ โดยผ่านเส้นศูนย์สูตรตรงกลาง พื้นที่ด้านในของเกาะแบ่งเป็น 2 เขตทางภูมิศาสตร์ใหญ่ ๆ คือ เทือกเขาบารีซัน (Barisan Mountains) ทางตะวันตกและพื้นที่ลุ่มทางตะวันออก

ทางตะวันออกเฉียงใต้คือเกาะชวา แบ่งด้วยช่องแคบซุนดา ทางเหนือคือคาบสมุทรมลายู แบ่งด้วยช่องแคบมะละกา ทางตะวันออกคือเกาะบอร์เนียว แบ่งด้วยช่องแคบการีมาตา (Karimata Strait) ทางตะวันตกของเกาะคือมหาสมุทรอินเดีย

สันหลังของเกาะคือเทือกเขาบารีซัน ภูเขาไฟในภูมิภาคนี้ทำให้เกาะนี้มีทั้งพื้นดินอุดมสมบูรณ์และทัศนียภาพอันสวยงามเช่น รอบ ๆ ทะเลสาบโตบา (Lake Toba) นอกจากนี้ ยังมีแร่ถ่านหินและทองคำด้วย

ทางะวันออก แม่น้ำใหญ่พัดพาเอาตะกอนดินจากภูเขา ทำให้เกิดลุ่มกว้างขวาง พื้นที่ส่วนใหญ่ไม่เหมาะสำหรับการเกษตร อย่างไรก็ดี พื้นที่นี้มีความสำคัญทางเศรษฐกิจต่ออินโดนีเซียเป็นอย่างมาก สุมาตราผลิตน้ำมันทั้งจากบนดินและใต้ดิน ("from above the soil and underneath") กล่าวคือ ผลิตทั้งน้ำมันปาล์มและปิโตรเลียม

พื้นที่ส่วนใหญ่ของสุมาตราเคยปกคลุมด้วยป่าชื้นเขตร้อน เป็นที่อยู่อาศัยของสัตว์ชนิดต่าง ๆ เช่น ลิงอุรังอุตัง สมเสร็จ และ เสือสุมาตรา และพืชพรรณที่เป็นเอกลักษณ์ เช่น แรฟเฟิลเซีย (Rafflesia) อย่างไรก็ดี การพัฒนาทางเศรษฐกิจ ร่วมกับการคอร์รัปชันและการทำไม้ผิดกฎหมาย ทำให้มีพื้นที่ลดลงอย่างรวดเร็ว นอกจากนี้ พื้นที่อนุรักษ์ยังถูกทำลายด้วย