ลักษณะของฉลามวาฬที่แตกต่างจากฉลามส่วนใหญ่ คือ หัวที่ใหญ่โตมากเมื่อเทียบกับขนาดลำตัว และปากที่อยู่ด้านหน้าแทนที่จะอยู่ด้านล่าง ฉลามวาฬ เกือบทั้งหมดที่พบมีขนาดใหญ่กว่า 3.5 เมตร ใช้เหงือกในการหายใจ มีช่องเหงือก 5 ช่อง มีครีบอก 2 อัน ครีบหาง 2 อัน และ ครีบก้น(หาง) 1 อัน หางของปลาฉลามวาฬอยู่ในแนวตั้งฉาก และโบกไปมาในแนวซ้าย-ขวา แตกต่างจากสัตว์เลือดอุ่นในทะเลที่หางอยู่ในแนวขนานและหายใจด้วยปอด อาทิ วาฬ, โลมา หรือพะยูน เป็นต้น

ในการระบุตัวของฉลามวาฬนั้น พิจารณาจากด้านข้างลำตัว ตั้งแต่ช่องเหงือกช่องที่ 5 จนถึงสิ้นสุดครีบอก โดยแต่ละตัวจะมีจุดที่แตกต่างกันออกไปเป็นอัตลักษณ์ประจำตัว[9]