รูปทรงของนกกาน้ำจะมีลักษณะอวบอ้วน แต่ค่อนข้างเพรียวยาวเหมือนกับตอร์ปิโด มีลำคอยาว หัวค่อนข้างเล็กยาว และปากยาว จึงเหมาะสมที่จะพุ่งตัวลงไปแหวกว่ายอยู่ใต้น้ำอย่างแคล่วคล่อง แต่ในเวลาที่ยืนอยู่บนพื้นดินริมน้ำหรือเกาะอยู่บนต้นไม้ ลำตัวของนกกาน้ำยกขึ้นค่อนข้างตั้งตรง เพราะขาอยู่ค่อนไปทางด้านท้ายของลำตัวมาก แต่มักหดลำคอเป็นรูปตัว S และทำหลังโก่ง

แต่ในขณะว่ายน้ำ ลำตัวของนกกาน้ำดูค่อนข้างเพรียว เพราะขาอยู่ค่อนไปทางด้านท้ายของลำตัวมาก เหมาะที่จะพุ่งตัวแหวกว่ายอยู่ในน้ำเป็นอย่างยิ่ง ไม่เหมือนนกในวงศ์ใด นอกจากนกอ้ายงั่วซึ่งมีลักษณะใกล้ชิดกับนกกาน้ำเท่านั้น อย่างไรก็ดี ในขณะบินนกกาน้ำดูคล้ายนกเป็ดน้ำมาก และนกตัวผู้และนกตัวเมียเหมือนกันจนแยกความแตกต่างระหว่างเพศไม่ได้ แต่นกตัวผู้มักมีขนาดใหญ่กว่าและน้ำหนักมากกว่านกตัวเมียเล็กน้อย[4]