นกกาน้ำใหญ่เป็นนกขนาดใหญ่สีดำ มีหลายขนาดตามแต่แหล่งการกระจายพันธุ์ หนัก 1.5[2] ถึง 5.3 กิโลกรัม[3] ซี่งโดยทั่วไปแล้วหนัก 2.6 ถึง 3.7 กิโลกรัม[4] ยาว 70 ถึง 102 เซนติเมตร ช่วงปีกกว้าง 121 ถึง 160 เซนติเมตร หางยาว ปากสีน้ำตาลอมเหลือง ตาสีฟ้า หน้าสีเหลือง ขนที่ท้ายทอยเป็นสันแหลม มีถุงคออยู่ระหว่างโคนปากกับคอหอย ด้านหน้าสีเหลือง ด้านหลังสีเทา นกโตเต็มวัยมีแต้มสีขาวที่ต้นขาในฤดูผสมพันธุ์