บรรพบุรุษของเพนกวิน เป็นนกที่ปีกไม่สามารถบินได้ แต่กลับว่ายน้ำได้คล่องแคล่วที่มีชื่อว่า "ไวมานู" ที่มีชีวิตอยู่ในยุคพาลีโอซีน ประมาณ 62 ล้านปีก่อน ซึ่งฟอสซิลของไวมานู ปัจจุบันพบได้ที่นิวซีแลนด์ ไวมานูมีรูปร่างที่เพรียวยาวแตกต่างจากเพนกวินในปัจจุบันมาก[1]

โดยเพนกวินที่มีขนาดใหญ่ที่สูญพันธุ์ไปแล้ว เช่น Kumimanu biceae มีความสูงประมาณ 1.77 เมตร น้ำหนัก 101 กิโลกรัม มีชีวิตอยู่ราว 50–60 ล้านปีก่อน และเชื่อว่ามีขนสีน้ำตาลซึ่งต่างจากเพนกวินทั่วไปในปัจจุบัน และมีจะงอยปากยื่นยาวกว่า พบโครงกระดูกที่นิวซีแลนด์เมื่อปี ค.ศ.2017 แต่เพนกวินที่ใหญ่ที่สุดที่เคยพบมาคือ Palaeeudyptes klekowskii มีความสูงถึง 2 เมตร น้ำหนักไม่น้อยกว่า 115 กิโลกรัม ค้นพบเมื่อปี ค.ศ. 2014[11]

สำหรับเพนกวินในยุคปัจจุบัน เป็นนกที่ถือกำเนิดมานานกว่า 40 ล้านปีก่อน จากการศึกษาไมโตคอนเดรียและดีเอ็นเอพบว่า เพนกวินสกุล Aptenodytes ซึ่งเป็นเพนกวินชนิดที่ใหญ่ที่สุด เป็นต้นสายพันธุ์ของเพนกวินทั้งหมดในปัจจุบัน ก่อนที่แต่ละสกุลหรือชนิดจะแยกสายวิวัฒนาการของตัวเองขึ้นมา[12][13]