คำว่า ซาร์ดีน เริ่มใช้ในภาษาอังกฤษตั้งแต่ต้นคริสต์ศตวรรษที่ 15 เป็นคำที่ยืมมาจากภาษาฝรั่งเศสคือ sardineซึ่งมาจากคำภาษาละตินว่า sardina อันมาจากคำภาษากรีกโบราณว่า σαρδίνη (sardínē) หรือ σαρδῖνος (sardínos)[9]ซึ่งก็เชื่อว่ามาจากคำภาษากรีกว่า "Sardò" (Σαρδώ) โดยหมายถึงเกาะซาร์ดิเนียนักวาทศิลป์และนักไวยากรณ์ชาวกรีก Athenaios ได้อ้างอิงวรรคหนึ่งจากแอริสตอเติลผู้กล่าวถึงปลา sardinos โดยหมายถึงปลาซาร์ดีนหรือปลาพิลชาร์ด[10]แต่เกาะซาร์ดิเนียก็อยู่ห่างจากกรุงเอเธนส์ ถึง 1,300 กม. นักภาษาศาสตร์ผู้หนึ่ง (Ernest Klein) จึงเขียนในงาน Etymological Dictionary of the English Language (1971) ว่า "มันแทบจะเป็นไปไม่ได้ว่าคนกรีกได้นำปลามาไกลถึงจากซาร์ดิเนียในสมัยโบราณช่วงแอริสตอเติล"[11]

เนื้อปลาซาร์ดีนหรือปลาพิลชาร์ดออกสีแดงน้ำตาลคล้ายกับหินซาร์ดอนิกซ์หรือหินซาร์ดีน โดยเป็นคำที่มาจาก σαρδῖον (sardion) ซึ่งมาจากรากศัพท์ที่แปลว่า แดง และปรากฏว่ามาจากรากเดียวกับคำว่า Sardis ซึ่งเป็นเมืองหลวงของอาณาจักรลิเดีย (ปัจจุบันในตุรกีตะวันตก) และเป็นแหล่งหิน[12]

ส่วนวลีว่า "packed like sardines" (อัดแน่นเหมือนปลาซาร์ดีน) เริ่มใช้ตั้งแต่ปี 1911[11]