ถนนเพชรเกษมตั้งชื่อตามชื่อหลวงเพชรเกษมวิถีสวัสดิ์ (แถม เพชรเกษม) อธิบดีกรมทางหลวงคนที่ 7 หลวงเพชรเกษมวิถีสวัสดิ์เป็นนักเรียนทุนของกรมรถไฟหลวง เมื่อพ.ศ. 2464 ไปศึกษาวิชาวิศวกรรมโยธาที่สหราชอาณาจักร และกลับมารับราชการที่กรมรถไฟหลวง ตำแหน่งนายช่างผู้ช่วย กองแบบแผน กรมรถไฟหลวง ต่อมาย้ายไปสังกัดกรมทาง เมื่อถนนเพชรเกษมสร้างเสร็จเมื่อ พ.ศ. 2493 จึงได้รับการตั้งชื่อเพื่อเป็นเกียรติแก่บุคคลดังกล่าวเมื่อวันที่ 10 ธันวาคม ปีเดียวกัน ตามนโยบายของรัฐบาลสมัยจอมพล ป. พิบูลสงครามเป็นนายกรัฐมนตรี ที่ให้ตั้งชื่อถนนตามชื่อนายช่างใหญ่ผู้ควบคุมการก่อสร้างหรือการบังคับบัญชารับผิดชอบ

ทางหลวงแผ่นดินหมายเลข 4 ยังมีชื่ออื่นในช่วงเส้นทางต่าง ๆ ดังนี้

• ช่วงทางแยกโค้งปลาลังถึงทางแยกเข้าเมืองกระบี่ เรียกว่า "ถนนศรีพังงา"
• ช่วงเข้าสู่ทางหลวงเอเชีย เรียกว่า "ถนนสายเอเชียพัทลุง-หาดใหญ่" จนถึงทางแยกคลองหวะ
• ช่วงตั้งแต่ทางแยกคลองหวะ อำเภอหาดใหญ่ ถึงอำเภอสะเดา จังหวัดสงขลา เป็นส่วนหนึ่งของ "ถนนกาญจนวนิช" ซึ่งรัฐบาลสมัยจอมพล ป. พิบูลสงคราม ตั้งชื่อนี้ให้กับทางหลวงสายสงขลา-สะเดา เพื่อเป็นเกียรติแก่พระยาประกิตย์กลศาสตร์ (ประกิต รณชิต กาญจนวณิชย์) อดีตนายช่างด้านสงขลา ในช่วงแรกถนนกาญจนวณิชย์ถือเป็นทางหลวงคนละสายกับถนนเพชรเกษมซึ่งในขณะนั้นเป็นทางหลวงสายกรุงเทพมหานคร-หาดใหญ่ ต่อมาเมื่อมีการตั้งชื่อทางหลวงโดยใช้ระบบหมายเลข ถนนกาญจนวนิช ช่วงหาดใหญ่ถึงสะเดาได้ถูกรวมเป็นส่วนหนึ่งของทางหลวงแผ่นดินหมายเลข 4 ส่วนช่วงสงขลาถึงหาดใหญ่ (ภายหลังเพิ่มระยะทางไปถึงคลองหวะ) ได้รับการกำหนดเป็นทางหลวงแผ่นดินหมายเลข 407