เมื่อปี พ.ศ. 2483 (ค.ศ. 1940) มีการวางแผนไว้ว่า โทโกโด ชิงกันเซ็งจะมีรถไฟวิ่งด้วยความเร็ว 150 กิโลเมตรต่อชั่วโมงเชื่อมต่อจากโตเกียวไปยังชิโมโนเซกิ ซึ่งความเร็วระดับนี้อยู่ที่ระดับ 50% ของรถไฟด่วนที่เร็วที่สุดในสมัยนั้นเท่านั้น เมื่อสงครามโลกครั้งที่ 2 เปิดฉากขึ้น โครงการนี้ก็หยุดชะงักลงขณะอยู่ในขั้นเริ่มวางแผนเท่านั้นแม้ว่าจะได้ขุดอุโมงค์หลายแห่งไปแล้ว (ต่อมาอุโมงค์เหล่านี้ก็มาอยู่ในเส้นทางของชิงกันเซ็งในปัจจุบันด้วย) เนื่องจากว่าเส้นทางของชิงกันเซ็งสายนี้ผ่านเมืองที่ใหญ่ที่สุด 3 เมืองของญี่ปุ่น จึงทำให้เส้นทางนี้เป็นเส้นทางที่มีผู้โดยสารมากที่สุด

การก่อสร้างเริ่มขึ้นเมื่อวันที่ 20 เมษายน พ.ศ. 2502 (ค.ศ. 1959) ภายใต้การควบคุมของ นายชินจิ โซโก ประธานการรถไฟญี่ปุ่นและฮิเดโอ ชิมะ หัวหน้าวิศวกร จนแล้วเสร็จในปี 2507 และมีรถไฟขบวนแรกที่วิ่งจากโตเกียวไปยังชินโอซากะเมื่อวันที่ 1 ตุลาคม ของปีนั้น ชิงกันเซ็งสายนี้เปิดใช้บริการในช่วงเวลาใกล้เคียงกับกีฬาโอลิมปิกฤดูร้อน ปี 2507 ที่กรุงโตเกียวซึ่งเป็นการแข่งขันที่ทำให้ทั่วโลกสนใจประเทศญี่ปุ่นมากขึ้น ตอนแรก เส้นทางนี้มีชื่อในภาษาอังกฤษว่า New Tōkaidō Line ซึ่งมาจากชื่อของถนนโทไกโดในญี่ปุ่นที่ครบรอบ 100 ปีพอดี

ชิงกันเซ็งสายนี้มียอดผู้โดยสารถึงตัวเลข 100 ล้านคนในปี 2507 และถึงตัวเลข 1,000 ล้านคนในปี 2519 และฉลองครบรอบ 40 ปีในปี 2547 ด้วยตัวเลข 4,160 ล้านคน

ต่อมา สถานีชินางาวะ เปิดให้บริการในเดือนตุลาคม ปี 2546 ประกอบกับมีการเปลี่ยนแปลงตารางเวลาครั้งใหญ่ จึงมีจำนวนผู้ใช้บริการรายวันเพิ่มขึ้นอย่างมาก โดยเฉพาะขบวนที่ให้บริการโดยโนโซมิ

รถไฟของโทไกโดชิงกันเซ็งทุกขบวนที่วิ่งเข้าและออกจากกรุงโตเกียวจะมาหยุดที่สถานีชินางาวะและสถานีชิงโยโกฮามะ