จังหวัดคานางาวะปรากฏเป็นที่รู้จักในประวัติศาสตร์เมื่อประมาณ 800 ปีก่อน โดยนักรบซามูไรที่ชื่อ มินาโมโตะ โยริโตโมะ ได้เลือกเมืองคามากูระเป็นที่ตั้งกองกำลังของเขา และหลังจากนั้นต่อมาอีกประมาณ 150 ปี เมืองคามากูระได้เป็นฐานที่มั่นของรัฐบาลทหารมาตลอด ซึ่งก่อนหน้านี้ ศูนย์กลางทางการเมืองจะอยู่ที่ เคียวโตะ และ นาระ มาตลอด ในปี 1192 โยริโตโมะได้เป็นโชกุนคนแรก (ผู้ปกครองซึ่งมีอำนาจทางทหาร) และอำนาจในการปกครองต่าง ๆ ก็เปลี่ยนมือจากขุนนางมาเป็นซามูไร เหตุการณ์ครั้งนี้เป็นจุดเริ่มต้นที่สำคัญของสังคมศักดินาในประเทศญี่ปุ่น ช่วงเวลาถัดมานั้นก็มีการเปลี่ยนแปลงครั้งสำคัญในด้านวัฒนธรรมญี่ปุ่น คือ เริ่มต้นมีการเผยแพร่ศาสนาเซ็น และศาสนาพุทธนิกายอื่น ๆ ขึ้น และมีวิวัฒนาการด้านศิลปะและวรรณคดี

ในศตวรรษที่ 17 เมืองหลวงย้ายไปยังเมืองเอโดะแทน (เมืองโตเกียวในปัจจุบัน) ที่ซึ่งโชกุนตระกูลโทกูงาวะได้ตั้งรัฐบาลทหารของตนขึ้น และมีนโยบายเรื่องการปิดประเทศอย่างเข้มงวด ระหว่างสมัยเอโดะ ได้สร้างทางด่วนสายโทไกโด (เชื่อมเส้นทางระหว่างเมืองเอโดะกับเกียวโต) ขึ้น ทำให้คานางาวะเป็นจุดสำคัญจุดหนึ่งในการเดินทางเชื่อมต่อระหว่างตะวันออก-ตะวันตกของญี่ปุ่น โชกุนตระกูลโทกูงาวะปกครองประเทศญี่ปุ่นเป็นเวลา 300 ปี

โยโกฮามะเป็นเมืองที่มีบทบาทสำคัญในการเปิดประเทศอีกครั้ง เมื่อปี 1853 กองทัพเรือสหรัฐอเมริกาปรากฏตัวขึ้นที่หมู่บ้านอูรางะ พลเรือจัตวา แมทธิว เพอร์รี ได้กดดันให้ญี่ปุ่นเปิดประเทศ และตามมาด้วยการลงนามสนธิสัญญาสัมพันธไมตรีและการค้าระหว่างญี่ปุ่นและสหรัฐอเมริกา ท่าเรือโยโกฮามะเปิดขึ้นเมื่อปี 1859 ได้เปลี่ยนจากหมู่บ้านชาวเลเล็ก ๆ มาเป็นจุดกำเนิดของญี่ปุ่นสมัยใหม่ ในทันทีที่เปิดท่าเรือได้เปิดทำการ บริษัทต่างชาติมากกว่า 100 แห่งได้เข้ามาเปิดทำการในโยโกฮามะ ทำให้จำนวนชาวต่างชาติในโยโกฮามะเพิ่มขึ้นทุก ๆ ปี จนสามารถนับได้ว่ามีชาวต่างชาติอาศัยอยู่ที่โยโกฮามะเกินกว่าครึ่งหนึ่งของชาวต่างชาติที่อาศัยอยู่ในญี่ปุ่น วิวัฒนาการและความคิดสร้างสรรค์ใหม่ ๆ ของตะวันตกจะส่งผ่านเข้ามายังญี่ปุ่นโดยผ่านโยโกฮามะเป็นด่านแรก ทั้งโทรเลขและรถไฟก็มีจุดกำเนิดมาจากโยโกฮามะ และแม้แต่ไอศกรีม เบียร์ และหนังสือพิมพ์รายวันฉบับแรกก็ได้รับการกล่าวขานว่าเกิดขึ้นที่โยโกฮามะด้วย

ใน ค.ศ. 1923 ได้เกิดแผ่นดินไหวครั้งใหญ่ขึ้นที่ภูมิภาคคันโต รวมทั้งคานางาวะและโตเกียว แมกนิจูด 7.9 เฉพาะในจังหวัดคานางาวะมีผู้เสียชีวิต 30,000 คน และมีบ้านเรือนถูกทำลายถึง 230,700 ครัวเรือน หรือเทียบได้ถึง 86 % ของทั้งหมด

แผ่นดินไหวครั้งใหญ่ที่คันโตก็ได้ทำลายพื้นที่อุตสาหกรรมรอบ ๆ อ่าวโตเกียวในคาวาซากิและโยโกฮามะ ที่ได้ก่อตั้งขึ้นในช่วงปี 1900 ด้วย อย่างไรก็ตาม ภายหลังแผ่นดินไหว อุตสาหกรรมในโยโกฮามะก็ถูกพัฒนาขึ้นอย่างรวดเร็วอีกครั้ง แม้ว่าเมืองโยโกฮามะจะรุ่งเรือง แต่ว่าก็ถูกกระทบกระเทือนอีกครั้งจากการโจมตีทางอากาศของฝ่ายสัมพันธมิตรในช่วงสงครามโลกครั้งที่ 2 มีผู้เสียชีวิต มากกว่า 6,000 คน และผู้บาดเจ็บเกือบ 580,000 คน จากการโจมตีทางอากาศที่ โตเกียว คาวาซากิ โยโกฮามะ และบริเวณรอบนอกเมืองเหล่านั้น ภายหลังสงครามเสร็จสิ้นลง การปฏิรูปประชาธิปไตยต่าง ๆ ก็ได้เกิดขึ้นภายใต้สถานการณ์หลังสงครามที่ยังไม่มั่นคง เช่น การเลือกตั้งผู้ว่าราชการจังหวัดอย่างเสรี การปฏิรูปการครอบครองที่ดิน การสลายตัวของกลุ่มบริษัททางการเงิน การเริ่มต้นระบบการศึกษาภาคบังคับ แบบ 6-3 ปี เป็นต้น ในช่วงนี้ มีการเติบโตอย่างฉับพลันในด้านเศรษฐกิจ สังคม วิทยาศาสตร์ รวมทั้งทางด้านวัฒนธรรม ซึ่งเป็นการถางทางมาสู่พัฒนาการปัจจุบันของญี่ปุ่น แม้ว่าการเติบโตทางเศรษฐกิจอย่างแข็งแรง ซึ่งตามมาพร้อมกับปัญหามลภาวะทางอากาศและน้ำ จะเกิดขึ้นในช่วงนี้ แต่ก็ได้มีการพัฒนาเครื่องมือต่าง ๆ ขึ้นมามากมายเพื่อรองรับปัญหาเหล่านี้แล้ว