ในยุคเอโดะ พื้นที่บริเวณยามากิตะเป็นส่วนหนึ่งของแคว้นศักดินาโอดาวาระ ในทางตะวันตกของแคว้นซางามิ หลังจากการปฏิรูปที่ดินในช่วงต้นของยุคเมจิ หมู่บ้านคาวะเป็นหนึ่งในหลาย ๆ หมู่บ้านที่ก่อตั้งขึ้นในอำเภออาชิงารากามิ จังหวัดคานางาวะ เมื่อวันที่ 1 เมษายน 1889 ต่อมาหมู่บ้านคาวะได้รับการยกฐานะเป็นเมืองเมื่อวันที่ 1 เมษายน 1933 และเปลี่ยนชื่อเป็นยามากิตะ เมืองยามากิตะได้รวมเข้ากับหมู่บ้านที่อยู่ใกล้เคียง ได้แก่ หมู่บ้านเคียววะ หมู่บ้านชิมิซุ และหมู่บ้านมิโฮะ เมื่อวันที่ 1 กุมภาพันธ์ 1955 และได้ขยายเขตเพิ่มโดยการผนวกพื้นที่ฮิรายามะของหมู่บ้านคิตาอาชิงาระเดิม เมื่อวันที่ 1 เมษายน 1955