แม้ว่าเมื่อเวลาผ่านไปรายละเอียดของการปกครองท้องถิ่นจะเปลี่ยนแปลงไปอย่างมาก แต่เค้าโครงพื้นฐานของระบบการปกครองสองระดับในปัจจุบันนับตั้งแต่การยกเลิกระบบแคว้นโดยรัฐบาลเมจิในปี ค.ศ. 1871 ยังคงคล้ายคลึงกัน ก่อนการยกเลิกระบบแคว้นศักดินาหรือระบบฮัง ญี่ปุ่นได้แบ่งการปกครองออกเป็น แคว้น (ญี่ปุ่น: 国 โรมาจิ: kuni) จากนั้นแบ่งออกเป็น อำเภอ (ญี่ปุ่น: 郡 โรมาจิ: gun) และ หมู่บ้าน (ญี่ปุ่น: 里/郷 โรมาจิ: sato) ในระดับล่างสุด