โคฟูกูจิถูกสร้างขึ้นครั้งแรกที่บริเวณยะมะชินะในเคียวโตะ โดย ท่านหญิงคะงะมิ ภริยาของฟุจิวะระ โนะ คะมะตะมิ ในปี ค.ศ. 669 เพื่อขอพรให้สามีของนางหายจากอาการป่วย ต่อมาในปี 672 วัดแห่งนี้ก็ถูกย้ายไปไว้ที่นครฟุจิวะระเกียว นครหลวงแห่งใหม่ของญี่ปุ่นซึ่งสร้างตามแบบผังเมืองของนครฉางอานในจีน จนกระทั่งในปี 710 วัดก็ถูกรื้ออีกครั้งและนำมาสร้างขึ้นที่ตำแหน่งในปัจจุบัน ซึ่งตั้งอยู่ทางตะวันออกของนครเฮอังเกียว นครหลวงที่สร้างขึ้นใหม่