โอซุเกิดที่ย่านฟูกางาวะในกรุงโตเกียว เมื่ออายุได้ 10 ปี เขาถูกส่งไปอาศัยอยู่ที่บ้านของพ่อของเขาพร้อมกับแม่และพี่น้องของเขาที่เมืองมัตสึซากะ ซึ่งเป็นเมืองที่เขาใช้ชีวิตช่วงวัยเยาว์เป็นส่วนใหญ่ ได้รับการศึกษาในโรงเรียนกินนอน แต่เขากลับเอาเวลาว่างส่วนใหญ่ไปดูหนังที่โรงหนังแถวบ้านแทนที่จะไปเรียน โอซุไปเป็นอาจารย์อยู่ช่วงหนึ่ง ก่อนที่จะกลับโตเกียวในปี ค.ศ. 1923 และเข้าทำงานกับบริษัทโชจิกุ