โยชิฮารุ ฮาบุ เกิดในโทโกโรซาวะ จังหวัดไซตามะ ในปี ค.ศ. 1970 และได้ย้ายไปฮาจิโอจิ กรุงโตเกียวก่อนที่จะเข้าโรงเรียนอนุบาล ฮาบุได้พบกับหมากรุกญี่ปุ่นเป็นครั้งแรกเมื่อเข้าเรียนประถมศึกษาปีแรกเมื่อเพื่อนของเขาได้สอนวิธีการเดินหมากแต่ละตัว เขาเริ่มหลงไหลในเกมนี้โดยแม่ของเขาได้ส่งเข้าแข่งขันหมากรุกญี่ปุ่น ซึ่งจัดขึ้นที่สโมสรหมากรุกญี่ปุ่นฮาจิโอจิในฤดูร้อนเมื่อปี ค.ศ. 1978 แม้ว่าฮาบุจะเป็นฝ่ายตกรอบอุ่นเครื่องด้วยผลการแข่ง ชนะ 1 แพ้ 2 แต่พ่อแม่ของเขาก็พาไปยังสโมสรหมากรุกญี่ปุ่นทุกสุดสัปดาห์นับตั้งแต่เดือนตุลาคม ค.ศ. 1978 ฮาบุสามารถพัฒนาฝีมือให้ดีขึ้นได้อย่างรวดเร็ว จนเขาได้รับการเลื่อนตำแหน่งเป็นมือสมัครเล่น 5 ดั้งในเดือนตุลาคม ค.ศ. 1981 ขณะที่มีอายุได้ 11 ปี[1][2]

ในระหว่างวันที่โรงเรียนประถมศึกษาของเขา ฮาบุได้มีส่วนร่วมในการแข่งขันหมากรุกญี่ปุ่นระดับภูมิภาคและระดับประเทศอย่างสม่ำเสมอของรุ่นเด็กเป็นส่วนใหญ่ ในการแข่งขันเหล่านี้ ฮาบุได้แข่งกับเด็กวัยเดียวกันหลายคนที่จะกลายเป็นผู้เล่นระดับอาชีพในภายหลัง ซึ่งประกอบด้วย โทชิยูกิ โมริอูจิ (森内俊之), ยาซูมิตสึ ซาโต (佐藤康光) และมานาบุ เซ็นซากิ (先崎学) โดยผู้เล่นที่เกิดในช่วงปี ค.ศ. 1970 เหล่านั้น เป็นที่รู้จักกันในฐานะ "รุ่นฮาบุ" ไม่เพียงเพราะพวกเขาเกิดในปีเดียวกัน หากแต่พวกเขายังเป็นผู้เล่นที่ประสบความสำเร็จอย่างโดดเด่น[1]

ในเดือนในกรกฎาคม ค.ศ. 1981 ฮาบุผ่านการคัดเลือกเข้าสู่การแข่งขันเมจินมือสมัครเล่น ในฐานะที่เป็นผู้แข่งขันที่อายุน้อยที่สุดเท่าที่เคยมีมาของตัวแทนชานเมืองโตเกียว และชนะการแข่งขันสำหรับนักเรียนชั้นประถมสี่รายการในเดือนสิงหาคมตามมา ส่วนในเดือนเมษายน ค.ศ. 1982 ฮาบุชนะการแข่งขันเมจินโรงเรียนประถม ครั้งที่ 7 (小学生将棋名人戦)[3] เขาได้แสดงถึงความปรารถนาของเขาที่จะเป็นผู้เล่นมืออาชีพ และขอคำแนะนำจากคัตสึยาซุ นากาจิมะ ผู้เป็นเจ้าของชมรมหมากรุกญี่ปุ่นฮาจิโอจิและเป็นนักเรียนของทัตสึยะ ฟูตากามิ โดยฮาบุได้สมัครเรียนที่โรงเรียนฝึกอบรมเด็กฝึกงานมืออาชีพ (奨励会)[4] ในฐานะเป็นนักเรียนของฟูตากามิ และได้รับการยอมรับในฐานะสมาชิกคนต่อมาในปี ค.ศ. 1982