นายอภิรักษ์ โกษะโยธิน เกิดวันที่ 30 มีนาคม พ.ศ. 2504[2] ที่ อำเภอปากเกร็ด จังหวัดนนทบุรี จึงทำให้เป็นผู้ว่าราชการกรุงเทพมหานครคนแรกในประวัติศาสตร์ที่เกิดในยุคกึ่งพุทธกาล (พ.ศ. 2500) นายอภิรักษ์มีชื่อเล่นว่า "ต้อม" เป็นบุตรคนโตของ นายบุญลักษณ์ โกษะโยธิน และ นางอมรา โกษะโยธิน (สกุลเดิม จามรมาน) มีน้องสาว 1 คนคือ อภิสรา โกษะโยธิน (ทำงานที่ ธนาคารนครหลวงไทย)

• นายอภิรักษ์เริ่มเข้าเรียนครั้งแรก ที่โรงเรียนอนุบาลนนทบุรี
• มัธยมศึกษาตอนต้น : โรงเรียนวัดเขมาภิรตาราม
• มัธยมศึกษาตอนปลาย : โรงเรียนเตรียมอุดมศึกษา
• ปริญญาตรี : วิทยาศาสตร์บัณฑิต (วิทยาศาสตร์และเทคโนโลยีการอาหาร) มหาวิทยาลัยเชียงใหม่ พ.ศ. 2526 (รุ่นเดียวกับ นายยงยุทธ ติยะไพรัช)
• ปริญญาโท : สถาบันบัณฑิตพัฒนบริหารศาสตร์ หรือ นิด้า (การจัดการการตลาด)
• ประกาศนียบัตรชั้นสูงทางการบริหาร (AMP - General Management) มหาวิทยาลัยฮาร์วาร์ด ประเทศสหรัฐอเมริกา
• ปริญญาศิลปศาสตรดุษฎีบัณฑิตกิตติมศักดิ์ ด้านรัฐประศาสนศาสตร์ สาขาการพัฒนาการปกครอง มหาวิทยาลัยเกษมบัณฑิต

นายอภิรักษ์ สมรสกับ นางปฏิมา โกษะโยธิน (สกุลเดิม พงศ์พฤกษทล) มีบุตรชายด้วยกัน 1 คน คือ อนรรฆ โกษะโยธิน (พี)

นายอภิรักษ์มีฉายาจากสื่อมวลชนว่า "หล่อเล็ก" คู่กับ นายอภิสิทธิ์ เวชชาชีวะ หัวหน้าพรรคประชาธิปัตย์ ที่มีฉายาว่า "หล่อใหญ่" และต่อมามีนักการเมืองพรรคเดียวกันได้รับฉายาทำนองนี้อีกเช่น นายกรณ์ จาติกวณิช รองเลขาธิการพรรคที่ได้รับฉายา "หล่อโย่ง" และ ม.ล.อภิมงคล โสณกุล รองโฆษกพรรคที่มีฉายาว่า "หล่อจิ๋ว"