กรมพระราชวังบวรสถานพิมุข มีพระนามเดิมว่าทองอิน เป็นพระโอรสในสมเด็จพระเจ้าพี่นางเธอ เจ้าฟ้ากรมพระเทพสุดาวดี และพระอินทรรักษา (เสม) ประสูติเมื่อวันจันทร์ ขึ้น 7 ค่ำ เดือน 5 ตรงกับวันที่ 28 มีนาคม พ.ศ. 2289[2] มีพระอนุชาและพระขนิษฐา คือ

1. สมเด็จพระสัมพันธวงศ์เธอ เจ้าฟ้ากรมหลวงธิเบศรบดินทร์
2. สมเด็จพระสัมพันธวงศ์เธอ เจ้าฟ้ากรมหลวงนรินทร์รณเรศ
3. สมเด็จพระสัมพันธวงศ์เธอ เจ้าฟ้าทองคำ

นอกจากนี้ พระองค์ยังมีพระอนุชาต่างมารดาชื่อ พระองค์เจ้าขุนเณร ผู้เป็นนักรบคู่พระทัยของพระองค์ในการทำศึกตลอดมา พระองค์ผนวช 2 ครั้ง ครั้งแรกในสมัยกรุงศรีอยุธยา และผนวชอีกครั้งเมื่อ พ.ศ. 2335 ที่วัดพระศรีรัตนศาสดาราม

พระองค์ทรงเริ่มรับราชการในรัชสมัยสมเด็จพระเจ้ากรุงธนบุรี เป็นที่หลวงฤทธิ์นายเวร จนกระทั่ง พ.ศ. 2323 ได้เลื่อนเป็นพระยาสุริยอภัย ผู้สำเร็จราชการเมืองนครราชสีมา เป็นกำลังสำคัญในการปราบปรามจลาจลในช่วงปลายรัชกาล เมื่อพระบาทสมเด็จพระพุทธยอดฟ้าจุฬาโลกมหาราชทรงสถาปนาราชวงศ์จักรีในปี พ.ศ. 2325 โปรดให้สถาปนาพระองค์เป็นสมเด็จพระเจ้าหลานเธอ เจ้าฟ้ากรมหลวงอนุรักษ์เทเวศร์ พระราชทานเครื่องสูง 3 ชั้น คันประดับมุก และเรือดั้งแห่คู่ 1 เป็นเครื่องประดับพระเกียรติยศโดยความชอบยิ่งกว่าพระราชภาคิไนยพระองค์อื่น ตั้งวังอยู่ที่สวนลิ้นจี่ ในเมืองเดิมฟากตะวันตกริมคลองบางกอกน้อย[3]

หลังเสร็จสงครามเก้าทัพแล้ว ทรงได้รับเลื่อนขึ้นเป็นกรมพระอนุรักษ์เทเวศร์ ดำรงพระเกียรติยศในที่กรมพระราชวังบวรสถานภิมุข รับพระบัญชาตามแบบกรมพระราชวังหลังแต่ก่อนมา[4]