เจ้าชายเลโอพ็อลท์เสด็จพระราชสมภพในกรุงเวียนนา ทรงเป็นพระราชโอรสองค์ที่สาม ในปี 1753 ทรงหมั้นกับ เจ้าหญิง มาเรีย บีไทรซ์ เดสเต รัชทายาทแห่งดัชชีโมเดนาและเรจโจ แต่ก็ไม่เคยมีการอภิเษกเกิดขึ้น และเจ้าหญิงมาเรียก็ไปอภิเษกกับพระอนุชาของเจ้าชายเลโอพ็อลท์ คือ อาร์ชดยุกแฟร์ดินันด์ แทน

ภายหลังการสิ้นพระชนม์ของพระเชษฐาองค์รอง เจ้าชายชาลล์ โยเซฟ ในปี 1761 ทำให้พระองค์ต้องสืบบัลลังก์แกรนด์ดยุกแห่งตอสคานา ซึ่งเป็นตำแหน่งสำหรับโอรสองค์ที่สองแทนพระเชษฐา การได้เป็นรัชทายาทแห่งดัชชีตอสคานาได้เป็นเงื่อนไขที่ทำให้พระองค์ได้อภิเษกสมรสในวันที่ 5 สิงหาคม 1764 กับ อินฟันตา มาเรีย ลุยซา แห่งสเปน พระราชธิดาในพระเจ้าชาลล์ที่ 3 แห่งสเปน

เมื่อพระชนกนาถของพระองค์ จักรพรรดิฟรันซ์ที่ 1 เสด็จสวรรคตในเดือนสิงหาคม ปี 1765 พระองค์ก็ทรงครองบัลลังก์แกรนด์ดยุกแห่งตอสคานาต่อจากพระราชบิดา ในขณะที่พระเชษฐาของพระองค์ก็ขึ้นเป็นจักรพรรดิโรมันอันศักดิ์สิทธิ์ อย่างไรก็ตาม แกรนด์ดยุกเลโอพ็อลท์ทรงได้รับครามนิยมมากในฟลอเรนซ์ จากการที่ทรงก่อสร้างสิ่งก่อสร้างและโครงสร้างต่างๆมากมาย พระองค์ทรงชอบพอกับสตรีนางหนึ่งในฟลอเรนซ์ ผู้เป็นภริยาของเอิร์ลโควเปอร์ที่ 3 ซึ่งภายหลังเมื่อเรื่องชู้สาวแดงขึ้นมา จักรพรรดิโยเซฟที่ 2 ได้อวยยศให้เป็นการชดเชยแก่การกระทำผิดของพระอนุชา