พระองค์ทรงอภิเษกกับแมรีแห่งเบอร์กันดีผู้ซึ่งเป็นรัชทายาทแห่งบัลลังก์เบอร์กันดีขณะที่มีพระชนมายุได้ 18 พรรษาทำให้ราชวงศ์ฮาพส์บวร์คมีสิทธิที่จะปกครองเบอร์กัดีเป็นหนึ่งในกุศโลบายอันแยบยลของพระองค์ที่จะขยายอำนาจและอาณาเขตการปกครองของราชวงศ์ หลังจากอภิเษกทั้งสองพระองค์มีพระโอรส-ธิดาเพียง 2 พระองค์ได้แก่ พระเจ้าเฟลิเปที่ 1 แห่งคาสตีลและอาร์ชดัชเชสมาร์กาเร็ตแห่งออสเตรีย ก่อนที่พระนางแมรี่จะสิ้นพระชนม์ขณะที่มีพระชนมายุเพียง 25 พรรษา พระองค์ทรงให้พระโอรสเฟลิเปอภิเษกกับเจ้าหญิงโจแอนนาแห่งคาสทิลพระราชธิดาในพระเจ้าเฟร์นันโดที่ 2 แห่งอารากอนและสมเด็จพระราชินีอิซาเบลลาที่ 1 แห่งคาสตีล หรือสมเด็จพระราชินีนาถโจแอนนาแห่งคาสตีลในอนาคตทำให้ราชวงศ์ฮาพส์บวร์คได้อาณาเขตในสเปนเพิ่มโดยหลังจากนั้นหนึ่งในพระโอรสของเฟลิเปกับโจแอนนาได้ครองราชย์เป็นจักรพรรดิคาร์ลที่ 5 แห่งโรมันอันศักดิ์สิทธิ์กษัตริย์และจักรพรรดิที่ทรงอำนาจที่สุดในยุโรปในเวลาต่อมา