เมื่อเจ้าชายคาโรลได้ดำรงเป็นองค์อธิปัตย์แห่งโรมาเนีย โดยพระองค์มิได้ทรงอภิเษกสมรสและตามรัฐธรรมนูญโรมาเนียได้ยินยอมที่จะให้พระองค์มีสิทธิไม่อภิเษกสมรสได้ ถ้าอภิเษกสมรสจะต้องไม่อภิเษกกับสตรีที่มีกำเนิดเป็นชาวโรมาเนีย ในปีพ.ศ. 2412 องค์อธิปัตย์ได้เสด็จเยือนประเทศต่างๆในยุโรปแต่โดยหลักคือที่เยอรมนีเพื่อค้นหาสตรีเพื่ออภิเษกสมรส ในระหว่างการเดินทางทรงพบกับ เจ้าหญิงเอลิซาเบธแห่งวีด พระราชธิดาพระองค์โตในเฮอร์มานน์ องค์อธิปัตย์แห่งวีดกับเจ้าหญิงมารีแห่งนัสเซา โดยทรงพบกันที่เมืองเนาวีดในวันที่ 15 พฤศจิกายน พ.ศ. 2412 การอภิเษกสมรสครั้งนี้เป็นหนึ่งในการอภิเษกสมรสที่ไม่เหมาะสมที่สุดในประวัติศาสตร์ ด้วยที่เจ้าชายคาโรลมีพระบุคลิกที่สุขุม เยือกเย็นและรอบคอบ ในขณะที่เจ้าหญิงเอลิซาเบธมีพระบุคลิกช่างฝันและทรงแสดงออกอย่างเปิดเผย ทั้งสองพระองค์มีพระราชธิดาร่วมกันหนึ่งพระองค์คือ เจ้าหญิงมาเรียแห่งโรมาเนีย ซึ่งประสูติในปีพ.ศ. 2414 และเจ้าหญิงทรงเป็นผู้มีสิทธิในการสืบราชบัลลังก์โรมาเนียต่อจากพระราชบิดา แต่เจ้าหญิงมาเรียสิ้นพระชนม์ในวันที่ 24 มีนาคม พ.ศ. 2417 ขณะมีพระชนมายุเพียง 3 ชันษา ส่งผลให้ทั้งสองพระองค์ทรงห่างเหินกันมากขึ้น เจ้าหญิงเอลิซาเบธเสียพระทัยอย่างหนักในการสูญเสียพระราชธิดาทรงผลให้เกิดแผลในจิตใจตลอดพระชนม์ชีพ

หลังจากที่โรมาเนียได้ประกาศสถาปนาเป็นราชอาณาจักรในปีพ.ศ. 2424 ส่งผลให้การมีรัชทายาทสืบราชบัลลังก์สำคัญอย่างมาก นับตั้งแต่พระเชษฐาของพระองค์คือ เจ้าชายลีโอโปลด์แห่งโฮเฮนโซลเลิร์น เจ้าชายลีโอโปลด์ทรงสละสิทธิ์ในราชบัลลังก์แก่พระโอรสองค์โปรดคือ เจ้าชายวิลเฮล์มแห่งโฮเฮนโซลเลิร์นและเจ้าชายวิลเฮล์มทรงสละสิทธิ์ในราชบัลลังก์ให้แก่พระอนุชาคือ เจ้าชายเฟอร์ดินานด์ เจ้าชายเฟอร์ดินานด์ทรงได้รับพระอิศริยยศเป็นเจ้าชายแห่งโรมาเนียและเป็นรัชทายาทสืบพระราชบัลลังก์ต่อไป พระราชินีเอลิซาเบธทรงพยายามใช้อิทธิพลของพระองค์ในการให้เจ้าชายอภิเษกสมรสกับอีลีนา วาคาเรสคูนางสนองพระโอษฐ์ของพระนางเอง ตามรัฐธรรมนูญโรมาเนียได้ห้ามองค์รัชทายาทอภิเษกสมรสกับชาวโรมาเนีย จากเรื่องอื้อฉาวครั้งนี้ส่งผลให้พระนางเอลิซาเบธต้องเสด็จลี้ภัยไปยังเนาวีด จนกระทั่งเจ้าชายเฟอร์ดินานด์อภิเษกสมรสกับเจ้าหญิงมารีแห่งเอดินบะระ พระนางจึงได้รับอนุญาตให้เสด็จกลับโรมาเนีย

ในช่วงบั้นปลายพระชนม์ชีพ พระราชาธิบดีคาโรลและพระราชินีเอลิซาเบธได้พยายามปรับความสัมพันธ์กันโดยทรงเข้าพระทัยซึ่งกันและกันและเป็นมิตรที่ดีต่อกัน