เริ่มแรก เจงกิส ข่านได้สร้างฐานการขนส่งสำหรับการพิชิตแดนตะวันตกขึ้นที่นี่ หลังจากนั้นโอเกเดย์ ข่าน ซึ่งเป็นข่านรุ่นที่สองก็ได้สร้างวังและกำแพงในปี 1235 และกำหนดให้เป็นเมืองหลวงของจักรวรรดิมองโกล

แม้หลังจากกุบไล ข่าน ซึ่งเป็นข่านองค์ที่ 5 ได้ย้ายเมืองหลวงไปยังเมืองต้าตู (大都, ปัจจุบันคือกรุงปักกิ่ง สาธารณรัฐประชาชนจีน) แล้ว เมืองนี้ก็ยังถือว่าเป็นเมืองฐานของแผ่นดินหลักของมองโกเลีย และยังได้กลายเป็นเมืองหลวงของราชวงศ์หยวนเหนือ หลังจากที่ชาวมองโกเลียถูกไล่ไปทางเหนือโดยจูหยวนจาง ผู้ก่อตั้งราชวงศ์หมิง

ในตอนท้ายของศตวรรษที่ 16 คาราคอรมถูกทิ้งร้างหลังจากการจัดหาวัสดุสำหรับการก่อสร้างวัดเอร์เดเนโซ วัดในพุทธศาสนาในทิเบต หลังจากนั้นก็ได้หายไปจากประวัติศาสตร์ชั่วขณะหนึ่ง แต่เมื่อปลายศตวรรษที่ 19 นีโคไล คีเซลอฟ (Николай Киселёв) นักวิจัยชาวรัสเซีย ได้ค้นพบซากปรักหักพังและการสำรวจการขุดครั้งแรกได้ดำเนินการร่วมกันระหว่างสหภาพโซเวียตกับสาธารณรัฐประชาชนมองโกเลีย ระหว่างปี 1948 ถึง 1949 ผู้นำคณะสำรวจยังไม่เชื่อว่าที่นี่มีวังอยู่ แต่หลังจากการสอบสวนเต็มรูปแบบซึ่งดำเนินการร่วมกับเซียร์เกย์ วลาดีมีโรวิช (Сергей Владимирович) นักโบราณคดีผู้เชี่ยวชาญ ก็ได้สรุปถึงการมีอยู่ของวัง[1] และในปีเดียวกันนั้นคีเซลอฟก็ได้รับรางวัลสตาลินจากความสำเร็จของเขา และได้เข้าเป็นสมาชิกของสถาบันวิทยาศาสตร์แห่งสหภาพโซเวียตในปี 1953 หลังจากนั้นสถาบันวิจัยประวัติศาสตร์วิทยาศาสตร์แห่งมองโกเลียได้ทำการสำรวจตั้งแต่ปี 1976 ถึง 1985 และหลังจากที่มองโกเลียได้เปลี่ยนเป็นระบอบประชาธิปไตยแล้วก็ยังได้ร่วมมือกับนักสำรวจจากญี่ปุ่นในปี 1995 และจากเยอรมนีในปี 1999 ด้วย[2]