ในสมัยจักรวรรดิกาโรแล็งฌีย็องและระหว่างยุคกลางตอนต้นดินแดนหลักที่ต่อมาเป็นอาร์ชดัชชีออสเตรียเรียกกันว่า "ภูมิภาคชายแดนโอเรียนทาลลิส" (Marchia orientalis) หรือ "ภูมิภาคชายแดนตะวันออก" ชาวเยอรมันเข้ามาตั้งถิ่นฐานแทนที่ประชากรสลาฟก่อนหน้านั้นระหว่างคริสต์ศตวรรษที่ 9 และ 10 และหลังจากยุทธการเล็คเฟลด์ (Battle of Lechfeld) ในปี ค.ศ. 955 บริเวณนี้ก็กลายมาเป็นอาณาจักรชายแดนของจักรวรรดิโรมันอันศักดิ์สิทธิ์และได้รับฐานะเป็นอาณาจักรมาร์กราฟราวปี ค.ศ. 960 ตั้งแต่ปี ค.ศ. 976 อาณาจักรก็ปกครองโดยตระกูลบาเบนแบร์ก และมาเรียกกันว่า "Ostarrîchi" หรือ "อาณาจักรตะวันออก" ที่ต่อมาเพี้ยนเป็น Österreich ในภาษาเยอรมันซึ่งเป็นชื่อประเทศออสเตรียปัจจุบัน