ราชวงศ์การอแล็งเฌียงสิ้นสุดไปในอาณาจักรแฟรงก์ตะวันออก ผู้นำดัชชีแว่นแคว้นทั้งสี่ (แซกโซนี บาวาเรีย ฟรังโคเนีย สวาเบีย) จึงเลือกดยุกเฮนรีแห่งแซกโซนีเป็นกษัตริย์แห่งเยอรมนี (King of Germany) ใน ค.ศ. 955 ชาวแมกยาร์ (Magyars) หรือชาวฮังการี เป็นชนเผ่าเร่ร่อนจากเอเชีย บุกมาถึงเยอรมนี เข้าเผาทำลายปล้มสะดมหมู่บ้าน สร้างความเดือดร้อน แต่จักรพรรดิออตโตก็ทรงขับไล่พวกแมกยาร์ได้ในการรบที่เลคฟิล์ด (Lechfield) ตามการสนับสนุนของพระสันตะปาปา พระโอรสคือ พระเจ้าออตโต เข้าช่วยเหลือพระสันตะปาปาจากการยึดครองของกษัตริย์แห่งอิตาลี (อาณาจักรแฟรงก์กลาง) พระเจ้าออตโตนำทัพเข้าปราบยึดอิตาลี และได้รับการสวมมงกุฎจากพระสันตะปาปาเป็นจักรพรรดิออตโตที่ 1 (Otto I) ใน ค.ศ. 962 เป็นจักรพรรดิองค์แรกแห่งจักรวรรดิโรมันอันศักดิ์สิทธิ์

ใน ค.ศ. 1033 ราชอาณาจักรเบอร์กันดีในฝรั่งเศสถูกผนวกเข้ากับจักรวรรดิโรมันอันศักดิ์สิทธิ์ ทำให้จักรวรรดิโรมันอันศักดิ์สิทธิ์มีอาณาเขตไพศาลทั่วยุโรปกลาง และยังแผ่ขยายไปทางตะวันออกปราบปรามชาวสลาฟต่าง ๆ ได้แก่ พวกเวนด์ (Wends) พวกโอโบเดอไรต์ (Oboderites) และพวกโปล (Poles) กลายเป็นแคว้นเม็คเคลนเบิร์ก (Mecklenburg) แคว้นโปเมอราเนีย (Pomerania) และแคว้นบรานเดนบวร์ก (Brandenburg) กษัตริย์แห่งโบฮีเมีย (Bohemia - Czech) ก็เข้าสวามิภักดิ์ ทำให้จักรวรรดิโรมันอันศักดิ์สิทธิ์แผ่ขยายอิทธิพลทั้งทางการเมืองและภาษาวัฒนธรรมไปยังดินแดนของชาวสลาฟทางตะวันออก เรียกว่า Ostsiedlung

จักรพรรดิเฮนรีที่ 4 ทรงต้องการจะรวบอำนาจในองค์การศาสนา เช่น การแต่งตั้งบิชอปต่าง ๆ มาอยู๋ที่พระองค์ แต่พระสันตะปาปาเกรกอรีที่ 8 ทรงไม่ยินยอมจึงเกิดข้อขัดแย้งในอำนาจการแต่งตั้งสงฆ์ (Investiture Controversy) พระสันตะปาปาทรงบัพพาชนียกรรม (ขับจากศาสนา) จักรพรรดิเฮนรีใน ค.ศ. 1072 ซึ่งเป็นโทษทีร้ายแรงยิ่งกว่าตายสำหรับคนสมัยนั้น และปลดจักรพรรดิเฮนรีจากตำแหน่ง ทำให้บรรดาขุนนางก่อกบฏแย่งอำนาจจากพระเจ้าเฮนรีและแยกตัว ทำให้พระเจ้าเฮนรียอมจำนน ใน ค.ศ. 1077 ทรงรอพระสันตะปาปาเท้าเปล่ากลางพายุหิมะที่คาโนสซา (Canossa) เพื่อขอขมาพระสันตะปาปา เป็นชัยชนะของฝ่ายศาสนาต่อฝ่ายโลก ให้อำนาจของจักรวรรดิโรมันอันศักดิ์สิทธิ์เสื่อมลงแต่บัดนั้น จนใน ค.ศ. 1122 ทั้งสองฝ่ายจึงสงบศึกในโองการพระสันตะปาปาแห่งเมืองวอร์ม (Concordat of Worms)

ราชวงศ์โฮเฮนชเตาเฟิน ( ค.ศ. 1138 ถึง ค.ศ. 1254)

จักรพรรดิเฟรเดอริคที่ 1 แห่งราชวงศ์โฮเฮนชเตาเฟิน (Hohenstaufen) ทรงพยายามจะหยุดยั้งสงครามระหว่างพวกขุนนางในเยอรมนี โดยทรงแต่งตั้งดยุกเฮนรีแห่งแซกโซนี (Henry the Lion, Duke of Saxony) จากตระกูลเวล์ฟ (Welf) เป็นดยุกแห่งบาวาเรีย โดยเจ้าครองแคว้นเดิม คือมาร์เกรฟแห่งออสเตรีย (Margrave of Austria) ได้เลื่อนขั้นเป็นดยุก จักรพรรดิฟรีดริชทรงบุกอิตาลีเพื่อปราบกบฏและทำสงครามกับพระสันตะปาปาแต่อิตาลีรวมตัวเป็นสันนิบาตลอมบาร์ด (Lombard League) ต่อต้านพระจักรพรรดิและสนับสนุนพระสันตะปาปา จักรพรรดิฟรีดริชทรงกริ้วและปลดดยุกเฮนรีที่ไม่ช่วยเหลือพระองค์ ยกบาวาเรียให้ตระกูลวิตเตลสบาค (Wittlesbach) และแตกแคว้นแซกโซนีแบ่งเป็นหลายส่วน

จักรพรรดิฟรีดริชที่ 2 ทรงพยายามจะยึดอิตาลีอีกครั้ง โดยฝ่ายของพระองค์ เรียกว่าพวกกิบเบลลีน (Ghibelline) ต่อสู้กับพวกเกล์ฟ (Guelph) หรือตระกูลเวล์ฟที่ไปเข้าข้างพระสันตะปาปา จักรพรรดิเฟรเดอริคทรงต้องการจะพ้นจากความวุ่นวายใขเยอรมนี จึงทรงมอบอำนาจให้เจ้าครองแคว้นต่าง ๆ ทำให้เจ้าครองแคว้นในเยอรมนีแยกตัวออกไปแตกกระจัดกระจายในสมัยพระเจ้าเฟรเดอริคที่ 2 พระสันตะปาปาทรงเอาชนะจักรพรรดิได้

ใน ค.ศ. 1226 จักรพรรดิฟรีดริชโปรดให้อัศวินทิวทัน (Teutonic Knights) ไปพิชิตชาวบอลติก (Balts) ที่ยังไม่เข้ารีตคริสต์ศาสนาทางเหนือในสงครามครูเสดตอนเหนือ (Northern Crusades) ทำสงครามอย่างโหดเหี้ยมกับชาวพื้นเมือง ทำให้อิทธิพลของเยอรมันและคริสต์ศาสนาเข้าสู่บริเวณบอลติก

จักรพรรดิเฟรเดอริคสิ้นพระชนม์ ทำให้ราชวงศ์โฮเฮนชเตาเฟินล่มสลาย จนกลายเป็นสมัยไร้จักรพรรดิ (Interregnum)

เมื่อไม่มีผู้นำดยุกรูดอล์ฟแห่งออสเตรีย (Rudolf of Habsburg) จากตระกูลฮับส์บูร์กจึงได้รับเลือกเป็นกษัตริย์แห่งเยอรมนีใน ค.ศ. 1273 แต่ไม่ได้สวมมงกุฎเป็นจักรพรรดิ บรรดาเจ้าครองแคว้นต่าง ๆ ก็อาศัยโอกาสตั้งตนเป็นอิสระกันหมด ทำให้พระเจ้ารูดอล์ฟทรงมีอำนาจเฉพาะในแคว้นออสเตรียเท่านั้น ตระกูลสามตระกูล คือ ฮับส์บูร์ก ตระกูลลักเซมเบิร์ก (Luxembourg) และ ตระกูลวิตเตลสบาค (Wittelsbach) ผลัดกันเป็นกษัตริย์แห่งเยอรมนีใน ค.ศ. 1312 พระเจ้าเฮนรีแห่งโบฮีเมีย ตระกูลลักเซมเบิร์กสวมมงกุฎเป็นจักรพรรดิ ทำให้มีจักรพรรดิโรมันอันศักดิ์สิทธิ์อีกครั้ง แต่นับแต่นั้นมาจักรพรรดิทุกพระองค์มีอำนาจเฉพาะในแคว้นของตนเท่านั้น เยอรมนีจึงแตกเป็นแคว้นเล็กแคว้นน้อย และรวมกันไม่ได้อีกเลยไปอีก 600 ปี

ราชวงศ์ลักเซมเบิร์กปกครองจักรวรรดิโรมันอันศักดิ์สิทธิ์แต่มีอำนาจเฉพาะในแคว้นโบฮีเมียเท่านั้น แม้จักรพรรดิหลายพระองค์จะทรงพยายามกู้พระราชอำนาจคืนแต่ก็ไม่สำเร็จ ใน ค.ศ. 1350 กาฬโรคก็ระบาดมายังเยอรมนี คร่าชีวิตผู้คนไปหลายล้าน ใน ค.ศ. 1356 ออกพระราชโองการสารตราทอง (Golden Bull) ปรับปรุงระบบการปกครองจักรวรรดิโรมันอันศักดิ์สิทธิ์ใหม่ โดยการแต่งตั้งเจ้านครรัฐผู้คัดเลือกเจ็ดองค์ เป็นบรรพชิตสามองค์และเป็นขุนนางสี่คนที่รวมทั้ง

1. อาร์ชบิชอปแห่งโคโลญ (Archbishop of Cologne, เยอรมัน: Erzbischof von Köln)
2. อาร์ชบิชอปแห่งไมนทซ์ (Archbishop of Mainz, เยอรมัน: Erzbischof von Mainz)
3. อาร์ชบิชอปแห่งเทรียร์ (Archbishop of Trier, เยอรมัน: Erzbischof von Trier)
4. กษัตริย์แห่งโบฮีเมีย (King of Bohemia, เยอรมัน: König von Böhmen)
5. มาร์เกรฟแห่งบรันเดินบวร์ค (Margrave of Brandenburg, เยอรมัน: Markgraf von Brandenburg)
6. เคานต์พาลาทิเนตแห่งไรน์ (Count Palatinate of the Rhine, เยอรมัน: Plazgraf bei Rhein)
7. ดยุกแห่งแซกโซนี (Duke of Saxony, เยอรมัน: Herzog von Sachsen) เลื่อนขั้นมาจาก ซักแซน-วิทเทนเบิร์ก (Sachsen-Wittenberg)

ใน ค.ศ. 1414 พระเจ้าซิกิสมุนด์แห่งฮังการี (Sigismund) ทรงได้เป็นกษัตริย์แห่งเยอรมนี ในแคว้นโบฮีเมียเกิดลัทธินอกรีตของ ยัน ฮุส (Jan Hus) ยัน ฮุส ถูกเผาทั้งเป็นใน ค.ศ. 1415 ใน ค.ศ. 1417 ทรงแต่งตั้งให้ตระกูลโฮเฮนโซเลิร์น (Hohenzollern) เป็นมาร์กราฟแห่งบรันเดินบวร์ค ใน ค.ศ. 1419 พระเจ้าซิกิสมุนด์ได้เป็นกษัตริย์แห่งโบฮีเมีย แต่ชาวโบฮีเมียไม่ยอมรับ เพราะทรงสังหารยัน ฮุส ก่อกบฏลุกฮือต่อต้าน พระเจ้าซิกิสมุนด์ทรงนำทัพเข้าปราบเรียกว่าสงครามฮุสไซต์ (Hussite War) ซึ่งพระเจ้าซิจิสมุนด์ก็ทรงไม่สามารถจะยึดแคว้นโบฮีเมียได้

ใน ค.ศ. 1437 ฟรีดริช ดยุกแห่งออสเตรีย พระชามาดาในพระเจ้าซิกิสมุนด์ ขึ้นเป็นจักรพรรดิฟรีดริชที่ 3 ทำให้ราชวงศ์ฮับส์บูร์กปกครองจักรวรรดิโรมันอันศักดิ์สิทธิ์ไปอีก 400 ปี

จักรพรรดิมักซีมีเลียนที่ 1ทรงอภิเษกกับแมรีแห่งเบอร์กันดี (Mary of Burgundy) ทำให้ทรงได้รับแคว้นเบอร์กันดีและกลุ่มประเทศแผ่นดินต่ำ (Low Countries) มาครอง ทรงมอบแคว้นเบอร์กันดีให้พระโอรสคือพระเจ้าเฟลีเปที่ 1 แห่งคาสตีล (Philip the Handsome) ใน ค.ศ. 1495 ทรงออกจักรวรรดิปฏิรูป (Reichsreform) แบ่งรัฐต่างในจักรวรรดิเป็นกลุ่ม (Reichskreise) และตั้งศาลสูงสุดในจักรวรรดิ (Reichskammergeritch) การปฏิรูปของจักรพรรดิมักซีมีเลียนจะส่งผลต่อการปกครองของจักรวรรดิโรมันอันศักดิ์สิทธิ์ไปจนล่มสลาย