กำแพงฮาดริอานุสสร้างขึ้นหลังจากที่จักรพรรดิฮาดริอานุส (ค.ศ. 76 - ค.ศ. 138) เสด็จมาบริเตนในปี ค.ศ. 122 จักรพรรดิฮาดริอานุสทรงประสบปัญหาทางการทหารในโรมันบริเตน และจากผู้ต่อต้านกลุ่มต่างๆ ทั่วจักรวรรดิที่รวมทั้งในอียิปต์, จูเดีย, ลิเบีย, มอเรทาเนีย และกลุ่มชนที่ทราจันจักรพรรดิโรมันองค์ก่อนหน้านั้นพิชิตมาได้ พระองค์จึงทรงต้องหาวิธีที่จะแสดงพระบรมราชนุภาพและเสริมสร้างความมั่นคงต่างๆ เพื่อจะเพิ่มความมั่นคงให้แก่จักรวรรดิ นอกจากกำแพงจะมีประโยชน์ในทางยุทธศาสตร์แล้วการสร้างโครงการขนาดใหญ่เช่นกำแพงฮาดริอานุสก็ยังเป็นสัญลักษณ์ของความเป็นมหาอำนาจของจักรวรรดิโรมัน ที่ไม่แต่จะในอาณานิคมบริเตนที่ยึดครองเท่านั้นแต่ยังรวมไปถึงกรุงโรมเองด้วย

เขตแดนในสมัยต้นๆ ของจักรวรรดิมักจะเป็นเขตแดนธรรมชาติเช่นแม่น้ำหรือภูเขา หรือการตั้งกองทหารไว้ป้องกัน ถนนที่ใช้ทางการทหารมักจะเป็นถนนที่ตัดเลียบพรมแดนที่มีป้อมและหอสัญญาณเป็นระยะๆ จนกระทั่งมาถึงสมัยของจักรพรรดิโดมิเชียนในปลายคริสต์ศตวรรษแรกเท่านั้นจึงได้มีการเริ่มสร้างเขตแดนแบบถาวรขึ้นในเจอร์มาเนียเหนือ (Germania Superior) ซึ่งเริ่มด้วยการสร้างเป็นรั้วธรรมดา ฮาดริอานุสปรับปรุงความคิดนี้โดยสร้างเป็นกำแพงระเนียด (palisade) ตลอดแนวโดยมีป้อมสนับสนุนเป็นระยะๆ แม้ว่าการสร้างกำแพงเช่นนั้นจะมิได้เป็นการป้องกันการรุกรานได้อย่างจริงจังเท่าใดนัก แต่ก็เป็นการปักหลักเขตแดนของบริเวณที่ปกครองโดยโรมันอย่างเป็นทางการ และใช้เป็นการควบคุมการเข้าออกด้วย

หลังจากการตัดสินใจก่อสร้างกำแพงแบ่งเขตแดนแบบถาวรแล้วฮาดริอานุสก็ลดจำนวนทหารประจำการในอาณาบริเวณของชนบริกานทีส (Brigantes) ผู้ที่ตั้งถิ่นฐานอยู่ระหว่างแม่น้ำไทน์และแม่น้ำฮัมเบอร์ และหันไปมุ่งมั่นกับการสร้างแนวป้องกันทางด้านเหนือของบริเวณนั้นให้มั่นคงแทนถนนสเตนเกท (Stanegate) เดิม ที่เชื่อกันว่าเป็นถนนที่ใช้เป็นเส้นแบ่งเขตแดนโรมันมาจนกระทั่งบัดนั้น