การขยายอำนาจของอิสลามในบริเวณตะวันออกกลางจนในที่สุดก็สามารถขับอัศวินออกจากเยรูซาเลม หลังจากราชอาณาจักรเยรูซาเลมล่มในปี ค.ศ. 1291 (กรุงเยรูซาเลมเองล่มในปี ค.ศ. 1187) อัศวินก็ถูกจำกัดบริเวณอยู่แต่ในอาณาจักรเคานท์แห่งตริโปลี และเมื่อเอเคอร์ถูกยึดในปี ค.ศ. 1291 อัศวินก็ต้องไปหาที่ตั้งใหม่ในราชอาณาจักรไซปรัส หลังจากการเข้าไปพัวพันกับการเมืองในไซปรัส แกรนด์มาสเตอร์ กีโยม เดอ วิลลาเรต์ (Guillaume de Villaret) ก็วางแผนที่จะหาที่ดินที่เป็นของคณะเองโดยเลือกเกาะโรดส์เป็นที่ตั้งใหม่ ผู้นำคนต่อมา ฟุล์คส์ เดอ วิลลาเรต์ (Fulkes de Villaret) ทำตามแผนที่วางไว้และเมื่อวันที่ 15 สิงหาคมค.ศ. 1309 หลังจากต่อสู้กันอยู่สองปี เกาะโรดส์ก็ยอมแพ้ นอกจากโรดส์แล้ว อัศวินก็ยังยึดเกาะบริเวณใกล้เคียงกันอีกหลายเกาะ และเมืองท่าอานาโตเลียสองเมืองคือ โบดรัม (Bodrum) และคาสเตโลริโซ (Kastelorizo)

อัศวินเทมพลาร์ถูกยุบเลิกในปี ค.ศ. 1312 และทรัพย์สินและที่ดินส่วนใหญ่ถูกยกให้กับบริบาล (Hospitaller) ทรัพย์สินและที่ดินแบ่งออกเป็น 8 บริเวณทังก์ (Tongue) (อารากอน, โอแวร์ญ, คาสตีล, อังกฤษ, ฝรั่งเศส, เยอรมนี, อิตาลี และโปรวองซ์) แต่ละบริเวณก็ปกครองก็บริหารโดยไพรเออร์ (Prior) หรือถ้ามีมากกว่าหนึ่งไพรเออรีในบริเวณนั้นก็จะปกครองโดยแกรนด์ไพรเออร์ ที่โรดส์และมอลตาอัศวินที่ประจำอยู่ที่ทังก์แต่ละทังก์ก็นำโดย “Bailli” แกรนด์ไพรเออร์ของอังกฤษในขณะนั้นคือฟิลลิป เทม (Philip Thame) ผู้เป็นผู้หาที่ดินที่ตั้งของบริเวณทังก์ในอังกฤษระหว่างปี ค.ศ. 1330 ถึงปี ค.ศ. 1358

เมื่อตั้งถิ่นฐานอยู่บนเกาะโรดส์ อัศวินเซนต์จอห์นที่รู้จักกันในชื่อ “อัศวินแห่งโรดส์” ด้วย[4] ก็จำยอมต้องกลายเป็นนักรบเพิ่มขึ้นอีกโดยเฉพาะในการต่อสู้กับโจรสลัดบาร์บารี อัศวินแห่งโรดส์สามารถป้องกันการรุกรานในคริสต์ศตวรรษที่ 15 ได้สองครั้ง หนึ่งโดยสุลต่านแห่งอียิปต์ในปี ค.ศ. 1444 และอีกครั้งหนึ่งโดยสุลต่านเมห์เหม็ดที่ 2แห่งจักรวรรดิออตโตมันในปี ค.ศ. 1480 ผู้ที่หลังจากยึดยึดคอนสแตนติโนเปิลได้ในปี ค.ศ. 1453 แล้วก็ทรงหันมาตั้งเป้าที่จะทำลายอัศวินแห่งโรดส์

ในปี ค.ศ. 1494 อัศวินแห่งโรดส์ก็ไปตั้งที่มั่นที่แหลมฮาลิคาร์นัสซัส (ปัจจุบันโบดรัม) อัศวินใช้ส่วนที่ไม่ถูกทำลายของซากที่บรรจุศพแห่งมอสโซลอส (Mausoleum of Maussollos) (หนึ่งในเจ็ดสิ่งมหัศจรรย์ของโลกยุคโบราณ) ไปใช้ในการสร้างเสริมปราสาทโบดรัม[5][6]

ในปี ค.ศ. 1522 สุลต่านสุลัยมานแห่งจักรวรรดิออตโตมันก็ทรงนำกองทัพเรือ 400 ลำและทหารราบจำนวน 200,000 มารุกรานโรดส์[7] ทางฝ่ายอัศวินภายใต้การนำของแกรนด์มาสเตอร์ ฟิลลิป วิลลิเยร์ เดอ ลิสเซิล-อาดัน (Philippe Villiers de L'Isle-Adam) มีทหารด้วยกันทั้งหมด 7,000 คนและป้อม การล้อมโรดส์ใช้เวลาห้าเดือน ในที่สุดผู้ที่รอดจากการโจมตีก็ได้รับพระบรมราชานุญาตจากสุลต่านสุลัยมานให้ออกจากโรดส์ อัศวินแห่งโรดส์จึงถอยไปตั้งหลักที่ซิซิลี