ตุนกู อับดุล ระฮ์มัน ได้สมรสรวมทั้งหมด 4 ครั้ง ได้แก่

1. ครั้งแรกในปี พ.ศ. 2476 กับสตรีชาวไทยเชื้อสายจีนชื่อ ท่านผู้หญิงมาเรียม จง หรือมาเรียม อับดุลละห์ (Meriam Chong หรือ Meriam Abdullah) มีบุตร 2 คนคือ ตุนกู คาดีจะฮ์ (Tunku Khadijah) และตุนกู อะฮ์มัด เนอรัง (Tunku Ahmad Nerang) และภรรยาคนแรกมาเรียม จง ได้เสียชีวิตลงในปี พ.ศ. 2478
2. ครั้งที่สอง แต่งงานใหม่ที่อังกฤษกับสตรีชาวอังกฤษที่ชื่อว่า ไวโอเลต คอลสัน (Violet Coulson) แต่ได้หย่าร้างกันในปี พ.ศ. 2489
3. ครั้งที่สามในปี พ.ศ. 2482 กับชารีฟะฮ์ โรเซียะฮ์ บินตี ไซยิด อัลวี บารักบะฮ์ (Sharifah Rodziah binti Syed Alwi Barakbah) ที่ต่อมากลายเป็นสุภาพสตรีหมายเลขหนึ่งของมาเลเซียในเวลาต่อมาที่ท่านดำรงตำแหน่งนายกรัฐมนตรี มีบุตรธิดา 4 ท่าน คือ ซูไลมัน (Sulaiman), มาเรียม (Mariam), ชารีฟะฮ์ ฮานีซะฮ์ (Sharifah Hanizah) และฟารีดะฮ์ (Faridah)
4. ครั้งที่สี่ กับสตรีเชื้อสายจีน ชื่อบีบี จง (Bibi Chong) มีบุตร 2 คน คือ ตุนกู นูร์ ฮายาตี (Tunku Noor Hayati) และตุนกู มัซตูรา (Tunku Mastura)[ต้องการอ้างอิง]

อับดุล ระฮ์มัน ถึงแก่อสัญกรรม เมื่อวันที่ 6 ธันวาคม พ.ศ. 2533 ที่กัวลาลัมเปอร์ สิริอายุ 87 ปี ศพถูกฝังที่ the Langgar Royal Mausoleum ในเมืองอาโลร์เซอตาร์ รัฐเกอดะฮ์