เมื่อปี พ.ศ. 2443 นายร้อยตรีหม่อมเจ้าอลงกฎเสกสมรสกับหม่อมหลวงชุบ ธิดาของพันตรีหลวงครรชิตสรกรรม (หม่อมราชวงศ์ดัด สนิทวงศ์) กับสาตร สกุลเดิม ประกอบศร มีพระโอรส-ธิดาทั้งสิ้น 10 คน ดังนี้

• หม่อมราชวงศ์หญิงรัชนีพันธุ์ ศุขสวัสดิ์ (29 ตุลาคม พ.ศ. 2445 - 31 มกราคม พ.ศ. 2526)
• หม่อมราชวงศ์หญิงจันทร์กระจ่าง กฤดากร (6 เมษายน พ.ศ. 2449 - 22 มกราคม พ.ศ. 2534) สมรสกับพลตรี หม่อมกฤดากรราชเสนา (หม่อมราชวงศ์เทียมพันธุ์ กฤดากร) มีบุตร-ธิดา 5 คน
• หม่อมราชวงศ์หญิงสอางโสม โรจนบุรานนท์ (27 กุมภาพันธ์ พ.ศ. 2451 - 6 ตุลาคม พ.ศ. 2540) สมรสกับปุ๋ย โรจนบุรานนท์ มีบุตร-ธิดา 4 คน
• หม่อมราชวงศ์หญิงโฉมแข คมกฤส (9 พฤษภาคม พ.ศ. 2454 - 29 ตุลาคม พ.ศ. 2541) สมรสกับศาสตราจารย์เทียม คมกฤส มีบุตร-ธิดา 3 คน
• หม่อมราชวงศ์หญิงนิลตระการ วงษ์ตา (23 ธันวาคม พ.ศ. 2455 - 23 เมษายน พ.ศ. 2539) สมรสกับสุวัฒน์ วงษ์ตา มีบุตร-ธิดา 2 คน
• หม่อมราชวงศ์หญิงสังวาลพจน์ กฤดากร (7 มีนาคม พ.ศ. 2457) สมรสกับหม่อมราชวงศ์ทันพงศ์ กฤดากร
• หม่อมราชวงศ์หญิงรจนากร เหล่าวานิช (8 พฤษภาคม พ.ศ. 2458 - 14 กุมภาพันธ์ พ.ศ. 2549) สมรสกับประกอบ เหล่าวานิช มีบุตร-ธิดา 6 คน
• หม่อมราชวงศ์หญิงสุภรณ์รัศมี ศุขสวัสดิ์ (14 ตุลาคม พ.ศ. 2459 - พ.ศ. 2546)
• หม่อมราชวงศ์ชายปิโยรส ศุขสวัสดิ (21 กันยายน พ.ศ. 2464 - 28 เมษายน พ.ศ. 2549) สมรสกับสายสุรีวรรณ (สกุลเดิม สุวรรณานุช) มีบุตร 4 คน และสมรสกับฤดี (สกุลเดิม มุสิกสวัสดิ์)
• พันเอก หม่อมราชวงศ์ชายพชรดนัย ศุขสวัสดิ (18 สิงหาคม พ.ศ. 2467 - 3 มิถุนายน พ.ศ. 2549) สมรสกับนิยมลักษณ์ (สกุลเดิม เกษะโกมล) มีบุตร-ธิดา 2 คน