สุมาเล่าจี๋เป็นชาวอำเภอเหมย์ (眉縣 เหมย์เซี่ยน) เมืองฝูเฟิง (扶風郡 ฝูเฟิงจฺวิ้น)[2] ซึ่งปัจจุบันคืออำเภอเหมย์ นครเป่าจี มณฑลฉ่านซี บรรพบุรุษของสุมาเล่าจี๋เป็นผู้มีชื่อเสียงและคุณธรรม อยู่ในตระกูลที่มั่งคั่งในมณฑลทางตะวันตก[3] บิดาของสุมาเล่าจี๋ถูกกุยกีสังหาร สุมาเล่าจี๋ในวัยเยาว์จึงกลายเป็นคนไร้บ้านและยากจน[4] เมื่อสุมาเล่าจี๋อายุ 17 ปี (ตามการนับอายุแบบเอเชียตะวันออก) ได้ย้ายไปอยู่ที่มณฑลยงจิ๋ว (雍州 ยงโจว) เพื่อศึกษาตำราโบราณ[5] ต่อมาสุมาเล่าจี๋ได้เข้ารับราชการในตำแหน่งเจ้าหน้าที่รายงาน (上計吏 ช่างจี้ลี่) ของที่ว่าการเมือง ภายหลังได้รับตำแหน่งเป็นผู้ช่วยข้าหลวงมณฑล (別駕 เปี๋ยเจี้ย)[6]