นายประสิทธิ์ จุลละเกศ เกิดเมื่อวันที่ 5 เมษายน พ.ศ. 2457 ณ บ้านตำบลวชิระ อำเภอดุสิต จังหวัดพระนคร เป็นบุตรคนสุดท้องของพระยาอภัยโภคารักษ์ (ชื่น จุลละเกศ) มารดาชื่อ ลำพู จุลละเกศ (สกุลเดิม พิศาลบุตร) ซึ่งเป็นธิดาคนโตของเจ้าสัวกิม พิศาลบุตร กับนางตึก พิศาลบุตร และหลานปู่ของพระยาพิศาลศุภผล (ชื่น พิศาลบุตร) สำเร็จการศึกษาระดับชั้นมัธยมศึกษาปีที่ 8 จากโรงเรียนสวนกุหลาบวิทยาลัย จากนั้นได้เข้าศึกษาวิชากฎหมายที่โรงเรียนกฎหมายกระทรวงยุติธรรมซึ่งต่อมาได้โอนไปเป็นคณะนิติศาสตร์และรัฐศาสตร์ จุฬาลงกรณ์มหาวิทยาลัย จนสอบไล่ได้เป็น เนติบัณฑิต ในปี พ.ศ. 2476

นายประสิทธิ์ จุลละเกศ ถึงแก่อนิจกรรมเมื่อวันที่ 14 ธันวาคม พ.ศ. 2524 และได้รับพระราชทานเพลิงศพ ณ เมรุวัดมกุฏกษัตริยาราม เมื่อวันที่ 24 มีนาคม พ.ศ. 2525