ดมีตรี เฟโอโดโรวิช อุสตีนอฟเกิดในครอบครัวชนชั้นแรงงานในซามารา เมื่อความหิวโหยรุนแรงขึ้นในช่วงสงครามกลางเมือง พ่อที่กำลังป่วยของเขาจึงย้ายไปซามาร์คันด์ ทิ้งดมีตรีไว้ให้ทำหน้าที่หัวหน้าครอบครัว ไม่นานนักในปี พ.ศ. 2465 พ่อของเขาก็เสียชีวิต ในปี พ.ศ. 2466 เขาและแม่ของเขาย้ายไปยังเมืองมาคาเรฟ (ใกล้อีวาโนโว) ที่ซึ่งเขาทำงานเป็นผู้ดูแลเครื่องจักรในโรงงานกระดาษ หลังจากนั้นไม่นานในปี พ.ศ. 2468 แม่ของเขาเสียชีวิต

อุสตีนอฟเข้าร่วมพรรคคอมมิวนิสต์ในปี พ.ศ. 2470 ในปี พ.ศ. 2472 เขาเริ่มการฝึกอบรมที่คณะกลศาสตร์ในสถาบันเทคนิคโปลีในอีวาโนโว หลังจากนั้น อุสตีนอฟ ย้ายไปที่โรงเรียนเทคนิคอุดมศึกษาบาวแมนกรุงมอสโก จากนั้นในเดือนมีนาคมปี พ.ศ. 2475 เขาเข้า สถาบันวิศวกรรมเครื่องกลทหารในเลนินกราดจากที่เขาจบการศึกษาในปี พ.ศ. 2477 หลังจากนั้นเขาทำงานเป็นวิศวกรก่อสร้างในสถาบันวิจัยปืนใหญ่ทางทะเลเลนินกราด ในปี พ.ศ. 2480 เขาได้รับการย้ายไปที่โรงงานผลิตอาวุธหลังจากนั้นเขาก็กลายเป็นผู้อำนวยการของโรงงาน