ในช่วงสงครามโลกครั้งที่สอง บุลกานิน มีบทบาทนำในรัฐบาลและกองทัพแดงแม้ว่าเขาจะไม่เคยเป็นผู้บัญชาการทหารสูงสุด เขาได้รับยศพันเอกและเป็นสมาชิกของคณะกรรมการกลาโหมของรัฐ เขาได้รับแต่งตั้งให้เป็นรองผู้บัญชาการกองกำลังป้องกันในปีพ.ศ. 2487 และทำหน้าที่เป็นตัวแทนหลักของสตาลินในหน่วยบัญชาการกองทัพแดง พ.ศ. 2490 ในเขากลายเป็นรัฐมนตรีว่าการกระทรวงกลาโหมและได้รับการเลื่อนยศเป็นจอมพล นอกจากนี้เขายังกลายเป็นสมาชิกคนหนึ่งของพรรคคอมมิวนิสต์ เขาเป็นรองนายกรัฐมนตรีของสหภาพโซเวียตภายใต้สตาลิน ในปี พ.ศ. 2490 ถึง พ.ศ. 2493 และในปี พ.ศ. 2491 เขากลายเป็นสมาชิกคนหนึ่งของกระทรวงการต่างประเทศ