หลังสงครามจบสิ้น ชูคอฟเป็นผู้บัญชาการทหารสูงสุดของเขตยึดครองโซเวียตในเยอรมนี และเป็นผู้ว่าการทหารที่นั่น ความที่เขาเป็นที่นิยมชมชอบจากคนหลายฝ่ายอย่างมาก จึงมองกันว่าเขามีแนวโน้มเป็นอันตรายอย่างมากกับระบอบเผด็จการสตาลิน ปี พ.ศ. 2489 เขาจึงถูกเก็บเข้ากรุ และโดนย้ายมาเป็นผู้บัญชาการเขตการทหารโอเดสซา ซึ่งห่างไกลจากเมืองหลวง และไม่ค่อยมีความสำคัญทางยุทธศาสตร์ หลังการตายของสตาลิน เขาก็กลับมาได้รับความนิยมอีกครั้ง โดยได้ขึ้นเป็นรัฐมนตรีช่วยว่าการกระทรวงกลาโหมในปี พ.ศ. 2496 และเป็นรัฐมนตรีกระทรวงนี้ในปี พ.ศ. 2498

มิถุนายน พ.ศ. 2500 ชูคอฟ ได้ขึ้นเป็นสมาชิกคณะกรรมาธิการกลาง สภาเปรสซิเดียม แต่ถูกนิกิต้า ครุสชอฟ ผู้นำสหภาพโซเวียตยุคนั้นปลดจากกระทรวงและคณะกรรมาธิการกลางเดือนตุลาคมปีเดียวกัน เพราะความขัดแย้งทางนโยบายด้านการทหารหลายเรื่อง

หลังครุชชอฟถูกโค่นล้มเดือนตุลาคม พ.ศ. 2507 เลโอนิด เบรซเนฟ ผู้นำประเทศคนใหม่ได้ฟื้นฟูความนิยมให้ชูคอฟอีกครั้ง แต่ไม่ฟื้นฟูอำนาจให้ชูคอฟกลับมาเป็นที่นิยมในโซเวียตจวบจนเสียชีวิตไปในปี พ.ศ. 2517 และศพของเขาถูกนำมาประกอบพิธีอย่างสมเกียรติ