โน แท-อูเข้ารับราชการกองทัพเมื่อปี พ.ศ. 2498 และเจริญก้าวหน้าตามตำแหน่งในกองทัพอย่างต่อเนื่องและเขาได้รับการเลื่อนยศเป็นพลเอกในปี พ.ศ. 2522 นอกจากนั้นเขายังเป็นสมาชิกฮานาเฮว ซึ่งเป็นสมาคมลับของทหาร และเขายังเป็นผู้สนับสนุนในการรัฐประหารของ ช็อน ดู-ฮวัน อีกด้วย ซึ่งในปีนั้นชอนได้เป็นผู้นำทางพฤตินัยของประเทศเกาหลีใต้ โนเป็นทหารระดับนายพลซึ่งช่วยเหลือชอนในการนำกองกำลังทหารเข้าปราบปรามในเหตุการณ์ขบวนการเรียกร้องประชาธิปไตยในกวางจู