พลเอกชาติชาย มีส่วนร่วมในการรัฐประหารในปี พ.ศ. 2490 โดยเป็นหนึ่งในกำลังทหารที่บุกไปที่ทำเนียบท่าช้าง เพื่อทำการควบคุมตัว นายปรีดี พนมยงค์ นายกรัฐมนตรี โดยขณะนั้นมีอายุ 27 ปี [6] และการรัฐประหารในปี พ.ศ. 2494 ตามบิดา คือ จอมพลผิน ชุณหะวัณ ผู้เป็นหัวหน้าในการรัฐประหารทั้งสองครั้งนี้ โดยขณะมียศเพียงแค่ร้อยเอกเท่านั้น หลังจากนั้นเริ่มบทบาททางการเมืองอย่างแท้จริงในรัฐบาล จอมพลถนอม กิตติขจร ด้วยตำแหน่ง รัฐมนตรีช่วยว่าการกระทรวงการต่างประเทศ ต่อมาในปี พ.ศ. 2518 พลเอกชาติชาย ได้ลงสมัครรับเลือกตั้งได้เป็นสมาชิกสภาผู้แทนราษฎร จังหวัดนครราชสีมา และได้รับเลือกตั้งต่อเนื่องกันมาอีกรวม 5 สมัย พลเอกชาติชาย และได้เข้าร่วมในคณะรัฐมนตรีอีกหลายสมัย ในตำแหน่งรัฐมนตรีว่าการกระทรวงการต่างประเทศ รัฐมนตรีว่าการกระทรวงอุตสาหกรรม และรองนายกรัฐมนตรี

• โดยได้ดำรงตำแหน่งทางการเมืองตามลำดับดังนี้
  • พ.ศ. 2515 รัฐมนตรีช่วยว่าการกระทรวงการต่างประเทศ
  • พ.ศ. 2517 รัฐมนตรีช่วยว่าการกระทรวงการต่างประเทศ[13]
  • พ.ศ. 2518 รัฐมนตรีว่าการกระทรวงการต่างประเทศ[14]
  • พ.ศ. 2518 ได้รับเลือกตั้งเป็นสมาชิกสภาผู้แทนราษฎร จังหวัดนครราชสีมา รวม 5 สมัย
  • พ.ศ. 2519 ได้รับแต่งตั้งเป็นรัฐมนตรีว่าการกระทรวงอุตสาหกรรม ในรัฐบาลหม่อมราชวงศ์เสนีย์ ปราโมช[15] จนกระทั่งพ้นจากตำแหน่งเนื่องจากนายกรัฐมนตรีลาออก และได้รับแต่งตั้งเป็นรัฐมนตรีว่าการกระทรวงอุตสาหกรรม[16] อีกสมัยหนึ่ง แต่ดำรงตำแหน่งเพียง 12 วัน และได้เข้าเฝ้าถวายสัตย์ปฏิญาณเพียงวันเดียวก็ต้องพ้นจากตำแหน่ง เนื่องจากการรัฐประหารของพลเรือเอก สงัด ชลออยู่
  • พ.ศ. 2523 รัฐมนตรีว่าการกระทรวงอุตสาหกรรม[17]
  • พ.ศ. 2529 รองนายกรัฐมนตรี

ในปี พ.ศ. 2517 พลเอกชาติชาย ได้ร่วมกับ พลตรีประมาณ อดิเรกสาร ผู้มีศักดิ์เป็นพี่เขย และ พลตรีศิริ สิริโยธิน ก่อตั้ง พรรคชาติไทย ขึ้น โดยมี พลตรีประมาณ อดิเรกสาร เป็นหัวหน้าพรรค และต่อมาในปี พ.ศ. 2529 พลเอกชาติชายขึ้นดำรงตำแหน่งเป็นหัวหน้าพรรคคนที่ 2 สามารถนำพรรคชาติไทย ชนะการเลือกตั้งได้คะแนนเสียงเป็นอันดับหนึ่งในปี พ.ศ. 2531 ในชั้นต้นมีการทาบทาม พล.อ.เปรม ติณสูลานนท์ ให้ดำรงตำแหน่งเป็นนายกรัฐมนตรี ต่อเป็นสมัยที่ 4 แต่พลเอกเปรมปฏิเสธ และประกาศวางมือทางการเมือง พลเอกชาติชายจึงได้รับการสนับสนุน ให้ดำรงตำแหน่งเป็น นายกรัฐมนตรี คนที่ 17 ของประเทศไทย