ภายหลังถูกรัฐประหารโดยคณะ รสช. พลเอกชาติชายได้เดินทางไปพำนักอยู่ในอังกฤษระยะหนึ่ง ก่อนจะเดินทางกลับประเทศไทย และก่อตั้ง พรรคชาติพัฒนา ขึ้นเมื่อวันที่ 12 กรกฎาคม 2535 โดยดำรงตำแหน่งหัวหน้าพรรคคนแรก ต่อมาได้นำพรรคลงสมัครรับเลือกตั้ง ในการเลือกตั้งทั่วไป เมื่อวันที่ 13 กันยายน พ.ศ. 2535 โดย พลเอกชาติชายชนะเลือกตั้งเป็น สมาชิกสภาผู้แทนราษฎรจังหวัดนครราชสีมา ถือเป็นการเริ่มต้นบทบาททางการเมืองใหม่อีกครั้ง

ปลายปี พ.ศ. 2540 เมื่อ พลเอกชวลิต ยงใจยุทธ ลาออกจากตำแหน่ง นายกรัฐมนตรี ในตอนแรกพรรคร่วมรัฐบาลเดิมในขณะนั้นมีมติร่วมกันที่จะสนับสนุน พลเอกชาติชาย ขึ้นดำรงตำแหน่งเป็น นายกรัฐมนตรี อีกครั้ง แต่ในที่สุด พรรคกิจสังคม ที่มีนายมนตรี พงษ์พานิช เป็นหัวหน้าพรรค ได้เปลี่ยนไปสนับสนุน นายชวน หลีกภัย หัวหน้าพรรคประชาธิปัตย์แทน ตามมาด้วย พรรคประชากรไทย ที่มี นายสมัคร สุนทรเวช เป็นหัวหน้าพรรค เกิดกรณี ส.ส. "กลุ่มงูเห่า" ที่แสดงตัวสนับสนุน นายชวน หลีกภัยเช่นเดียวกัน ทำให้ในที่สุดผู้ดำรงตำแหน่ง นายกรัฐมนตรี คนใหม่กลายเป็น นายชวน หลีกภัย ที่ได้เป็น นายกรัฐมนตรี สมัยที่ 2 แทนที่จะเป็น พลเอกชาติชาย ชุณหะวัณ