ในฐานะที่ปรึกษานายกรัฐมนตรี (พลเอกชาติชาย ชุณหะวัณ) พ.ศ. 2532 เป็นผู้แทนพิเศษของรัฐบาลไทย ในการประชุมเพื่อแก้ปัญหา กรณีพิพาทในประเทศกัมพูชา ร่วมเจรจาสันติภาพในประเทศกัมพูชา, ลาว, เวียดนาม ผลักดันนโยบายแปรสนามรบเป็นสนามการค้า ผลักดันให้มีการก่อสร้างสะพานมิตรภาพไทย-ลาว ร่วมเจรจาแก้ไขมาตรการกีดกันทางการค้ากับสหรัฐอเมริกา (มาตรา 301) และร่วมเจรจาและผลักดันให้มีการก่อตั้งเอเปค (APEC)

ในฐานะประธานกรรมาธิการการต่างประเทศ วุฒิสภา ตลอดระยะเวลา 6 ปี (พ.ศ. 2543-2549) ติดตามตรวจสอบนโยบายของรัฐบาลชวน และรัฐบาลทักษิณ ตลอดระยะเวลา 6 ปี

หลังรัฐประหาร 2549

หลังการรัฐประหารในประเทศไทย พ.ศ. 2549 ที่ประชุมคณะรัฐมนตรี รัฐบาลพลเอกสุรยุทธิ์ จุลานนท์ มีมติเมื่อวันที่ 28 พฤศจิกายน 2549 แต่งตั้งนายไกรศักดิ์ เป็นกรรมการบริหารสำนักงานบริหารและพัฒนาองค์ความรู้ (สบร.) หรือ Office of Knowledge Management and Development (OKMD)

ไกรศักดิ์ มีบทบาทในการผลักดันให้รัฐบาลพลเอกสุรยุทธ์ จุลานนท์ รื้อฟื้นคดีฆ่าตัดตอน 2,500 ราย ที่เกิดขึ้นในระหว่างการประกาศทำสงครามยาเสพติด ในสมัยรัฐบาล พ.ต.ท.ทักษิณ ชินวัตร ทำให้กรมสอบสวนคดีพิเศษ (ดีเอสไอ) เร่งคลี่คลายคดีฆ่าตัดตอนซึ่งเกิดขึ้นตั้งแต่ พ.ศ. 2546 ต่อมาได้รับแต่งตั้งจากมติคณะรัฐมนตรีเมื่อวันที่ 14 สิงหาคม 2550 เป็นกรรมการอิสระตรวจสอบ ศึกษาและวิเคราะห์การกำหนดนโยบายปราบปรามยาเสพติดให้โทษ และการนำนโยบายไปปฏิบัติจนเกิดความเสียหายต่อชีวิต ร่างกาย ชื่อเสียงและทรัพย์สินของประชาชน (คตน.) เพื่อตรวจสอบนโยบายของรัฐบาล พ.ต.ท.ทักษิณ ชินวัตร ที่นำไปสู่การฆ่าตัดตอน 2,500 ราย โดยคณะกรรมการดังกล่าวมีหน้าที่ตรวจสอบ สอบสวน ศึกษาและวิเคราะห์ เพื่อให้ได้ข้อเท็จจริงเกี่ยวกับการกำหนดนโยบายปราบปรามยาเสพติด ซึ่งนำไปสู่การสูญเสียชีวิตและทรัพย์ของประชาชน รวมทั้งกำหนดมาตรการแก้ไข และเยียวยาผู้เสียหายจากมาตรการดังกล่าว

ปี พ.ศ. 2550 นายไกรศักดิ์ได้สมัครเป็นสมาชิกพรรคประชาธิปัตย์พร้อมกับเพื่อน สว.อิสระทางภาคอีสานหลายคน เช่น พญ.มาลินี สุขเวชชวรกิจ อดีต ส.ว.นครสวรรค์, นายพิเชฐ พัฒนโชติ อดีต ส.ว.นครราชสีมา เป็นต้น เพื่อลงรับสมัครเลือกตั้งในปลายเดือนธันวาคม 2550 ในฐานะขุนพลภาคอีสานของพรรคประชาธิปัตย์

ในการเลือกตั้ง 23 ธันวาคม พ.ศ. 2550 นายไกรศักดิ์ ชุณหะวัณ ลงสมัครรับเลือกตั้ง ส.ส. ระบบสัดส่วน เขต 5 พรรคประชาธิปัตย์ ในลำดับที่ 1 และสามารถชนะการเลือกตั้ง ภายหลังการเลือกตั้ง 23 ธันวาคม พ.ศ. 2550 และมีการจัดตั้งรัฐบาลนายสมัคร สุนทรเวช พรรคประชาธิปัตย์ที่เป็นฝ่ายค้านพรรคเดียวได้ประกาศจัดตั้ง รัฐบาลเงา หรือ ครม.เงา ขึ้น ในเดือนกุมภาพันธ์ พ.ศ. 2551 และ นายไกรศักดิ์ ชุณหะวัณ ได้รับเลือกจากที่ประชุมพรรค ให้ทำหน้าที่ รัฐมนตรีว่าการกระทรวงการพัฒนาสังคมและความมั่นคงของมนุษย์เงา

เมื่อวันที่ 15 กรกฎาคม พ.ศ. 2551 พรรคประชาธิปัตย์ได้จัดการประชุมใหญ่วิสามัญประจำปี เพื่อเลือกตั้งคณะกรรมการบริหารพรรคชุดใหม่ตามข้อบังคับพรรค และ นายไกรศักดิ์ ชุณหะวัณ ได้รับเลือกให้ดำรงตำแหน่ง รองหัวหน้าพรรคประชาธิปัตย์ รับผิดชอบดูแลพื้นที่ภาคตะวันออกเฉียงเหนือ