พันเอกวินัย เป็นสมาชิกสภาผู้แทนราษฎร (ส.ส.) ของกรุงเทพมหานคร มาโดยตลอดโดยสังกัดพรรคพลังธรรม ในการเลือกตั้งเมื่อปี พ.ศ. 2535 ทั้ง 2 ครั้ง และเป็น รองผู้ว่าราชการกรุงเทพมหานคร (ฝ่ายบริหารและการคลัง) ในสมัย พล.ต.จำลอง ศรีเมือง เป็น ผู้ว่าราชการกรุงเทพมหานคร

พันเอกวินัย เคยดำรงตำแหน่ง รัฐมนตรีว่าการกระทรวงคมนาคม ในยุครัฐบาล ชวน หลีกภัย[2] สมัยแรก มีผลงานที่โดดเด่นคือ การยกเลิกโครงการโฮปเวลล์ และการริเริ่มโครงการรถไฟความเร็วสูงในประเทศไทย[3]

ต่อมาในปี พ.ศ. 2543 ได้ลงสมัครรับเลือกตั้ง ผู้ว่าราชการกรุงเทพมหานคร ในนามผู้สมัครอิสระไม่สังกัดพรรคการเมือง ได้เบอร์ 2 แม้ไม่ชนะการเลือกตั้ง แต่ก็ได้รับคะแนนเสียงเป็นลำดับที่ 4 ซึ่งมากที่สุดในกลุ่มผู้สมัครอิสระทั้งหมด

จากนั้นในปี พ.ศ. 2544 ได้เป็น ส.ส.สังกัด พรรคชาติพัฒนา ต่อมาเมื่อพรรคชาติพัฒนาได้ยุบรวมกับ พรรคไทยรักไทย ได้เป็น ส.ส.ระบบบัญชีรายชื่อพรรคไทยรักไทย ในการเลือกตั้งปี พ.ศ. 2548

พ.อ.วินัย สมพงษ์ มีภาพลักษณ์ที่เป็นนักการเมืองที่ สมถะ ซื่อสัตย์สุจริต จนได้รับฉายาจากสื่อมวลชนว่า "นายไม้บรรทัด" ในระหว่างที่เกิด วิกฤตการณ์การเมืองในประเทศไทย พ.ศ. 2548-2549 พ.อ.วินัย ได้แสดงความเห็นวิพากษ์วิจารณ์การดำรงตำแหน่ง นายกรัฐมนตรี ของ พ.ต.ท.ทักษิณ ชินวัตร และได้ลาออกจากการเป็นสมาชิกพรรคไทยรักไทยพร้อมกับได้ขึ้นปราศรัยบนเวที พันธมิตรประชาชนเพื่อประชาธิปไตย

พ.อ.วินัย สมพงษ์ ได้สมัครเข้าเป็นสมาชิก พรรคประชาธิปัตย์ ในการเลือกตั้งวันที่ 23 ธันวาคม พ.ศ. 2550 ลงสมัครรับการเลือกตั้งในระบบสัดส่วน กลุ่ม 5 (ประกอบด้วยจังหวัด นครราชสีมา ปทุมธานี นครนายก ปราจีนบุรี ฉะเชิงเทรา สระแก้ว ระยอง จันทบุรี ชลบุรี และตราด) และได้รับการเลือกตั้ง

ภายหลังการเลือกตั้ง 23 ธันวาคม พ.ศ. 2550 และมีการจัดตั้งรัฐบาลนายสมัคร สุนทรเวช พรรคประชาธิปัตย์ที่เป็นฝ่ายค้านพรรคเดียวได้ประกาศจัดตั้ง รัฐบาลเงา หรือ ครม.เงา ขึ้น ในเดือนกุมภาพันธ์ พ.ศ. 2551 และ พันเอกวินัย สมพงษ์ ได้รับเลือกจากที่ประชุมพรรค ให้ทำหน้าที่ รัฐมนตรีว่าการกระทรวงคมนาคมเงา

ต่อมาในการเลือกตั้ง พ.ศ. 2554 ได้ลงสมัครรับเลือกตั้งในระบบบัญชีรายชื่อ[4] และได้รับเลือกตั้งเป็น ส.ส.อีกสมัย

ใน พ.ศ. 2561 พันเอกวินัยได้ย้ายเข้ามาร่วมงานกับ พรรคพลังธรรมใหม่ ต่อมาในการเลือกตั้ง พ.ศ. 2562 ได้ลงสมัครรับเลือกตั้งแบบบัญชีรายชื่อในนามพรรคชาติพัฒนา