พิชัย มงคลวิรกุล เกิดเมื่อวันที่ 8 มกราคม พ.ศ. 2493 จบการศึกษา วิศวกรรมศาสตรบัณฑิต (วิศวกรรมโยธา) จากประเทศฟิลิปปินส์ สมรสกับนางจิระรัตน์ มงคลวิรกุล

พิชัย เริ่มเข้าสู่งานการเมืองโดยได้รับเลือกตั้งเป็นสมาชิกสภาผู้แทนราษฎรจังหวัดกาฬสินธุ์ครั้งแรก ในการเลือกตั้งสมาชิกสภาผู้แทนราษฎรไทยเป็นการทั่วไป พ.ศ. 2529 สังกัดพรรคประชาธิปัตย์ ซึ่งอยู่ในกลุ่ม 10 มกรา[1] ต่อมาได้ย้ายออกจากพรรคประชาธิปัตย์พร้อมกับสมาชิกในกลุ่ม 10 มกรา และจัดตั้งพรรคการเมืองในชื่อ พรรคประชาชน[2] และลงสมัครรับเลือกตั้ง ได้เป็น ส.ส.อีกสมัยในการเลือกตั้งสมาชิกสภาผู้แทนราษฎรไทยเป็นการทั่วไป พ.ศ. 2531 จากนั้นในปี พ.ศ. 2535 ได้ย้ายไปสังกัดพรรคสามัคคีธรรม และได้รับเลือกตั้งสมัยที่ 3 ในการเลือกตั้งสมาชิกสภาผู้แทนราษฎรไทยเป็นการทั่วไป มีนาคม พ.ศ. 2535

ในการเลือกตั้งสมาชิกสภาผู้แทนราษฎรไทยเป็นการทั่วไป พ.ศ. 2538 และการเลือกตั้งสมาชิกสภาผู้แทนราษฎรไทยเป็นการทั่วไป พ.ศ. 2539 เขาได้รับเลือกตั้งเป็นสมัยที่ 4 และสมัยที่ 5 และในปี พ.ศ. 2539 เขาได้รับแต่งตั้งเป็นผู้ช่วยเลขานุการรัฐมนตรีว่าการกระทรวงศึกษาธิการ (สังข์ทอง ศรีธเรศ)[3]

พิชัย ถึงแก่อนิจกรรมเมื่อวันที่ 19 พฤศจิกายน พ.ศ. 2540 ในขณะที่ยังดำรงตำแหน่งสมาชิกสภาผู้แทนราษฎรจังหวัดกาฬสินธุ์