สันนิษฐานกันว่า สร้างในสมัยกรุงศรีอยุธยาตอนต้นราวแผ่นดินสมเด็จพระบรมไตรโลกนาถ โดยตามพงศาวดารวิหารพระมงคลบพิตรนั้น เดิมประดิษฐานอยู่ด้านทิศตะวันออกของ พระราชวังหลวง บางคนสันนิษฐานว่า เคยประดิษฐานอยู่กลางแจ้งที่วัดชีเชียงมาก่อน ในปี พ.ศ. 2146 สมเด็จพระเจ้าทรงธรรมโปรดฯ ให้ชลอมาไว้ทางด้านทิศตะวันตก แล้วให้สร้างมณฑปขึ้นครอบไว้ โดยมีหลักฐานจากภาพวาดของชาวตะวันตกที่เข้ามาในรัชสมัยสมเด็จพระเจ้าปราสาททองว่าเป็นรูปร่างคล้ายๆมณฑป

ต่อมาในปี พ.ศ. 2246 สมัยสมเด็จพระเจ้าเสือ ยอดมณฑปต้องอสนีบาต (ฟ้าผ่า) ไฟไหม้เครื่องบนมณฑปหักพังลงมาต้องพระเศียรหัก สมเด็จพระเจ้าเสือ จึงโปรดฯ ให้แปลงมณฑปเป็นวิหารแต่ยังคงส่วนยอดของมณฑปไว้ แล้วซ่อมพระเศียรพระพุทธรูปใหม่ กระทั่งในรัชกาล สมเด็จพระเจ้าอยู่หัวบรมโกศ ทรงบูรณปฏิสังขรณ์ใหม่หมด เปลี่ยนหลังคาคล้ายในปัจจุบัน เมื่อเสียกรุงศรีอยุธยาครั้งสุดท้ายวิหารและพระพุทธรูปถูกไฟไหม้ ชำรุดทรุดโทรม เครื่องบนวิหารหักลงมาต้องพระเมาฬี และพระกรข้างขวาหัก

ในปี พ.ศ. 2474 พระยาโบราณราชธานินทร์ ตำแหน่งสุมุหเทศาภิบาลมณฑลอยุธยา คุณหญิงอมเรศร์สมบัติกับพวก ได้ขอยื่นเรื่องซ่อมแซมวิหาร แต่รัฐบาลไม่อนุญาต เนื่องจากต้องการที่จะรักษาตามแบบอย่างทางโบราณคดี โดยจะออกแบบให้ปูชนียสถานกลางแจ้งเหมือนไดบุซึของญี่ปุ่น แต่ด้วยเวลานั้นรัฐบาลยังไม่มีงบประมาณพร้อมในการดำเนินการ

ต่อมาในปี พ.ศ. 2499 รัฐบาลสมัยจอมพล ป.พิบูลสงคราม จึงได้เริ่มการบูรณปฏิสังขรณ์พระวิหารและองค์พระพุทธเสียใหม่ดังที่เห็นอยู่ในปัจจุบันนี้ ในคราวบูรณะพระมงคลบพิตรในปี พ.ศ. 2500 กรมศิลปากรได้พบพระพุทธรุปบรรจุไว้ในพระอุระด้านขวา เป็นจำนวนมาก ปัจจุบันเก็บรักษาอยู่ที่ พิพิธภัณฑสถานแห่งชาติ เจ้าสามพระยา และ พิพิธภัณฑสถานแห่งชาติ จันทรเกษม