แรกสร้างขึ้นตั้งแต่สมัยทวารวดี ราวพุทธศตวรรษที่ 13 ต่อมาในราวพุทธศตวรรษที่ 18 วัฒนธรรมเขมรจากราชอาณาจักรกัมพูชาได้แพร่เข้าสู่ดินแดนราชบุรี จึงได้มีการก่อสร้างและดัดแปลงศาสนสถานกลางเมืองราชบุรีขึ้นเป็นพระปรางค์ และสร้างกำแพงศิลาแลงล้อมรอบเพื่อให้เป็นศูนย์กลางของเมืองตามคติความเชื่อเรื่องภูมิจักรวาลของเขมร ต่อมาในสมัยอยุธยาตอนต้น ราวพุทธศตวรรษที่ 20 – 21 ได้มีการก่อสร้างพระปรางค์แบบอยุธยาขึ้งซ้อนทับและสร้างพระปรางค์บริวารขึ้นอีก 3 องค์บนฐานเดียวกัน

ต่อมาในรัชสมัยพระบาทสมเด็จพระพุทธเลิศหล้านภาลัย ได้ทรงพระกรุณาโปรกเกล้าฯ ให้ย้ายเมืองราชบุรีจากฝั่งตะวันตกมายังฝั่งตะวันออก ประชาชนก็ย้ายตามความเจริญไปด้วย วัดมหาธาตุจึงกลายเป็นวัดร้างไม่มีพระสงฆ์จำพรรษา ต่อมาในรัชสมัยพระบาทสมเด็จพระนั่งเกล้าเจ้าอยู่หัว ใน พ.ศ. 2338 พระภิกษุองค์หนึ่งชื่อพระบุญมา ได้ธุดงค์มาเห็นวัดนี้มีสถานที่ร่มรื่น เหมาะสำหรับการปฏิบัติธรรมจึงได้ขอความร่วมมือจากพุทธศาสนิกชนช่วยกันปัดกวาดซ่อมแซมเสนาสนะต่างๆ ในที่สุด วัดมหาธาตุจึงกลับมาเป็นศูนย์กลางของศาสนาเช่นเดิม และยังคงเป็นมาจนถึงปัจจุบัน