อนุสรณ์สถานสร้างขึ้นไม่นานหลังจากการถึงแก่อสัญกรรมของเหมา เจ๋อตง ในวันที่ 9 กันยายน พ.ศ. 2519 พิธีวางศิลาฤกษ์มีขึ้นในวันที่ 24 พฤศจิกายน พ.ศ. 2519 และสร้างเสร็จสมบูรณ์ในวันที่ 24 พฤษภาคม พ.ศ. 2520 ประธานฮั่ว กั๋วเฟิง ซึ่งดูแลโครงการก่อสร้างได้เขียนป้ายชื่ออนุสรณ์สถานด้วยลายมือของตนเอง

ประชาชนทั่วประเทศจีนมีส่วนร่วมในการออกแบบและก่อสร้างอนุสรณ์สถาน โดยมีผู้คน 700,000 คนจากมณฑลต่างๆ เขตปกครองตนเอง และสัญชาติต่างๆ[2]

วัสดุจากทั่วประเทศจีนถูกนำมาใช้สร้างและตกแต่งทั่วทั้งอาคาร เช่น หินแกรนิตจากมณฑลเสฉวน จานลายครามจากมณฑลกวางตุ้ง, ต้นสนจากเมืองหยานอัน ในมณฑลส่านซี, เมล็ดสาโทเลื่อยจากภูเขาเทียนชาน ในเขตปกครองตนเองซินเจียง, หินกรวดสีจากหนานจิง, ควอตซ์สีน้ำนมจากภูเขาคุนหลุน, ไม้สนจากมณฑลเจียงซี และตัวอย่างหินจากยอดเขาเอเวอเรสต์ น้ำและทรายจากช่องแคบไต้หวันยังถูกใช้เพื่อเน้นย้ำถึงการอ้างสิทธิ์ของสาธารณรัฐประชาชนจีนเหนือไต้หวัน

อนุสรณ์สถานแห่งนี้ปิดปรับปรุงเป็นเวลา 9 เดือนในปี พ.ศ. 2540 ก่อนที่จะเปิดอีกครั้งในวันที่ 6 มกราคม พ.ศ. 2541[3]