ก่อนหน้าการเปลี่ยนชื่อเป็นพิพิธภัณฑ์ศิลปะจีน เคยปรากฏในชื่อพิพิธภัณฑ์ศิลปะเซี่ยงไฮ้ ซึ่งก่อตั้งขึ้นในปี พ.ศ. 2499 ในพื้นที่ที่ร้านอาหารเดิมบนถนนหนานจิงซี (ถนนหนานจิงตะวันตก) และสร้างขึ้นใหม่ทั้งหมดในปี พ.ศ. 2529 ต่อมาเมื่อวันที่ 18 มีนาคม พ.ศ. 2543 พิพิธภัณฑ์ศิลปะเซี่ยงไฮ้ได้ย้ายไปยังอาคารสโมสรแข่งม้าเซี่ยงไฮ้เก่า บนจตุรัสประชาชน (People's Square) ซึ่งเคยใช้เป็นที่ตั้งของห้องสมุดเซี่ยงไฮ้ จนถึงปี พ.ศ. 2550 การย้ายพื้นที่จัดแสดงนิทรรศการครั้งนี้ทำให้มีพื้นที่เพิ่มขึ้นจาก 2,200 เป็น 5,800 ตารางเมตร[5]

ต่อมาเมื่อเซี่ยงไฮ้เป็นเจ้าภาพจัดงานเอ็กซ์โป 2010 ตั้งแต่วันที่ 1 พฤษภาคม ถึง 31 ตุลาคม พ.ศ. 2553 และอาคารศาลาประเทศจีนได้รับผู้เข้าชมเกือบ 17 ล้านคน[6] ด้วยความนิยมของอาคารศาลาประเทศจีน จึงเปิดขึ้นให้ชมอีกครั้งเป็นเวลาหกเดือนหลังจากสิ้นสุดงาน เมื่อวันที่ 13 พฤศจิกายน พ.ศ. 2554 รัฐบาลเทศบาลนครเซี่ยงไฮ้ได้ประกาศให้อาคารศาลาประเทศจีนของงานเอ็กซ์โป 2010 เป็นสถานที่ตั้งใหม่ของพิพิธภัณฑ์ศิลปะเซี่ยงไฮ้ ซึ่งเปลี่ยนชื่อเป็นพิพิธภัณฑ์ศิลปะจีน ในขณะที่ศาลาเมืองแห่งอนาคต (Urban Future Pavilion) จะถูกแปลงเป็นพิพิธภัณฑ์ศิลปะร่วมสมัย "โรงไฟฟ้าศิลปะ" (Power Station of Art)[7][8]

พิพิธภัณฑ์ศิลปะจีนและสถานีพลังงานศิลปะเปิดในวันชาติจีน เมื่อวันที่ 1 ตุลาคม 2555[9] พิพิธภัณฑ์ศิลปะเซี่ยงไฮ้เก่ายังคงเปิดบริการจนถึงวันที่ 31 ธันวาคม 2555 โดยมีผู้เข้าชมมากกว่า 12,000 คนในช่วงสองวันสุดท้าย[7] โดยพิพิธภัณฑ์ศิลปะจีนนี้มีพื้นที่ใหญ่กว่าพิพิธภัณฑ์ศิลปะเซี่ยงไฮ้ก่อนหน้าถึงสิบเท่า[10]