เมืองซูโจวมีต้นกำเนิดตั้งแต่สมัยแคว้นอู๋[16][17] เป็นเมืองที่เก่าแก่ที่สุดเมืองหนึ่งในแถบลุ่มแม่น้าแยงซี (จีนตัวเต็ม: 揚子; จีนตัวย่อ: 扬子; พินอิน: Yángzǐ) ใน ยุคชุนชิว (แปลว่า ยุคฤดูใบไม้ผลิและใบไม้ร่วง หรือ ฤดูวสันต์และฤดูสารท; อังกฤษ: Spring and Autumn Period; จีนตัวย่อ: 春秋時代; พินอิน: Chūnqiū Shídài) สมัยราชวงศ์โจว มีบันทึกว่าชนเผ่าพื้นเมืองชื่อ กัวอู อาศัยอยู่ในบริเวณที่เป็นเมืองซูโจวในปัจจุบัน ชนเผ่าพื้นเมืองเหล่านี้สร้างบ้านเรือนรวมกลุ่มกันเป็นหมู่บ้านอยู่ตามริมเขาบริเวณรอบๆ ทะเลสาบไท่

ซือหม่าเชียน (อังกฤษ: Sima Qian; จีนตัวย่อ: 司馬遷) นักบันทึกประวัติศาสตร์ผู้ยิ่งใหญ่ในสมัยราชวงศ์ฮั่น ระบุไว้ใน สื่อจี้ หรือสารานุกรมด้านประวัติศาสตร์จีน (Records of the Grand Historian) (Taishi gong shu 太史公書 หรือ the Shiji 史記 – "Historical Records") ว่าในช่วงศตวรรษที่ 11 ก่อนคริสตกาล ราชบุตรไท่ปั๋ว (อังกฤษ: Wu Taibo;จีนตัวย่อ: 泰伯) แห่งราชวงศ์โจว (อังกฤษ: Zhou; จีนตัวย่อ: 周) เป็นผู้ก่อตั้งแคว้นอู๋ ในบริเวณอู่ซีปัจจุบัน สร้างความเจริญรุ่งเรืองทั้งด้านการเกษตรและการชลประทาน ชื่อของเมืองก็เรียกว่า อู๋ เช่นเดียวกับชื่อของแคว้น ต่อมาเมื่อ 514 ปีก่อนคริสตกาล กษัตริย์เหอหลู๋(King Helü) ของแคว้นอู๋ได้ตั้งเมืองหลวงแห่งใหม่ที่เมืองเหอหลู๋ (Helü City) ซึ่งที่แห่งนี้เองที่กลายเป็นเมืองซูโจวในปัจจุบัน ต่อมาใน 496 ปีก่อนคริสตกาล กษัตริย์เหอหลู๋สวรรคตและพระศพของพระองค์ถูกฝังไว้ที่เขาหูชิวหรือเนินเสือ (อังกฤษ: Tiger Hill; จีนตัวย่อ: 虎丘; พินอิน: Hǔqiū)

ช่วง 473 ปีก่อนคริสตกาล แคว้นอู๋ถูกรุกรานและยึดครองโดยแคว้นเยว่ที่อยู่ทางตะวันออกเฉียงใต้ ต่อมาเมื่อ 306 ปี ก่อนคริสตกาล แคว้นเยว่ก็ถูกยึดครองโดยแคว้นฉู่ปัจจุบันยังคงเหลือผานเหมินหรือประตูผาน (อังกฤษ: Pan Gate; จีนตัวย่อ: 盘门) อายุกว่า 2,500 ปี เป็นมรดกที่สำคัญทางประวัติศาสตร์

ในยุคจั้นกั๋ว (Warring States period หรือยุคจ้านกว๋อ หรือเลียดก๊ก) เมืองซูโจวรู้จักกันในนามของเทศมณฑลอู๋ (อู๋เซี่ยน; Wuxian) หรือ Wu Commandery (อู๋จุน; Wu Jun [18]) ในสมัยราชวงศ์ฉินได้เปลี่ยนชื่อเป็นไกว้ยจี (อังกฤษ: Kuaiji; จีนตัวย่อ: 會稽)

ช่วงรุ่งเรือง หรือ 209 ปีก่อนคริสตกาลของฌ้อปาอ๋อง (Xiang Yu หรือ ซีฉู่ป้าหวัง) ขุนศึกผู้ยิ่งใหญ่ในยุคปลายราชวงศ์ฉิน ก็เกิดขึ้นในบริเวณนี้ จนกระทั่งราชวงศ์ฉินล่มสลายลง

หลังจากการขุดคลองต้ายวิ่นเหอ (อังกฤษ: Grand Canal; จีนตัวย่อ: 大运河) ซึ่งขุดในสมัยราชวงศ์สุยเสร็จสิ้นลง เมืองซูโจวก็กลายเป็นยุทธศาสตร์ที่สำคัญสำหรับเส้นทางการค้าขายขนส่งสินค้าในประวัติศาสตร์จีน หรือเรียกได้ว่าเป็นเมืองหลวงของธุรกิจและอุตสาหกรรมในฝั่งตะวันออกเฉียงใต้ของประเทศจีน ต่อมาช่วงราชวงศ์ถัง ไป๋จวีอี้ (Bai Juyi) กวีคนสำคัญในยุคนั้น และเป็นผู้ควบคุมการขุดคลองซานถัง (Shantang Canal) (มักรู้จักกันในชื่อ "ถนนซานถัง (Shantang Street)") เพื่อเชื่อมตัวเมืองและเขาหูชิวหรือเนินเสือสำหรับเป็นสถานที่ท่องเที่ยวในยุคนั้น

ในปี ค.ศ. 1035 ฟ่านจ้งหยาน (Fan Zhongyan) นักเขียนและกวีผู้มีชื่อเสียงได้ก่อตั้งวัดขงจื้อ (อังกฤษ: temple of Confucius; จีนตัวย่อ: 孔庙) ขึ้น ซึ่งกลายเป็นสถานที่สำคัญที่ใช้ในการการสอบขุนนาง (imperial civil examinations) และพัฒนามาเป็นโรงเรียนมัธยมซูโจวในช่วงทศวรรษ 1910

เดือนกุมภาพันธ์ ปี ค.ศ. 1130 กองทัพจิ้นจากทางเหนือเข้าบุกรุกและปล้นสะดมเมือง ตามด้วยการรุกรานของมองโกล (Mongol invasion) ในปี ค.ศ. 1275 และในปี ค.ศ. 1356 ซูโจวได้กลายเป็นเมืองหลวงของจาง ชื่อเฉิง (Zhang Shicheng) ผู้นำคนหนึ่งของกบฏโพกผ้าแดง (Red Turban Rebellion) กลุ่มต่อต้านราชวงศ์หยวน และสถาปนาตนเองขึ้นเป็นกษัตริย์ของแคว้นอู๋

ต่อมาในปี ค.ศ. 1367 จูหยวนจาง (Zhu Yuanzhang) ได้ยกกองทัพจากหนานจิงเข้าโจมตีและยึดครองเมืองหลังจากเข้าโอบล้อมไว้ได้นานถึง 10 เดือน หลังจากนั้นไม่นาน จูหยวนจางก็ได้ตั้งตนเป็นจักรพรรดิหงหวู่ จักรพรรดิพระองค์แรกของราชวงศ์หมิง และสั่งให้ทำลายที่ทำการเมืองซูโจว รวมทั้งกำหนดภาษีใหม่สำหรับชาวเมือง[19] แม้ว่าจะมีการเรียกเก็บภาษีอย่างหนัก และบุคคลสำคัญของเมืองซูโจวได้ย้ายถิ่นฐานไปอยู่ในหนานจิง ซึ่งเป็นเมืองหลวงของจักรพรรดิหงหวู่แทน เมืองซูโจวก็สามารถกลับมารุ่งเรืองได้อีกครั้งหนึ่งหลังจากนั้น

ในปี ค.ศ. 1488 เจาปู (Choe Bu) ข้าราชการชาวเกาหลีที่ประสบอุบัติเหตุเรือแตกระหว่างการเดินทางกลับประเทศ ได้มีโอกาสเห็นทัศนียภาพทางตะวันออกของประเทศจีน จากเจ้อเจียงถึงเหลียวหนิง เจาได้อธิบายเมืองซูโจวไว้ในบันทึกการเดินทางของเขาว่าเป็นเมืองที่ล้ำหน้าเมืองอื่นๆ ในบริเวณนี้ [20] นอกจากนี้ยังมีสวนส่วนตัวจำนวนมากในซูโจวที่สร้างขึ้นโดยชนชั้นสูงในสมัยราชวงศ์หมิงและราชวงศ์ชิง หากว่าในปี ค.ศ. 1860 เมืองซูโจวได้พบกับภัยพิบัติอีกครั้งเมื่อในช่วงกบฏไท่ผิง เมื่อทหารไท่ผิงได้บุกเข้ายึดครองเมือง โดยในเดือนพฤศจิกายน ปี ค.ศ. 1863 ชาร์ล กอร์ดอน (Charles Gordon) ผู้บัญชาการ Ever-Victorious Army จึงได้ยึดเมืองคืนจากพวกกบฏไท่ผิง

วิกฤตกาลลำดับต่อมาคือช่วงสงครามจีน-ญี่ปุ่นครั้งที่สอง ปี ค.ศ.1937 ซึ่งในครั้งนี้สวนหลายแห่งในเมืองซูโจวถูกทำลายลงหลังสงคราม และได้มีการบูรณะสวนเหล่านี้ใหม่ เช่น สวนจัวเจิ้ง (Humble Administrator's Garden) และสวนหลิว (Lingering Garden) ในช่วงต้นทศวรรษ 1950 เพื่อให้กลับมาสมบูรณ์และสวยงามอีกครั้ง