สร้างเมื่อใดไม่เป็นที่แน่ชัด แต่ตามหินศิลาบันทึกของศาลเจ้าบันทึกไว้ว่า สร้างเมื่อวันดี ปีเจียชิ่งเจี้ยจื่อเหนียน เป็นปีที่ 9ในพระจักพรรดิเจียชิ่ง (จีน:嘉慶甲子年) ซึ่งตรงกับ ค.ศ1804 และ พ.ศ.2347 ตรงกับรัชสมัยพระบาทสมเด็จพระพุทธยอดฟ้าจุฬาโลกมหาราช รัชกาลที่1 แห่งกรุงรัตนโกสินทร์โดยเศรษฐีชาวจีนฮกเกี้ยนแซ่โซว (จีน:蘇) จากเมืองจวนจิว มณฑลฮกเกี้ยน ที่เข้ามาพึ่งพระบรมโพธิสมภารเปิดโรงเผ่าถ่าน ริมแม่น้ำเจ้าพระยาในย่านบ้านตลาดน้อย ได้นำพาเทพพระเจ้าเฉ่งจุ้ยจ้อซูกง (จีน:清水祖師公) ที่ตนนับถือมาแต่เมืองจีนมาบูชาและได้ตั้งศาลเจ้าให้ท่านได้ประทับ เนื่องจากท่านเฉ่งจุ้ยจ้อซูกง มีชาติภูมิกำเนิดเป็นชาวฮกเกี้ยน และในย่านชุมชนจีนตลาดน้อยเดิมเป็นชุมชนชาวจีนฮกเกี้ยน ทำให้ศาลของพระเฉ่งจุ้ยจ้อซูกงได้รับความนับถือมาก จนเจริญรุ่งเรื่องถึงขีดสุด จนถึงปัจจุบัน