แรกเริ่มเดิมที บรรพบุรุษของชาวยิวไม่เคยมีการสร้างโบสถ์หรือศาสนสถาน เวลาต้องการทำพิธีกรรมทางศาสนา ชาวฮีบรูจะรวมตัวกันใน "พลับพลา" หรือกระโจมนัดพบ (Tent of Meeting) ซึ่งภายในประดิษฐาน "หีบแห่งพันธสัญญา" ซึ่งภายในบรรจุแผ่นหินสองแผ่นที่จารึกบัญญัติ 10 ประการ

สมัยก่อน ไม่ว่าชาวยิวจะเดินทางไปที่แห่งหนใด พวกเขาจะแบกหีบดังกล่าวไปด้วยเสมอ เสมือนมีพระเจ้าใกล้ตัว ที่นอกจากทำให้อุ่นใจแล้ว ยังเป็นเครื่องเตือนสติไม่ให้ทำบาปด้วย คราใดที่หยุดพัก ชาวฮีบรูจะตั้งพลับพลาสำหรับหีบพันธสัญญา ที่แยกต่างหากจากที่พัก เพื่อใช้เป็นที่นัดพบและประกอบพิธีกรรมทางศาสนา ตลอดจนสวดมนต์ร่วมกัน

ในพระคัมภีร์กล่าวว่า พระเจ้าซาโลมอน กษัตริย์แห่งอิสราเอล เป็นผู้สร้างพระวิหารซาโลมอน (Solomon's Temple) ณ กรุงเยรูซาเล็ม ที่ถือกันว่าเป็นพระวิหารแห่งเยรูซาเล็มหลังแรก (The First Temple) ลักษณะคล้ายวิหารคานาอัน

หลังจากพระวิหารโซโลมอนถูกทำลาย ชาวยิวเริ่มสร้างสถานชุมนุมและประกอบพิธีกรรมทางศาสนาตามแบบฉบับของตัวเอง และเรียกขานว่าเป็น "สถานที่นมัสการ"[6]

อิทธิพลของศาสนายูดาห์ในสมัยเฮเลนนิสติค

คำว่า "synagogue" มาจากภาษากรีกคอยเน (Koine Greek) ที่ใช้กันในหมู่ชาวยิวเฮเลนนิสติกทั่วยุโรปตะวันออกเฉียงใต้ (มาซิโดเนีย เทรซ และทางตอนเหนือของกรีซ) รวมถึงฝั่งตะวันออกกลางและอัฟริกาเหนือ ลูกหลานของชาวยิวเฮเลนนิสติกที่อาศัยอยู่บนเกาะกรีก ซิลิเซีย อิสราเอลทางตอนเหนือ ซีเรียตะวันตกเฉียงเหนือและซีเรียตะวันออก ได้ร่วมกันสร้างธรรมศาลาขึ้นมาหลายแห่ง ที่โดดเด่นเห็นจะเป็นธรรมศาลาแห่งเดลอส (Delos Synagogue) และธรรมศาลาที่สร้างในเมืองแอนติออก อเล็กซานเดร็ตตา กาลิลี และดูร่า-ยูโรโปส

ทว่าเพราะในธรรมศาลาสมัยนั้นประดับประดาด้วยรูปปั้นของเทพปกรณัมกรีก และรูปเคารพตามคัมภีร์ไบเบิล ในช่วงแรกๆ จึงมักถูกเข้าใจผิด คิดว่าเป็นวิหารกรีก หรือโบสถ์ของกรีกนิกายออร์ธอด็อกซ์ และเมื่อสิ้นสุดยุคของพระวิหารที่สอง (Second Temple Era) นักบวชยิว ราไบ โยคานัน เบน ซาคาอิ (Yochanan ben Zakai) จึงมีดำริให้มีการสร้างธรรมศาลาขึ้นในทุกแห่งที่ชาวยิวอยู่รวมกันเป็นชุมชน