ในคัมภีร์อัลกุรอานและบันทึกอัลฮะดีษมิได้มีการระบุกฎเกณฑ์อันตายตัวที่เกี่ยวข้องกับมัสยิดไว้ การจัดองค์ประกอบต่าง ๆ ล้วนแต่เกิดจากความจำเป็นด้านประโยชน์ใช้สอยและความเรียบร้อยสวยงาม โดยใช้มัสยิดของพระศาสดาเป็นต้นแบบ[10] บ้างก็พัฒนาให้สอดคล้องกับยุคสมัยจนเป็นรูปแบบสถาปัตยกรรมที่มีลักษณะเฉพาะ ซึ่งมีองค์ประกอบดังต่อไปนี้

1. โถงละหมาด เป็นพื้นที่สำหรับประกอบพิธีกรรมทางศาสนา เช่น การละหมาด, การศึกษาพระคัมภีร์, การรำลึกถึงพระเจ้า และการขอพร อาจมีการเปลี่ยนเพื่อรองรับกิจกรรมต่าง ๆ ของชุมชน เช่น การเลี้ยงอาหาร และการประชุมหมู่บ้าน[10] โถงละหมาดมักเป็นที่โล่งที่ได้รับการดูแลจนสะอาด สงบ เป็นสัดส่วน และไร้สิ่งรบกวนต่าง ๆ เมื่อปฏิบัติศาสนกิจ ผู้ที่มาละหมาดสองแถวแรกจะประเสริฐกว่าแถวหลัง[11] และไม่มีการแบ่งแยกตามตำแหน่งหรือฐานะ แต่จะแบ่งพื้นที่สำหรับหญิงและชายอย่างเป็นสัดส่วน[11]
2. มิห์รอบ หรือ ชุมทิศ[12] ในการละหมาดมุสลิมจะต้องหันหน้าไปยังทิศกิบละฮ์ซึ่งมีศูนย์กลางอยู่ที่มัสยิดอัลฮะรอมในมักกะฮ์[11] ดังนั้นภายในมัสยิดจึงมักมีซุ้มมิห์รอบสำหรับระบุทิศกิบละฮ์ด้านหน้าโถงละหมาด โดยทั่วไปมักเป็นซุ้มโค้งเว้าเข้าไปในผนังหรือเป็นผนังต่างระนาบที่ประดับลวดลายเป็นที่สังเกต[11] ในประเทศไทยมิห์รอบหลายแห่งเป็นลักษณะศาลาหรือซุ้มที่ได้รับอิทธิพลแบบไทยจะเรียกว่า ซุ้มชุมทิศ[12] เช่น มิห์รอบของมัสยิดต้นสนหลังเดิม[12] และมิห์รอบของมัสยิดบางหลวง[11]
3. มิมบัร หรือ แท่นแสดงธรรม[12] เป็นที่ให้อิหม่ามหรือคอเต็บ (ผู้แสดงธรรม) ขึ้นกล่าวคุตบะฮ์ (แสดงธรรม) แจ้งข่าว หรือปราศรัยในโอกาสที่มีการละหมาดในวันศุกร์ มักเป็นแท่นยืนที่มีที่นั่งพักและบันไดขึ้น มีความสูงเพียงพอที่ให้คนอยู่ไกลมองเห็นและได้ยินทั่วถึง[11] มิมบัรในไทยบางแห่งอาจมีซุ้มเน้นทางขึ้นและมีหลังคาที่ได้รับอิทธิพลศิลปะของไทย เช่น มิมบัรของมัสยิดต้นสนเดิม[12] โดยมากมิมบัรจะวางไว้ด้านขวาของมิห์รอบหรือกึ่งกลางโถงละหมาด เมื่อเสร็จจากการคุตบะฮ์อิหม่ามหรือคอเต็บจะลงมาละหมาดร่วมกับทุกคนโดยเท่าเทียม
4. โถงอเนกประสงค์ มักเชื่อมต่อกับโถงละหมาด ทำหน้าที่รองรับผู้คนเข้าออกจากโถงละหมาด และรองรับการขยายตัวของกิจกรรมในโถงละหมาดในวันสำคัญเพราะจะมีศาสนิกมากเป็นพิเศษ รวมถึงใช้จัดกิจกรรมทางสังคมที่ไม่ขัดกับหลักศาสนา[13] ในไทยโถงอเนกประสงค์บางแห่งอาจเป็นใต้ถุนหรือพื้นที่ชั้นล่างของอาคาร บางครั้งชุมชนโดยรอบอาจใช้พื้นที่นี้ในการละหมาดจึงต้องรักษาความสะอาดและไม่ควรสวมรองเท้าเข้ามาในพื้นที่ดังกล่าว[13]
5. ที่อาบน้ำละหมาด ข้อบัญญัติของศาสนาอิสลามกำหนดให้มีการอาบน้ำละหมาด ซึ่งเป็นการทำความสะอาดร่างกาย เช่น มือ, ใบหน้า, แขน, เท้า เป็นต้น[13] ดังนั้นก่อนการละหมาดต้องมาอาบน้ำที่มัสยิดหรืออาจจะอาบน้ำมาจากที่อื่นก็ได้[14] ที่อาบน้ำมักอยู่ในพื้นที่อเนกประสงค์ ในอดีตมัสยิดหลายแห่งใช้ศาลาริมน้ำเป็นพื้นที่อาบน้ำละหมาด[14]
6. หออะซาน เป็นสถานที่ให้มุอัซซิน (ผู้ประกาศเวลาละหมาด) ขึ้นไปอะซาน (ประกาศ) ให้ได้ยินไปไกลที่สุดเพื่อเรียกให้ผู้คนทำละหมาดมารวมตัวกันที่มัสยิด[14] ท่านศาสดาได้กำหนดให้ผู้ได้ยินเสียงอะซานมาละหมาดรวมกันที่มัสยิด พื้นที่ในรัศมีเสียงอะซานจึงเป็นตัวกำหนดขอบเขตพื้นที่ของชุมชน[14] ในอดีตจะให้การตีกลองบอกเวลาละหมาดเนื่องจากสามารถได้ยินในระยะไกล แม้หออะซานจะลดความสำคัญลงเนื่องจากมีการใช้เครื่องกระจายเสียงแทน[14] แต่กระนั้นหออะซานก็ยังคงอยู่เป็นสัญลักษณ์ของมัสยิด ด้วยความสูงโดดเด่นเป็นภูมิสัญลักษณ์ที่สื่อถึงการดำรงอยู่ของชุมชนมุสลิม[14]
7. ซุ้มประตู มัสยิดโดยทั่วไปจะมีการกำหนดขอบเขตหรือแยกพื้นที่สงบออกจากสิ่งรบกวน โดยอาจเป็นกำแพงหรือคูคลองโดยมีประตูเป็นตัวเชื่อมต่อที่บ่งบอกถึงการเข้าถึงมัสยิด[15] ซุ้มประตูมักมีลักษณะเด่นมีการประดับประดาเช่นเดียวกับ โดม หรือหออะซาน[15]