ชุมชนมุสลิมในท้องที่ที่เป็นแขวงทรายกองดินใต้และแขวงแสนแสบปัจจุบัน ส่วนใหญ่มีบรรพบุรุษเป็นชาวมลายูจากเมืองไทรบุรีซึ่งถูกเทครัวขึ้นมาในสมัยต้นกรุงรัตนโกสินทร์[4] ชาวมลายูกลุ่มนี้ได้เข้ามาหักร้างถางพง จับจองที่ดินทำกิน และสร้างบ้านเรือนอยู่อาศัยตามแนวคลองแสนแสบหลังจากที่ถูกเกณฑ์มาร่วมขุดคลองสายนี้ในสมัยพระบาทสมเด็จพระนั่งเกล้าเจ้าอยู่หัว

ระยะแรกชาวมุสลิมในบริเวณดังกล่าวใช้บ้านของคหบดีคนหนึ่งเป็นสถานที่ประกอบกิจทางศาสนา ต่อมาได้ร่วมกันสร้างเรือนไม้ขึ้นเพื่อใช้เป็นสุเหร่าหรือมัสยิด[5] เมื่อเวลาผ่านไปได้ประมาณ 70 ปี ชุมชนนี้มีประชากรมากขึ้น บรรดาสัปปุรุษลงมติว่าจะขยายพื้นที่สุเหร่าให้กว้างขึ้นโดยสร้างเป็นอาคารปูนให้มั่นคงถาวร จึงช่วยกันซื้อทรายมากองไว้บนดินเพื่อรอให้มีปริมาณมากพอ จากนั้นก็มีผู้นำทรายมาสมทบอีกเรื่อย ๆ จนกลายเป็นกองใหญ่ค้างอยู่นาน ผู้คนที่เดินทางผ่านไปมาเห็นกองทรายนี้ทุกครั้งจึงเรียกกันติดปากว่า "ทรายกองดิน"[5] ภายหลังเมื่อมีการจัดการปกครองท้องที่ตามระบบมณฑลเทศาภิบาล ทางราชการจึงนำชื่อนี้มาใช้เป็นชื่อตำบล โดยปรากฏเอกสารเกี่ยวข้องกับตำบลนี้ในราชกิจจานุเบกษาอย่างน้อยตั้งแต่ พ.ศ. 2448[6]

ยังมีเรื่องเล่าสืบต่อกันมาอีกว่า ในช่วงเวลาเดียวกันนั้น พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัวได้เสด็จกลับจากเมืองฉะเชิงเทราผ่านทางคลองแสนแสบ เมื่อเข้าเขตสุเหร่าของชุมชน พระองค์ก็เสด็จขึ้นฝั่ง ทรงแวะเยี่ยมเยียนสุเหร่า และมีพระราชดำรัสถามว่า "กองทรายกองดินเหล่านี้มีไว้ทำไม"[7] เมื่อทรงได้รับคำตอบจากผู้ที่อาศัยอยู่บริเวณนั้นว่าจะใช้สร้างอาคารสุเหร่า จึงมีพระราชกระแสรับสั่งให้ทหารขนอิฐ หิน และทรายมาทางเรือกลไฟอย่างละหลายลำเพื่อพระราชทานสมทบสร้างสุเหร่าหลังใหม่ พร้อมทั้งพระราชทานที่ดินจำนวน 40 ไร่ เป็นใบเดินทุ่งให้กับทรัสตีสุเหร่าแห่งนี้ด้วย นับแต่นั้นมาชาวบ้านก็เรียกสุเหร่าแห่งนี้ว่า "สุเหร่าทรายกองดิน"[lower-alpha 1][5]

ภายหลังทางราชการได้แบ่งและจัดตั้งเขตการปกครองในระดับตำบลขึ้นใหม่ ส่งผลให้บริเวณชุมชนสุเหร่าทรายกองดิน (ซึ่งเป็นที่มาของชื่อ "ทรายกองดิน") ทางฝั่งเหนือของคลองแสนแสบ ย้ายจากตำบลทรายกองดินไปขึ้นกับตำบลทรายกองดินใต้แทน