ในอดีตเขตเทศบาลเมืองบางกรวยมีทำเลที่ตั้งอยู่ริมแม่น้ำเจ้าพระยา (ปัจจุบันคือคลองบางกอกน้อยและคลองบางกรวย) จึงเป็นพื้นที่หนึ่งในจังหวัดนนทบุรีที่มีการตั้งถิ่นฐานเป็นชุมชนมาตั้งแต่สมัยอยุธยาตอนต้น[2] โดยเฉพาะบริเวณวัดชลอซึ่งปรากฏรูปแบบสถาปัตยกรรมและจิตรกรรมสมัยอยุธยา แต่ชุมชนแห่งนี้ก็ยังมีขอบเขตไกลออกไปถึงวัดโตนด วัดกระโจมทอง และวัดลุ่มคงคาราม[2]

เมื่อมีการปฏิรูปการบริหารราชการและการปกครองท้องที่ในสมัยรัตนโกสินทร์ บริเวณนี้จึงมีฐานะเป็นตำบลบางกรวยตามกฎหมายลักษณะการปกครองท้องที่ ต่อมาในปี พ.ศ. 2490 ทางราชการได้แยกพื้นที่ด้านตะวันตกของตำบลบางกรวยจัดตั้งเป็นตำบลวัดชลอ[3] จนกระทั่งในบริเวณนี้มีประชากรหนาแน่นขึ้น เพื่อประโยชน์ในการทะนุบำรุงท้องถิ่นให้เจริญก้าวหน้า กระทรวงมหาดไทยจึงได้จัดตั้ง สุขาภิบาลวัดชลอ ขึ้นเมื่อปี พ.ศ. 2500[4] ครอบคลุมพื้นที่ตำบลวัดชลอบริเวณริมคลองบางกอกน้อย[4] และจัดตั้ง สุขาภิบาลบางกรวย เมื่อปี พ.ศ. 2514[5] ครอบคลุมพื้นที่ตำบลบางกรวยตั้งแต่ริมแม่น้ำเจ้าพระยาจนถึงคลองวัดจันทร์[5]

สุขาภิบาลวัดชลอและสุขาภิบาลบางกรวยอันเป็นท้องถิ่นบริเวณที่ตั้งอำเภอบางกรวยมีประชากรและความเจริญมากขึ้นเป็นลำดับ ประกอบกับพื้นที่ที่ตั้งอยู่ระหว่างเขตสุขาภิบาลทั้งสองแห่งนั้นก็มีสภาพเช่นเดียวกัน ทางราชการเล็งเห็นความจำเป็นในการส่งเสริมให้ประชาชนในพื้นที่ได้ทะนุบำรุงท้องถิ่นตามระบบเทศบาล จึงได้ออกพระราชกฤษฎีการวมท้องที่สุขาภิบาลวัดชลอ สุขาภิบาลบางกรวย รวมทั้งท้องที่ตำบลวัดชลอและตำบลบางกรวยที่อยู่นอกเขตสุขาภิบาลทั้งสองแห่งตั้งเป็น เทศบาลตำบลบางกรวย เมื่อวันที่ 15 สิงหาคม พ.ศ. 2537 โดยมีผลบังคับใช้ตั้งแต่วันที่ 25 สิงหาคม ปีเดียวกัน[6]

เนื่องจากเทศบาลตำบลบางกรวยเป็นชุมชนเมืองที่มีที่ตั้งติดกับกรุงเทพมหานคร มีระบบสาธารณูปโภคสะดวกสบาย ทำให้ความเจริญหลั่งไหลเข้าสู่พื้นที่อย่างรวดเร็ว ในเขตเทศบาลจึงมีประชากรหนาแน่นขึ้นมากและมีความเจริญทางเศรษฐกิจเพิ่มขึ้นจนเข้าเกณฑ์ที่จะยกฐานะเป็นเทศบาลเมืองได้ เมื่อวันที่ 11 ธันวาคม พ.ศ. 2545 จึงมีพระราชกฤษฎีกาเปลี่ยนแปลงฐานะเทศบาลตำบลบางกรวยเป็น เทศบาลเมืองบางกรวย โดยมีผลบังคับใช้ตั้งแต่วันที่ 17 ธันวาคม เป็นต้นมา[7]