ท้องที่ที่เป็นอำเภอบางใหญ่ทุกวันนี้เดิมอยู่ในเขตการปกครองของอำเภอบางใหญ่ (บางกรวย) และอำเภอบางบัวทองซึ่งมีพื้นที่กว้างขวางมาก ในปี พ.ศ. 2460 ทางราชการจึงได้พิจารณาแบ่งตำบลบางใหญ่และบางม่วงจากอำเภอบางใหญ่ (บางกรวย) และแบ่งตำบลบางแม่นาง เสาธงหิน และบ้านใหม่จากอำเภอบางบัวทองมาจัดตั้งเป็น กิ่งอำเภอบางแม่นาง เพื่อความสะดวกในการปกครอง[3] ในช่วงแรกตั้งที่ว่าการกิ่งอำเภออยู่บริเวณวัดส้มเกลี้ยง หมู่ที่ 2 ตำบลบางแม่นาง[4]

ในวันที่ 1 เมษายน พ.ศ. 2464 กิ่งอำเภอบางแม่นางได้รับโอนตำบลบางเลนจากอำเภอนนทบุรีมาอยู่ในการปกครอง และยกฐานะขึ้นเป็น อำเภอบางแม่นาง ตามประกาศกระทรวงนครบาล[5] ต่อมาในปี พ.ศ. 2466 ได้ย้ายที่ว่าการอำเภอมาตั้งในท้องที่หมู่ที่ 2 ตำบลบางม่วง[6] บริเวณปากคลองบางใหญ่แยกคลองอ้อมนนท์และคลองบางกอกน้อย ประชาชนจึงนิยมเรียกอำเภอนี้ว่า "บางใหญ่" ตามไปด้วย จนกระทั่งในวันที่ 19 ตุลาคม พ.ศ. 2473 กระทรวงมหาดไทยได้ประกาศเปลี่ยนชื่ออำเภอบางแม่นางเป็น อำเภอบางใหญ่ ตามความคุ้นเคยของประชาชน ส่วนอำเภอบางใหญ่ (เดิม) นั้นเปลี่ยนชื่อเป็น "อำเภอบางกรวย" แทน เพื่อไม่ให้ซ้ำซ้อนกัน[7]

ครั้นในปี พ.ศ. 2486 ประเทศไทยประสบปัญหาเศรษฐกิจตกต่ำอย่างหนักเพราะได้รับผลกระทบจากสงครามโลกครั้งที่ 2 จังหวัดนนทบุรีถูกยุบลงเพื่อเป็นการประหยัดงบประมาณราชการ อำเภอบางใหญ่ถูกโอนไปขึ้นกับจังหวัดธนบุรีพร้อมกับอำเภอบางบัวทองและอำเภอบางกรวย จนกระทั่งในปี พ.ศ. 2489 ได้มีการจัดตั้งจังหวัดนนทบุรีขึ้นมาอีกครั้ง[8] อำเภอบางใหญ่จึงกลับมาอยู่ในการปกครองของทางจังหวัดจนถึงปัจจุบัน

ต่อมาในปี พ.ศ. 2532 อำเภอบางใหญ่พร้อมทั้งส่วนราชการอื่น ๆ ได้ย้ายที่ทำการไปตั้งในหมู่บ้านบางใหญ่ซิตี้ ใกล้จุดตัดระหว่างถนนรัตนาธิเบศร์กับถนนตลิ่งชัน-สุพรรณบุรี เนื่องจากได้รับบริจาคที่ดินให้สร้างศูนย์ราชการขึ้น นับแต่นั้นมา การเป็นที่ตั้งหน่วยงานการบริหารราชการ ประกอบกับการโฆษณาของหมู่บ้านจัดสรรแห่งนั้นทำให้บางใหญ่ซิตี้กลายเป็นชุมชนบางใหญ่และย่านบางใหญ่ในความรับรู้ของคนทั่วไป ส่วนตัวอำเภอบางใหญ่เดิมนั้นปัจจุบันมักถูกเรียกว่า "บางใหญ่เก่า" และอยู่ในเขตเทศบาลตำบลบางม่วง[9]