ตำบลคันนายาว ได้รับการจัดตั้งขึ้นเป็นท้องที่การปกครองท้องที่หนึ่งของอำเภอบางกะปิ จังหวัดพระนคร โดยในปี พ.ศ. 2506 กระทรวงมหาดไทยได้ขยายเขตสุขาภิบาลบางกะปิให้ครอบคลุมถึงตำบลคันนายาวด้วย[7] จนกระทั่งในปี พ.ศ. 2514 จังหวัดพระนครถูกรวมเข้ากับจังหวัดธนบุรี เปลี่ยนฐานะเป็นนครหลวงกรุงเทพธนบุรี[8] และในปีถัดมา (พ.ศ. 2515) จึงเปลี่ยนแปลงฐานะเป็นกรุงเทพมหานคร[9] ซึ่งได้เปลี่ยนคำเรียกเขตการปกครองใหม่จากอำเภอและตำบลเป็นเขตและแขวงตามลำดับ ตำบลคันนายาวจึงได้รับการเปลี่ยนแปลงฐานะเป็น แขวงคันนายาว อยู่ในการปกครองของเขตบางกะปิ

ด้วยเหตุที่เขตบางกะปิมีเนื้อที่กว้างขวางมากและมีจำนวนประชากรเพิ่มขึ้น ขณะที่ท้องที่บางแห่งอยู่ไกลจากสำนักงานเขต ในปี พ.ศ. 2532 กระทรวงมหาดไทยจึงประกาศเปลี่ยนแปลงพื้นที่การปกครองใหม่เพื่อความสะดวกในการบริหารราชการ โดยจัดตั้งเขตบึงกุ่ม ประกอบด้วยแขวงคลองกุ่ม แขวงคันนายาว และแขวงสะพานสูงแยกจากเขตบางกะปิ โดยให้มีผลตั้งแต่วันที่ 4 กันยายนเป็นต้นไป[10] อย่างไรก็ตาม หลังจากแบ่งเขตใหม่แล้ว เขตบึงกุ่มยังคงมีท้องที่กว้างขวางและมีประชากรหนาแน่น ประกอบกับความเจริญทางด้านสาธารณูปโภคได้หลั่งไหลเข้าสู่พื้นที่เพิ่มขึ้นเรื่อย ๆ ในที่สุดเมื่อวันที่ 14 ตุลาคม พ.ศ. 2540 กระทรวงมหาดไทยจึงมีประกาศเปลี่ยนแปลงพื้นที่เขตการปกครองใหม่อีกครั้งหนึ่ง โดยแยกแขวงคันนายาว รวมกับหมู่ที่ 3, 11 (บางส่วน) ของแขวงคลองกุ่ม และหมู่ที่ 1, 2, 9, 10 (บางส่วน) ของแขวงจรเข้บัว เขตลาดพร้าว จัดตั้งเป็น เขตคันนายาว[11]

และในวันที่ 7 พฤศจิกายน ปีเดียวกัน กรุงเทพมหานครได้ประกาศตั้งแขวงคันนายาวเต็มพื้นที่เขตคันนายาวอย่างเป็นทางการ เพื่อความชัดเจนและประโยชน์ในด้านการปกครอง การบริหาร และการอำนวยความสะดวกแก่ประชาชน ประกาศทั้ง 2 ฉบับเริ่มมีผลบังคับใช้ในวันเดียวกันคือวันที่ 21 พฤศจิกายน ปีเดียวกัน[12][13] ซึ่งเป็นวันเดียวกับที่สำนักงานเขตคันนายาวได้เปิดให้บริการเป็นครั้งแรกพร้อมกับสำนักงานเขตแยกใหม่ทางฝั่งพระนครอีก 5 แห่ง ได้แก่ เขตสายไหม[12] เขตสะพานสูง[12] เขตหลักสี่[14] เขตวังทองหลาง[15] และเขตคลองสามวา[16] โดยใช้พื้นที่ชั้นล่างของศูนย์การค้าแฟชั่นไอส์แลนด์ซึ่งตั้งอยู่หมู่ที่ 7 แขวงคันนายาวเป็นที่ทำการ ต่อมาได้ย้ายมาตั้งสำนักงานเขตถาวรริมคลองครุ ในซอย 01 กาญจนาภิเษก 11/5 เมื่อช่วงสิ้นปี พ.ศ. 2552[3]