อำเภอพญาไท ได้รับการจัดตั้งขึ้นเป็นครั้งแรกเมื่อ พ.ศ. 2509[2] ตั้งชื่อตามพระราชวังพญาไทซึ่งเป็นวังที่พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัวโปรดเกล้าฯ ให้สร้างขึ้นเป็นตำหนักสำหรับเสด็จประพาสบนที่ดินริมคลองสามเสน ทุ่งพญาไท[3] ช่วงแรกอำเภอพญาไทแบ่งเขตการปกครองออกเป็น 7 ตำบล เป็นพื้นที่อำเภอดุสิตเดิม 5 ตำบล ได้แก่ ตำบลทุ่งพญาไท ตำบลถนนพญาไท ตำบลถนนเพชรบุรี ตำบลมักกะสัน และตำบลสามเสนใน และเป็นพื้นที่อำเภอบางกะปิเดิม 2 ตำบล ได้แก่ ตำบลห้วยขวางและตำบลบางกะปิ[2] จนกระทั่งใน พ.ศ. 2514 จังหวัดพระนครถูกรวมเข้ากับจังหวัดธนบุรี เปลี่ยนฐานะเป็นนครหลวงกรุงเทพธนบุรี[4] และในปี พ.ศ. 2515 จึงเปลี่ยนแปลงฐานะเป็นกรุงเทพมหานคร[5] ซึ่งเปลี่ยนคำเรียกเขตการปกครองใหม่ด้วย อำเภอพญาไทได้รับการเปลี่ยนแปลงฐานะเป็น เขตพญาไท ส่วนตำบลต่าง ๆ ก็เปลี่ยนฐานะเป็นแขวง

จากนั้นทางราชการได้เปลี่ยนแปลงพื้นที่ปกครองของเขตพญาไทหลายครั้ง เพื่อจัดขนาดพื้นที่และจำนวนประชากรของแต่ละเขตให้มีความสมดุล เริ่มตั้งแต่ใน พ.ศ. 2516 แขวงห้วยขวางและแขวงบางกะปิได้รับการยกฐานะเป็นเขตห้วยขวาง[6] ต่อมาใน พ.ศ. 2521 แขวงดินแดงและบางส่วนของแขวงสามเสนในถูกโอนไปขึ้นกับเขตห้วยขวาง ในขณะที่พื้นที่บางส่วนของแขวงห้วยขวางและแขวงบางกะปิก็ถูกโอนมารวมกับแขวงสามเสนในและแขวงมักกะสัน[7] ใน พ.ศ. 2532 พื้นที่ 4 แขวงทางทิศใต้ของเขตได้ถูกแยกออกไปตั้งเป็นเขตราชเทวี[8] การปรับปรุงเขตปกครองครั้งนี้ส่งผลให้เขตพญาไทเหลือแขวงสามเสนในอยู่เพียงแขวงเดียว ส่วนพระราชวังพญาไทซึ่งเป็นที่มาของชื่อเขต รวมทั้งถนนพญาไทก็ไม่ได้อยู่ในพื้นที่ของเขตอีกต่อไป แต่ไปอยู่ในเขตราชเทวีแทน และสุดท้ายในปี พ.ศ. 2537 พื้นที่ทางทิศตะวันออกเฉียงใต้ของเขตก็ถูกแยกไปรวมกับเขตดินแดงที่เพิ่งตั้งขึ้นใหม่[9]