ขีปนาวุธอากาศสู่อากาศ ถูกพัฒนาขึ้นมาจากจรวดอากาศสู่อากาศไม่นำวิถีในสมัยสงครามโลกครั้งที่หนึ่ง โดยกองทัพเยอรมันนำจรวดติดตั้งไปกับเครื่องบินปีกสองชั้น ควบคุมการยิงโดยระบบไฟฟ้าในการทำลายบัลลูนตรวจการณ์ของอังกฤษ โดยนักบินกลุ่มแรกที่ใช้คือ อัลเบิร์ต บอล และ เอ เอ็ม วอลเตอร์ส[1] ต่อมาในสมัยสงครามโลกครั้งที่สอง กองทัพเยอรมันได้พยายามพัฒนาอาวุธเพื่อนำมาตอบโต้กับกองกำลังทางอากาศฝ่ายสัมพันธมิตร โดยได้ดัดแปลงจรวด อาร์4เอ็ม เป็นจรวดนำวิถีด้วยเส้นลวดครั้งแรก ในชื่อว่า Ruhrstahl X-4 แต่มิได้ใช้งานจริงในการรบ

หลังสงครามโลกกองทัพอังกฤษได้เปิดตัวจรวดไฟร์แฟลช ในปี พ.ศ. 2498 แต่ก็ยังไม่ประสบความสำเร็จเท่าที่ควร ต่อมากองทัพเรือสหรัฐได้ร่วมมือกับกองทัพอากาศสหรัฐพัฒนาขีปนาวุธนำวิถีขึ้น คือ เอไอเอ็ม-4 ฟัลคอน และได้พัฒนาขีปนาวุธในรุ่นต่อมา เช่น เอไอเอ็ม-7 สแปร์โรว์ และ เอไอเอ็ม-9 ไซด์ไวน์เดอร์ ในขณะที่ทางฝั่งโซเวียตได้เปิดตัวขีปนาวุธ คาลินินกราด เค-5 ในปี พ.ศ. 2500 เช่นกัน

ขีปนาวุธอากาศสู่อากาศมีการพัฒนาต่อไปอีกมาก จนกลายเป็นอาวุธหลักส่วนหนึ่งของอากาศยานหลากหลายประเภท ต่อมาหลักการของการรบ "ระยะนอกสายตา" ได้กลายมาเป็นหลักการสำคัญในการพัฒนาอาวุธนำวิถีในรุ่นหลัง ล่าสุดมีการพัฒนาขีปนาวุธนำวิถีตรวจจับความร้อนซึ่งสามารถจับเป้าหมายจากในหลายทิศทาง ไม่เฉพาะด้านหลังอย่างเดียว