สายการบินนี้ก่อตั้งเมื่อวันที่ 27 ธันวาคม พ.ศ. 2495 ในนามของ นิปปอนเฮลิคอปเตอร์ แอนด์ แอร์โร่เพลน โดยมีชื่อย่อว่า NH NH เริ่มบริการเที่ยวบินเฮลิคอปเตอร์ครั้งแรกในเดือนกุมภาพันธ์ 2496 โดยเป็นเที่ยวบินเช่าเหมาลำ และ 15 ธันวาคมปีเดียวกัน NH ได้ทำการบินในเที่ยวบินขนส่งสินค้า ระหว่างโอซากะและโตเกียวด้วยเครื่องบินรุ่น de Havilland Dove ต่อมาให้บริการเที่ยวบินผู้โดยสารในวันที่ 1 กุมภาพันธ์ 2497 ในเส้นทางเดียวกัน และทำการเปลี่ยนอากาศยานเป็นรุ่น de Havilland Heron และได้ขยายเส้นทางการบินสู่คิวชู และ ซัปโปโร

ฟาร์อีสเทิร์นแอร์ไลน์ (Far Eastern Airlines) เป็นอีกสายการบินหนึ่งที่เป็นส่วนก่อตั้ง ANA โดย FEA ก่อตั้งขึ้นในวันที่ 26 ธันวาคม พ.ศ. 2495 ก่อนหน้า NH เพียงหนึ่งวัน แต่กระนั้นก็มิได้ทำการบินจนกระทั่งวันที่ 20 มกราคม 2497 ในเที่ยวบินขนส่งสินค้า ระหว่างโอซากะและโตเกียว และใช้เครื่อง de Havilland Dove และขยายเส้นทางจากโตเกียวสู่ คาโกชิม่า

FEA ได้ควบรวมกิจการกับ NH ในวันที่ 1 ธันวาคม 1957 และเปลี่ยนชื่อเป็น ออล นิปปอน แอร์เวย์ โดยสาหเตุที่เลือกชื่อนี้เพราะว่า คำว่า Japan Airlines แม้จะเป็นชื่อสามัญ แต่ได้จดทะเบียนเป็นชื่อสายการบินไปแล้ว จนในที่สุดได้เลือกเอาชื่อ "ออล นิปปอน แอรเวย์" มาใช้อย่างเป็นทางการ