ระหว่างปี ค.ศ. 1926 ถึง 1930 เขาทำงานเป็น "อาจารย์อิสระ" ("Privatdozent" เป็นตำแหน่งในระบบมหาวิทยาลัยยุโรป สำหรับผู้ที่ต้องการจะเป็นศาสตราจารย์มหาวิทยาลัย ตำแหน่งนี้ไม่มีเงินเดือนประจำ) โดยในขณะนั้นเขาเป็นอาจารย์อิสระที่อายุน้อยที่สุดมหาวิทยาลัยเบอร์ลิน ประเทศเยอรมนี

ในปี ค.ศ. 1930 นอยมันน์ได้รับเชิญให้ไปยังเมืองพรินซ์ตัน, รัฐนิวเจอร์ซีย์ และได้เป็นหนึ่งในหกบุคคล(J. W. Alexander, อัลเบิร์ต ไอน์สไตน์, Marston Morse, Oswald Veblen, จอห์น ฟอน นอยมันน์ และ Hermann Weyl) ที่ถูกคัดเลือกเพื่อเป็นอาจารย์ประจำชุดแรกของ Institute for Advanced Study เขาเป็นศาสตราจารย์คณิตศาสตร์ที่นั่น ตั้งแต่เริ่มก่อตั้งสาขาวิชาในปี ค.ศ. 1933 จนกระทั่งวาระสุดท้ายของชีวิตเขา

ในช่วงสงครามโลกครั้งที่สอง นอยมันน์ได้มีส่วนร่วมใน โครงการแมนฮัตตัน (Manhattan Project) ซึ่งเป็นโครงการสร้างระเบิดปรมาณู

ช่วง ค.ศ. 1936 จนถึง 1938 แอลัน ทัวริง ได้เป็นนักเรียนแลกเปลี่ยนไปที่สถาบัน และเรียนจบปริญญาเอก โดยมีนอยมันน์เป็นอาจารย์ที่ปรึกษา การไปเป็นนักเรียนแลกเปลี่ยนครั้งนี้ของทัวริง เกิดขึ้นหลักจากที่เขาได้ดีพิมพ์บทความวิชาการ "On Computable Numbers with an Application to the Entscheidungs-problem" ในปี ค.ศ. 1934 ได้ไม่นาน. งานตีพิมพ์นี้ เกี่ยวข้องกับ หลักการของ logical design และ universal machine. ถึงแม้จะเป็นที่แน่ชัดว่า นอยแมนรู้ถึงแนวความคิดของทัวริง แต่ก็ไม่เป็นที่แน่ชัดว่า เขาได้ใช้หลักการของทัวริง ในการออกแบบเครื่อง IAS ที่ถูกสร้างในเวลา 10 ปีต่อมา

นอยมันน์นั้น ได้รับการขนานนามว่าเป็น บิดาของทฤษฎีเกม (game theory). เขาได้ตีพิมพ์หนังสือ Theory of Games and Economic Behavior โดยร่วมเขียนกับ Oskar Morgenstern ในปี ค.ศ. 1944 เขาได้คิดหลักการ "MAD" (mutually assured destruction) ซึ่งเทียบเท่าสำนวนจีนว่า "หยกกระเบื้องล้วนแหลกราญ" หรืออาจแปลไทยได้เป็น "รับรองได้ว่าเจ๊งไปด้วยกันทั้งคู่แน่" ซึ่งเป็นหลักการซึ่งใช้เป็นหลักสำคัญ ในการวางแผนกลยุทธ์ทางด้านอาวุธนิวเคลียร์ของอเมริกา ในช่วงสงครามเย็น

นอยมันน์เป็นคนคิด สถาปัตยกรรมแบบ ฟอน นอยมันน์ ซึ่งใช้กันในคอมพิวเตอร์ (แบบที่ไม่ได้ประมวลผลแบบขนาน) ส่วนใหญ่ พูดได้ว่า คอมพิวเตอร์เกือบทั้งหมดในโลกนี้ เป็นเครื่องจักรแบบ ฟอน นอยมันน์ เขาเป็นผู้ริเริ่มสาขา cellular automata และได้สร้างตัวอย่างชุดแรกของ self-replicating automata โดยใช้แค่กระดาษกราฟ กับ ดินสอธรรมดาๆ (ไม่มีคอมพิวเตอร์ช่วยเลย) คำว่า เครื่องจักรแบบ ฟอน นอยมันน์ ยังหมายความถึง เครื่องจักรที่สร้างตนเองซ้ำได้ (self-replicating machine)

นอยมันน์ได้พิสูจน์ว่า การใช้เครื่องจักรที่สร้างตนเองซ้ำได้ เป็นวิธีที่มีประสิทธิภาพที่สุด ในการทำเหมืองขนาดใหญ่มากๆ อย่างการทำเหมืองบนดวงจันทร์ หรือ แถบดาวเคราะห์น้อย เนื่องจากกลไกแบบนี้จะมีการเติบโตเป็นแบบเลขชี้กำลัง