กองทัพแห่งสาธารณรัฐจีนมีรากฐานมาจากกองทัพปฏิวัติแห่งชาติจีนซึ่งก่อตั้งโดย ดร.ซุน ยัตเซ็น ในปี ค.ศ. 1925 ที่ เมืองกวางตุ้ง กับเป้าหมายของการรวมประเทศจีนภายใต้ก๊กมินตั๋ง

โดยแรกเริ่มนั้นกองทัพปฏิวัติได้ถูกจัดตั้งโดยการช่วยเหลือทางทหารจากสหภาพโซเวียต เพื่อช่วยให้พรรคก๊กมินตั๋งในการรวบรวมประเทศจีนในช่วงยุคขุนศึก กองทัพปฏิวัติแห่งชาติด้ทำการสู้รบในการรบหลักคือ การกรีฑาทัพขึ้นเหนือ, การต่อต้านกองทัพจักรวรรดิญี่ปุ่นในสงครามจีน-ญี่ปุ่นครั้งที่สองและในการสู้รบกับกองทัพปลดปล่อยประชาชนของพรรคคอมมิวนิสต์จีนในสงครามกลางเมืองจีน

และการร่วมมือยังคงมีความขัดแย้งและในที่สุดพรรคคอมมิวนิสต์ได้แยกออกไปกองทัพปลดปล่อยประชาชนของตนเองหลังสงครามกับญี่ปุ่นยุติลง ด้วยการปรักาศใช้รัฐธรรมนูญแห่งสาธารณรัฐจีนปี ค.ศ. 1947 และการสิ้นสุดการปกครองจีนแผ่นดินใหญ่ของก๊กมินตั๋ง หลังจากการพ่ายแพ้ของพรรคก๊กมินตั๋งในสงครามกลางเมืองจีนให้กับพรรคคอมมิวนิสต์จีน และกองทัพปฏิวัติแห่งชาติได้ล่าถอยอพยพไปยังเกาะไต้หวันในปี ค.ศ. 1949 ต่อมากองทัพปฏิวัติแห่งชาติได้ถูกเปลี่ยนชื่อเป็นกองทัพแห่งสาธารณรัฐจีน