กองทัพสาธารณรัฐจีนมีรากฐานมาจากกองทัพปฏิวัติแห่งชาติจีน ซึ่งก่อตั้งโดยดร.ซุน ยัตเซ็น ในปี ค.ศ. 1925 ในมณฑลกวางตุ้งโดยมีเป้าหมายในการรวมประเทศจีนภายใต้พรรคก๊กมินตั๋ง จนกระทั่งเมื่อกองทัพปลดปล่อยประชาชนจีนของพรรคคอมมิวนิสต์จีนชนะสงครามกลางเมืองจีน กองทัพปฏิวัติแห่งชาติจำนวนมากได้ถอยกลับมายังไต้หวันพร้อมกับรัฐบาลคณะชาติ ซึ่งต่อมาถูกปรับปรุงเป็นกองทัพสาธารณรัฐจีน หน่วยที่ยอมจำนนและยังคงอยู่ในจีนแผ่นดินใหญ่ถูกยุบหรือรวมเข้ากับกองทัพปลดปล่อยประชาชนจีน

ในปัจจุบันไต้หวันได้ดำรงรักษากองทัพขนาดใหญ่และมีความก้าวหน้าทางเทคโนโลยีซึ่งส่วนใหญ่เป็นการป้องกันการคุกคามอย่างต่อเนื่องของการบุกรุกโดยกองทัพปลดปล่อยประชาชนจีนพรรคคอมมิวนิสต์จีนที่ปกครองสาธารณรัฐประชาชนจีนได้บังคับใช้ "กฎหมายต่อต้านการแบ่งแยกดินแดน" (Anti-Secession Law) กฎหมายฉบับนี้ซึ่งผ่านรัฐสภาของจีนในปี 2005 ได้ปฏิเสธความเป็นรัฐเอกราชของไต้หวัน ให้ถือนโยบายจีนเดียว และได้กำหนดวิธีการต่างๆในการรวมชาติของสองแผ่นดินจีนให้เกิดขึ้นได้จริง กฎหมายฉบับนี้ยังได้ระบุถึง "การดำเนินการที่ไม่ใช่สันติวิธี" (ซึ่งก็คือการทำสงคราม) เอาไว้ด้วย หากจีนเชื่อว่ามีความเป็นไปได้ที่การรวมชาติโดยไม่เสียเลือดเนื้อประสบความล้มเหลว

จากปี ค.ศ.1949 ถึงปี ค.ศ. 1970 ภารกิจหลักของกองทัพสาธารณรัฐจีนคือ "ทวงคืนเอาจีนแผ่นดินใหญ่กลับคืนมา" ผ่านภารกิจเกียรติยศแห่งชาติ เนื่องจากภารกิจนี้ถูกเลื่อนและยกเลิกไปชั่วคราว เนื่องจากความแข็งแกร่งทางการทหารของสาธารณรัฐประชาชนจีนที่เพิ่มขึ้นอย่างมาก กองทัพสาธารณรัฐจีนเปลี่ยนนโยบายไปเป็นเน้นการป้องกันแทนนโยบายดังกล่าวเริ่มเปลี่ยนการเน้นจากกองทัพที่โดดเด่นตามแบบดั้งเดิมมาเป็นกองทัพอากาศและกองทัพเรือ

รัฐบาลสาธารณรัฐจีน (ไต้หวัน) ได้ตระหนักถึงความสำคัญของประชาธิปไตยในการทหารจึงได้เน้นการริเริ่มจัดให้มีการควบคุมโดยพลเรือนทำให้การควบคุมกองทัพสาธารณรัฐจีนก็เปลี่ยนผ่านเข้ามาอยู่ในการบริหารของรัฐบาลพลเรือน[32][33]ในขณะที่ทหารสาธารณรัฐจีนมีส่วนร่วมทางประวัติศาสตร์กับพรรคก๊กมินตั๋ง เจ้าหน้าที่ระดับสูงรุ่นเก่าจึงมีความเห็นอกเห็นใจแนวคิดสนับสนุนพรรค อย่างไรก็ตามมีคนจำนวนมากที่เกษียณอายุราชการและมีผู้ที่ไม่ใช่ชาวแผ่นดินใหญ่เข้าร่วมในกองทัพในรุ่นต่อมาดังนั้นความเอนเอียงทางการเมืองของกองทัพจึงเข้ามาใกล้กับบรรทัดฐานของประชาชนในไต้หวัน[34]กองทัพสาธารณรัฐจีนได้เริ่มโครงการลดจำนวนกำลังพล หรือ "จิงฉืออัน" (Jingshi An) (เป็นโครงการปรับปรุงประสิทธิภาพ) เพื่อลดระดับกองทัพจากจำนวน 450,000 นาย ในปี ค.ศ. 1997 เป็น 380,000 นาย ในปี ค.ศ. 2001[35] การเกณฑ์ทหารในไต้หวันยังคงมีผลบังคับใช้สำหรับผู้ชายที่มีคุณสมบัติเริ่มตั้งแต่อายุสิบแปด แต่เป็นส่วนหนึ่งของความพยายามในการลดจำนวนมากเพื่อที่จะให้ได้รับโอกาสในการปฏิบัติราชการรับใช้ชาติตามข้อกำหนดร่างผ่านการรับใช้ราชการชาติทางเลือกและถูกส่งไปยังหน่วยงานราชการหรืออุตสาหกรรมที่เกี่ยวข้องกับการป้องกันประเทศ[36]