จินเปงมีบทบาทมากในระหว่างสงครามโลกครั้งที่สอง ซึ่งชาวจีนในมลายาจำนวนมากต่อสู้แบบกองโจรต่อต้านญี่ปุ่นโดยได้แบบอย่างมาจากพรรคคอมมิวนิสต์จีนซึ่งเป็นที่รู้จักในชื่อกองทัพประชาชนมลายาต่อต้านญี่ปุ่น จิน เปงเป็นผู้ประสานระหว่างกองทัพประชาชนและกองทัพอังกฤษในเอเชียตะวันออกเฉียงใต้

การรุกรานมลายาของญี่ปุ่นเริ่มขึ้นในเดือนธันวาคม พ.ศ. 2484 โดยใน พ.ศ. 2485 จิน เปง เป็นหนึ่งในสามของเลขาธิการรัฐเปรัก ต่อมาต้นปี พ.ศ. 2486 คนที่อาวุโสกว่าเขาสองคนถูกญี่ปุ่นจับตัว การติดต่อกับศูนย์กลางของพรรคขาดหายไป เขาพยายามเดินทางไปกัวลาลัมเปอร์เพื่อเข้าพบไช เกอ หมิง ต่อมา ไลเตก ผู้นำพรรคได้ส่งคณะกรรมการคนอื่นไปแทนจิน เปง คือ ลี เซียวเปงให้ไปเป็นเลขาธิการของรัฐ แต่ลีถูกจับกุมระหว่างเดินทางไปสิงคโปร์ ดังนั้น หน้าที่ในการติดต่อกับกองทัพ 136 จึงตกเป็นของจิน เปง และจากการติดต่อระหว่างสงคราม ทำให้เขาได้รับเหรียญจากอังกฤษ เขาได้เป็นเลขาธิการทั่วไปของพรรค หลังจากนั้น ไล เตก ผู้นำพรรคทรยศ เขากลายเป็นผู้อาวุโสที่สุดที่รอดมาได้