รัฐบาลอาณานิคมได้ประกาศภาวะฉุกเฉินในมลายาเมื่อ 16 มิถุนายน พ.ศ. 2491 หลังจากที่มีชาวยุโรปถูกสมาชิกพรรคคอมมิวนิสต์ฆ่าตายในรัฐเปรัก ตำรวจพยายามเข้ากวาดล้างพรรคคอมมิวนิสต์ ในอีกสองสัปดาห์ต่อมา สมาชิกพรรคฯราว 100 คนถูกจับกุม พรรคกลายเป็นพรรคนอกกฎหมายเมื่อ 23 กรกฎาคม พ.ศ. 2491 พรรคนี้ได้จัดตั้งกองทัพประชาชนมลายาต่อต้านอังกฤษซึ่งส่วนใหญ่มาจากกองทัพประชาชนมลายาต่อต้านญี่ปุ่นเดิม เลา เยิวถูกฆ่าในการปะทะเมื่อ 16 กรกฎาคม ส่วนจิน เป็งหลบหนีไปได้ กองทัพของพรรคเริ่มหลบหนีเข้าป่า เพื่อจัดตั้งพื้นที่ปลดปล่อยในพื้นที่ห่างไกล กองกำลังประชาชนมลายาต่อต้านอังกฤษก็ประสบความสำเร็จน้อย เพราะการจัดองค์กรไม่ดีและขาดการฝึกฝน

ในวันที่ 1 กุมภาพันธ์ พ.ศ. 2492 กองกำลังประชาชนต่อต้านอังกฤษเปลี่ยนชื่อมาเป็นกองทัพปลดปล่อยประชาชนมลายา และพรรคได้ประกาศต่อสู้เพื่อจัดตั้งสาธารณรัฐประชาธิปไตยประชาชนมลายาซึ่งรวมสิงคโปร์ด้วย กองทัพปลดปล่อยควบคุมโดยคณะกรรมการกลางทางการทหาร ที่ประกอบด้วยคณะโปลิตบูโร และบางส่วนของผู้บัญชาการทางทหารและตำรวจ สมาชิกที่มีอิทธิพลได้แก่ จินเปง เยือง โกว และเลา ลี กองทัพมีทหารประมาณ 4,000 คนและเป็นหญิง 10% แบ่งเป็น10 ส่วน 9 ส่วนเป็นกองกำลังชาวมลายาเชื้อสายจีน อีก 1 ส่วนเป็นของชาวมลายู และชาวมลายาเชื้อสายอินเดีย ซึ่งส่วนสุดท้ายนี้ถูกอังกฤษทำลายไปเพื่อให้พรรคนี้เป็นพรรคของชาวจีน

กองทัพอังกฤษได้จัดให้มีการตั้งถิ่นฐานใหม่และอารักขาหมู่บ้านใหม่ด้วยตำรวจ ตั้งแต่เดือนมิถุนายน พ.ศ. 2494 อังกฤษได้ใช้นโยบายปิดล้อมให้อดอาหาร ซึ่งในพื้นที่จำกัดอาหาร จะให้ทำอาหารกินที่บ้านเท่านั้น ห้ามมีร้านอาหารหรือการขายอาหารในที่ทำงาน ร้านค้าถูกจำกัดจำนวนขายโดยเฉพาะอาหารกระป๋อง การเผาหมู่บ้านที่ต้องสงสัยว่าร่วมมือกับคอมมิวนิสต์เป็นสิ่งที่พบได้ทั่วไป การปิดล้อมทางอาหารให้ผลสำเร็จมาก ใน พ.ศ. 2496 กองทัพปลดปล่อยฯประสบปัญหาการขาดแคลนอาหารและจำนวนทหารลดลง การจัดตั้งพื้นที่ปลดปล่อยไม่ประสบความสำเร็จ พรรคคอมมิวนิสต์ต้องกลับมาดำเนินงานในฐานะพรรคการเมือง

ในเดือนกรกฎาคม พ.ศ. 2498 มีการเลือกตั้งทั่วไปในมลายาและตวนกูอับดุลเราะห์มานได้เป็นนายกรัฐมนตรี ในวันที่ 24 กันยายน พ.ศ. 2498 จิน เป็งได้เขียนจดหมายถึงอับดุลเราะห์มานเพื่อเจรจาสันติภาพ และได้รับการยอมรับในวันที่ 17 ตุลาคม ตัวแทนของรัฐบาลและพรรคคอมมิวนิสต์ได้เจรจากันแต่ตกลงกันไม่ได้ ฝ่ายรัฐบาลต้องการให้สลายพรรค แต่ทางพรรคคอมมิวนิสต์ปฏิเสธ ใน พ.ศ. 2499 จิน เป็งได้ติดต่ออับดุลเราะห์มานเพื่อขอเจรจาอีกแต่อับดุลเราะห์มานปฏิเสธ ในช่วงกลางปี พ.ศ. 2501 กองทัพปลดปล่อยมลายาคงอยู่เฉพาะในรัฐเปรักและทางใต้ของยะโฮร์ ต่อมา ใน พ.ศ. 2502 กองทัพปลดปล่อยมีกิจกรรมเฉพาะตามแนวชายแดนไทยเท่านั้น