รูปที่ไม่ได้เป็นรูปหลายเหลี่ยมนูนจะเรียกว่าเป็น รูปหลายเหลี่ยมเว้า (อังกฤษ: concave polygon) [2] หรือ รูปหลายเหลี่ยมวกเข้า (อังกฤษ: reentrant polygon) [3] รูปหลายเหลี่ยมเว้าจะมีมุมภายในมุมหนึ่งที่มีขนาดมากกว่า 180 องศาเสมอ

รูปหลายเหลี่ยมเว้าเป็นไปได้ที่จะสามารถตัดแบ่งให้เป็นรูปหลายเหลี่ยมนูนหลายรูป ขั้นตอนวิธีสำหรับการแยกส่วนเป็นรูปย่อยไม่กี่รูป โดยใช้เวลาคำนวณเชิงพหุนาม สามารถทำได้และได้อธิบายไว้แล้วโดย Chazelle กับ Dobkin [4]