ภายหลังเหตุการณ์กบฏเงี้ยวสยามได้ปลดเจ้าพิริยเทพวงษ์ออกจากการเป็นเจ้าผู้ครองนครแพร่ และถอดบรรดาศักดิ์ลงเป็นไพร่ให้เรียกว่า น้อยเทพวงษ์ ท่านได้ลี้การเมืองไปประทับยังหลวงพระบาง ประเทศลาว[7] โดยได้รับความช่วยเหลือจากเจ้าชีวิตวังหน้าแห่งหลวงพระบาง โดยมอบตำแหน่งกำนันบ้านเชียงแมน ซึ่งอยู่ฝั่งตะวันตกตรงข้ามกับเมืองหลวงพระบางให้ท่าน และยกหลานสาวชื่อนางจันหอมให้เป็นชายาเพื่อปรนนิบัติ พร้อมกับบ่าวไพร่ชาวลาว จนกระทั่งถึงแก่พิราลัยในปี พ.ศ. 2455 สิริอายุ 76 ปี ซึ่งมีการรายงานเข้ามายังกรุงเทพฯ ถึงการเสียชีวิตของน้อยเทพวงษ์ ซึ่งทางราชการสยามเพียงแต่รับทราบโดยไม่มีความคิดเห็นใด ๆ