ปวิณ เริ่มรับราชการในสังกัดกรมการปกครอง ในตำแหน่งเจ้าพนักงานปกครอง ระดับ 3 (ปลัดอำเภอ)[5] เมื่อปี พ.ศ. 2527 ต่อมาในปี พ.ศ. 2535 ได้โอนมาดำรงตำแหน่งเจ้าหน้าที่บริหารงานทั่วไป กองกลาง สำนักงานปลัดกระทรวงมหาดไทย ต่อมาได้รับแต่งตั้งเป็นหัวหน้าฝ่ายบรรจุและแต่งตั้ง หัวหน้าฝ่ายแผนอัตรากำลัง กองการเจ้าหน้าที่ สำนักงานปลัดกระทรวงมหาดไทย เป็นหัวหน้ากลุ่มงานพัฒนาระบบราชการ สำนักงานปลัดกระทรวงมหาดไทย

ในปี พ.ศ. 2547 โอนย้ายไปรับตำแหน่งพนักงานสอบสวนคดีพิเศษ กรมสอบสวนคดีพิเศษ ต่อมาในปี พ.ศ. 2549 โอนกลับมารับราชการในตำแหน่งผู้อำนวยการกองการเจ้าหน้าที่ สำนักงานปลัดกระทรวงมหาดไทย และเป็นผู้อำนวยการศูนย์เทคโนโลยีสารสนเทศและการสื่อสาร สำนักงานปลัดกระทรวงมหาดไทย ในปีถัดมา กระทั่งในปี พ.ศ. 2552 ได้รังแต่งตั้งเป็นรองผู้ว่าราชการจังหวัดอำนาจเจริญ ในปี พ.ศ. 2555 รองผู้ว่าราชการจังหวัดสมุทรปราการ

ในปี พ.ศ. 2556 ได้รับแต่งตั้งเป็นผู้ตรวจราชการกระทรวงมหาดไทย ในวันที่ 1 ตุลาคม จากนั้นในวันที่ 2 ตุลาคม ได้รับแต่งตั้งเป็นผู้ว่าราชการจังหวัดอ่างทอง กระทั่งเป็นผู้ว่าราชการจังหวัดเชียงใหม่ ในปี พ.ศ. 2558 ในปี พ.ศ. 2561 ได้รับการแต่งตั้งเป็นรองปลัดกระทรวงมหาดไทย โดยสลับตำแหน่งกับนายศุภชัย เอี่ยมสุวรรณ