นายพ่วง สุวรรณรัฐ เกิดเมื่อวันที่ 11 กรกฎาคม พ.ศ. 2454 ณ อำเภอสิชล จังหวัดนครศรีธรรมราช เป็นบุตรของนายรื่น และนางทองอยู่ สุวรรณรัฐ มีพี่น้องร่วมบิดา-มารดา 2 คนคือ ขุนสุวรรณรัตนราช (เชย สุวรรณรัฐ) และนางแช่ม ณ นคร จบชั้นมัธยมศึกษาจากโรงเรียนสวนกุหลาบวิทยาลัย ระดับอุดมศึกษาเริ่มที่คณะรัฐศาสตร์ จุฬาลงกรณ์มหาวิทยาลัย พ.ศ. 2475 จนถึงชั้นปีที่ 2 จึงโอนไปศึกษาที่มหาวิทยาลัยธรรมศาสตร์และการเมือง จนสำเร็จการศึกษา และได้รับพระราชทานปริญญาธรรมศาสตรบัณฑิตในปี พ.ศ. 2477

นายพ่วง สุวรรณัฐ สมรสกับท่านผู้หญิงประสารสุวรรณ สุวรรณรัฐ (นามเดิม : หม่อมราชวงศ์ประสารสุวรรณ ทองแถม) เป็นธิดาของหม่อมเจ้าทองเชื้อธรรมชาติ ทองแถม กับหม่อมเจ้าพันธ์สิหิงค์ ทองใหญ่ เมื่อปี พ.ศ. 2484 มีบุตรธิดา 4 คน คือ

1. ท่านผู้หญิงพรรณวดี จุฑารัตนกุล นางสนองพระโอษฐ์ในสมเด็จพระนางเจ้าฯพระบรมราชินีนาถ สมรสกับ นายจเร จุฑารัตนกุล อดีตปลัดกระทรวงพาณิชย์
2. นางพิยดา สุวรรณรัฐ ประกอบอาชีพอิสระ สมรสกับนายเฮนริค แลงเฟลด์
3. นายพลากร สุวรรณรัฐ องคมนตรี[1] สมรสกับท่านผู้หญิงทัศนียา (โฆวินทะ)
4. นางภราไดย สุวรรณรัฐ สมรสกับ นายทินกร หิรัญพฤกษ์ ซึ่งมีลูกชายเป็นดารานักแสดงหนุ่ม "ภูริ หิรัญพฤกษ์"
5. นายพระนาย สุวรรณรัฐ สมรสกับ ทิพวิภา กัมปนาทแสนยากร

นายพ่วง สุวรรณัฐ เป็นข้าราชการฝ่ายปกครอง เคยดำรงตำแหน่งผู้ว่าราชการจังหวัดสงขลา ในระหว่างปี พ.ศ. 2495 ถึงปี พ.ศ. 2501 มีผลงานที่โดดเด่นคือ ด้านการปราบปราม กรณีปิดล้อมตลาดนัดท่ามกลางคนนับพัน ปิดล้อมหมู่บ้าน ฉุดเอาครูหญิงไปทำมิดีมิร้ายกลางวัน ปล้นเรือโดยสารในทะเลสาบและทะเลหลวง ตั้งก๊กเก็บเงินค่ารักษาความเรียบร้อยจากบ้านเรือนหลังละห้าสิบสตางค์ต่อเดือน

นายพ่วง เคยได้รับการแต่งตั้งเป็นสมาชิกวุฒิสภาในวุฒิสภาไทย ชุดที่ 3[2] และวุฒิสภาไทย ชุดที่ 4

ต่อมาเป็นปลัดกระทรวงมหาดไทย ในระหว่างปี พ.ศ. 2511 ถึงปี พ.ศ. 2515 และในเดือนธันวาคมของปีเดียวกัน นายพ่วง ได้รับโปรดเกล้าฯ แต่งตั้งเป็นรัฐมนตรีช่วยว่าการกระทรวงมหาดไทย ในรัฐบาลจอมพลถนอม กิตติขจร (ครม.32)[3] และในรัฐบาลศาสตราจารย์สัญญา ธรรมศักดิ์ (ครม.33)[4]

นายพ่วง สุวรรณรัฐ ถึงแก่อนิจกรรมด้วยโรคชรา เมื่อวันที่ 10 พฤศจิกายน 2543 ณ โรงพยาบาลวิชัยยุทธ กรุงเทพมหานคร สิริรวมอายุ 89 ปี 4 เดือน