มังกร ผลโยธินเริ่มรับราชการในกองทัพบกตั้งแต่ยศร้อยตรี ได้รับพระราชทานบรรดาศักดิ์ หลวงพรหมโยธี[2] ในปีพ.ศ. 2471 และเจริญก้าวหน้าจนถึงพลเอก มีตำแหน่งสูงสุดคือ รองผู้บัญชาการทหารบก ในกองทัพบก รองผู้บัญชาการทหารสูงสุด ในกองบัญชาการทหารสูงสุด

พลเอก มังกร พรหมโยธี รับตำแหน่งรัฐมนตรีครั้งแรกเมื่อพ.ศ. 2481 เป็นรัฐมนตรีไม่ประจำกระทรวง[3] ต่อมาได้ย้ายไปเป็นรัฐมนตรีช่วยว่าการกระทรวงกลาโหม[4] และย้ายไปเป็นรัฐมนตรีว่าการกระทรวงกลาโหม ในเวลาต่อมาเมื่อรัฐบาลจะยกเลิกบรรดาศักดิ์ไทย หลวงพรหมโยธินในฐานะรัฐมนตรีพร้อมด้วยคณะรัฐมนตรีชุดที่ 9 จึงลาออกจากบรรดาศักดิ์ โดยกลับไปใช้ราชทินนามเป็นนามสกุลได้ว่า มังกร พรหมโยธี เมื่อ พ.ศ. 2484[5]

ต่อมาย้ายกลับมาเป็นรัฐมนตรีช่วยว่าการกระทรวงกลาโหมอีกครั้ง พ.ศ. 2485 เป็นรัฐมนตรีว่าการกระทรวงมหาดไทย พ้นจากตำแหน่งไปเมื่อ พ.ศ. 2487[6]

ต่อมาในพ.ศ. 2491 เป็นรัฐมนตรีว่าการกระทรวงศึกษาธิการ ย้ายมาเป็นรัฐมนตรีว่าการกระทรวงมหาดไทยอีกครั้งใน พ.ศ. 2492[7] เมื่อพ.ศ. 2494 ย้ายกลับไปเป็นรัฐมนตรีว่าการกระทรวงศึกษาธิการ[8] และพ้นจากตำแหน่งไปเมื่อ พ.ศ. 2500

นอกจากนี้ พลเอก มังกร พรหมโยธี ยังเคยเป็นสมาชิกสภาผู้แทนราษฎรในสภาผู้แทนราษฎรไทย ชุดที่ 8[9] สมาชิกวุฒิสภาในวุฒิสภาไทย ชุดที่ 1[10] และวุฒิสภาไทย ชุดที่ 2[11]