ภายหลังจากมีการยุบพรรคพลังประชาชน ร้อยตำรวจเอก เฉลิมได้ย้ายไปสังกัดพรรคเพื่อไทย ทั้งนี้คณะผู้บริหารพรรคพิจารณาแต่งตั้ง ร้อยตำรวจเอก เฉลิมเป็นประธานสมาชิกสภาผู้แทนราษฎร เพื่อควบคุมการทำงานในสภาของสมาชิกสภาผู้แทนราษฎรภายในพรรคต่อไป โดย ร้อยตำรวจเอก เฉลิม กล่าวว่าพรรคได้มอบหมายให้ทำหน้าที่ประธานสมาชิกสภาผู้แทนราษฎร เพื่อทำหน้าที่หัวหน้าพรรคในสภาผู้แทนราษฎร[25]

ในการเลือกตั้งสมาชิกสภาผู้แทนราษฎรไทยเป็นการทั่วไป พ.ศ. 2557 เขาได้สมัครรับเลือกตั้งในระบบบัญชีรายชื่อ สังกัดพรรคเพื่อไทย ลำดับที่ 6[26]

ประธาน ส.ส.

ร้อยตำรวจเอก เฉลิมเป็นผู้นำสมาชิกสภาผู้แทนราษฎรพรรคเพื่อไทย อภิปรายไม่ไว้วางใจรัฐบาลอภิสิทธิ์ เวชชาชีวะ โดย ร้อยตำรวจเอก เฉลิมเป็นผู้ขึ้นเปิดอภิปรายเป็นคนแรก โดยอภิปรายไม่ไว้วางใจอภิสิทธิ์ เวชชาชีวะ นายกรัฐมนตรี และประดิษฐ์ ภัทรประสิทธิ์ รัฐมนตรีช่วยว่าการกระทรวงการคลัง ในกรณีการปกปิด ซ่อนเร้น ไม่เปิดเผยการรับเงินสนับสนุนพรรคการเมือง ในการรายงานงบดุลต่อคณะกรรมการการเลือกตั้ง (กกต.) ซึ่งเส้นทางของเงินดังกล่าวเป็นเงินที่รับจากบริษัท ทีพีไอ โพลีน จำกัด (มหาชน) แล้วทำนิติกรรมอำพรางผ่านบริษัท เมซไซอะ ซึ่งถือเป็นความผิดตาม พ.ร.บ.พรรคการเมือง[27]

เฉลิม อยู่บำรุง ทำหน้าที่รักษาการเป็นผู้นำฝ่ายค้านในสภาผู้แทนราษฎรไทย ตั้งแต่วันที่ 12 มกราคม พ.ศ. 2552 สมัยรัฐบาลอภิสิทธิ์ เวชชาชีวะ กระทั่งพ้นจากตำแหน่งเมื่อวันที่ 23 มีนาคม พ.ศ. 2554 เนื่องจากลาออกจากสมาชิกสภาผู้แทนราษฎร[28]

ปลายปี พ.ศ. 2552 สื่อมวลชนประจำรัฐสภาได้ให้ฉายา ร้อยตำรวจเอก เฉลิมว่า "ดาวดับ" อันเนื่องจากวาทะที่แก้ตัวให้กับการกระทำที่ส่อทุจริตของ พันตำรวจโท ทักษิณ ชินวัตร ว่า "พันตำรวจโท ทักษิณ ไม่ได้ทำผิดกฎหมาย แต่ทำในสิ่งที่กฎหมายห้าม" ซึ่งได้กลายเป็นวาทะประจำปีด้วย[29]

ต่อมาต้นปี พ.ศ. 2553 ร้อยตำรวจเอก เฉลิม อยู่บำรุง ได้มีวิวาทะกับสมาชิกพรรคเพื่อไทยด้วยกันเอง ถึงขนาดตำหนิออกมาต่อหน้าสื่อมวลชนหลายต่อหลายครั้ง อันเนื่องจากเรื่องการที่จะยื่นอภิปรายไม่ไว้วางใจรัฐบาล ที่เห็นแตกต่างกันและมีความเห็นเกี่ยวกับทิศทางการบริหารจัดการพรรคที่แตกต่างกัน[30][31][32]

ซึ่งในปีถัดมา ความขัดแย้งในเรื่องดังกล่าวนี้ก็ได้เกิดขึ้นอีก จนกระทั่งในวันที่ 23 มีนาคม พ.ศ. 2554 ร้อยตำรวจเอก เฉลิม อยู่บำรุง ได้ขอลาออกจากตำแหน่งสมาชิกสภาผู้แทนราษฎรของพรรคอย่างเป็นทางการ โดยมีกระแสข่าวถึงความไม่พอใจในสมาชิกพรรคบางคนตำหนิบทบาทการอภิปรายไม่ไว้วางใจรัฐบาลของตัวเอง[33]

อย่างไรก็ตามในการเลือกตั้งครั้งถัดมา ร้อยตำรวจเอก เฉลิม อยู่บำรุง ได้ลงสมัครรับเลือกตั้งเป็นสมาชิกสภาผู้แทนราษฎร แบบบัญชีรายชื่อ ลำดับที่ 3 พรรคเพื่อไทย รวมถึงได้ส่งบุตรชายลงสมัครรับเลือกตั้งในกรุงเทพมหานคร แต่ไม่ได้รับการเลือกตั้ง

รองนายกรัฐมนตรี

ในการจัดตั้งคณะรัฐมนตรีไทย คณะที่ 60 ร้อยตำรวจเอก เฉลิม ได้รับการโปรดเกล้าฯ เป็นรองนายกรัฐมนตรี ในรัฐบาลนางสาวยิ่งลักษณ์ ชินวัตร และบุตรชายได้รับตำแหน่งผู้ช่วยเลขานุการรัฐมนตรีช่วยว่าการกระทรวงคมนาคม[34]ในระหว่างดำรงตำแหน่งเขขายืนยันว่าในกลุ่มนปช.ไม่มีชายชุดดำและรัฐบาลอภิสิทธิ์ เวชชาชีวะไม่มีสิทธิสลายการชชุมนุมกลุ่ม นปช.[35]เขาเคยประกาศก่อนหน้าดำรงตำแหน่งว่าจะปลดนายธาริต เพ็งดิษฐ์ จากตำแหน่งอธิบดีกรมสอบสวนคดีพิเศษ แต่ก็ไม่มีการปลดแต่อย่างใด[36]

รัฐนตรีว่าการกระทรวงแรงงาน

ในเดือนมิถุนายน พ.ศ. 2556 ร้อยตำรวจเอก เฉลิม ถูกปรับให้ไปดำรงตำแหน่งรัฐมนตรีว่าการกระทรวงแรงงาน[37] โดยมีการถวายสัตย์ปฏิญาณตนในวันที่ 30 มิถุนายน พ.ศ. 2556 และถ่ายภาพหมู่คณะรัฐมนตรีที่ได้รับโปรดเกล้าฯ บริเวณหน้าตึกไทยคู่ฟ้า แต่ร้อยตำรวจเอก เฉลิม ไม่ได้เข้าร่วมถ่ายภาพในครั้งนั้นด้วย รวมทั้งไม่เข้าร่วมประชุมคณะรัฐมนตรีในวันที่ 2 กรกฎาคม พ.ศ. 2556 โดยอ้างเหตุผลว่าขอลากิจเพื่อไปตรวจสุขภาพ[38] แต่เป็นที่รับทราบโดยทั่วไปว่าเป็นการประท้วงที่ ยิ่งลักษณ์ ชินวัตร ให้ตำแหน่งนี้กับเขา[39]และปลดจากรองนายกรัฐมนตรี

เขาดำรงตำแหน่งผู้กำกับการปฏิบัติงานของหัวหน้าผู้รับผิดชอบในสถานการณ์ฉุกเฉิน ในวันที่ 21 มกราคม พ.ศ. 2557 ถึง วันที่ 18 มีนาคม พ.ศ. 2557 นับเป็นรัฐมนตรีว่าการกระทรวงแรงงานคนแรกของประเทศไทย ที่ดำรงตำแหน่ง ผู้กำกับการปฏิบัติงานของหัวหน้าผู้รับผิดชอบในสถานการณ์ฉุกเฉิน ซึ่งพระราชกำหนดการบริหารราชการในสถานการณ์ฉุกเฉิน พ.ศ. 2548 ไม่ได้ให้รัฐมนตรีว่าการกระทรวงแรงงานเป็น กรรมการในคณะกรรมการบริหารสถานการณ์ฉุกเฉิน[40]

วันที่ 7 พฤษภาคม พ.ศ. 2557 ร้อยตำรวจเอก เฉลิม ถูกศาลรัฐธรรมนูญตัดสินให้พ้นจากความเป็นรัฐมนตรี เนื่องจากมีส่วนเกี่ยวข้องในการโยกย้ายนายถวิล เปลี่ยนศรีจากตำแหน่งเลขาธิการ สภาความมั่นคงแห่งชาติ โดยขาดความชอบธรรม[41]