ในปี พ.ศ. 2450 ได้มีการปรับปรุงการปกครองในมณฑลอุดร เป็นจังหวัด จึงถูกยุบลงเป็น อำเภอมุกดาหาร ขึ้นตรงกับ จังหวัดนครพนม และในปี พ.ศ. 2525 จึงได้มีพระราชบัญญัติ จัดตั้งจังหวัดมุกดาหารขึ้น เพื่อป้องกันปัญหาการบุกรุก และขยายอิทธิพล ของระบบสังคมนิยม ของค่าสังคมนิยมในลาว ซึ่งได้เปลี่ยนการ ปกครองจาก ระบบประชาธิปไตย เป็นสังคมนิยม ตั้งแต่ปลายปี พ.ศ. 2518 ทำให้ชุมชนสุขาภิบาลมุกดาหาร ได้รับการยกฐานะ เป็นเทศบาลเมือง ตามการจัดตั้ง จังหวัดมุกดาหาร เมื่อวันที่ 21 เมษายน 2526 (ประกาศใน ราชกิจจานุเบกษา เล่มที่ 100 หน้า 63 ลงวันที่ 21 เมษายน 2526) นายกเทศมนตรีคนแรก คือ นายนิรันดร์ ยิ่งอรุณธรรม เข้าดำรงตำแหน่ง เมื่อวันที่ 21 เมษายน 2526