ชุมชนแจระแมเป็นชุมชนที่ผลิตเกลือสินเธาว์ในสมัยโบราณ โดยใช้ดินเค็มจากลำห้วย ซึ่งใช้เป็นที่สัญจรผ่านไปมาของคนทั่วไป เมื่อนำดินเค็มใส่รางแล้วนำน้ำมาเทแล้วกวนจนน้ำละลายเกลือจากดิน เมื่อผู้คนสัญจรผ่านไปมาจึงเรียกให้คนมาชิมรสเกลือ เป็นภาษาอีสานว่า "แจะทำแม้"[2] ต่อมาจึงเพี้ยนเป็น "แจระแม" และเรียกห้วยนี้ว่า ห้วยแจระแม มาจนถึงปัจจุบัน

ชุมชนแจระแมได้รับการยกฐานะเป็น "องค์การบริหารส่วนตำบลแจระแม" เมื่อวันที่ 28 เมษายน พ.ศ. 2539 ตามประกาศกระทรวงมหาดไทย ลงวันที่ 19 มกราคม พ.ศ. 2539 ซึ่งประกาศในราชกิจจานุเบกษา ฉบับทั่วไป เล่มที่ 113 ตอนที่ 96 ลงวันที่ 30 มกราคม พ.ศ. 2539 ต่อมาองค์การบริหารส่วนตำบลแจระแมได้รับการจัดตั้งเป็นเทศบาลเมืองเมื่อ 5 กันยายน พ.ศ. 2555