ในสมัยก่อนท้องที่อำเภอปะเหลียนมีการปกครองขึ้นกับเมืองพัทลุง เมื่อเจ้าพระยานคร (น้อย) ได้ส่งบุตรมาปกครองเมืองตรังและขึ้นตรงต่อเมืองนครศรีธรรมราช พื้นที่แถบนี้มีผู้คนมาตั้งถิ่นฐานกันแล้ว เจ้าเมืองพัทลุงจึงส่งกรมการเมืองมาปกครองเพื่อเป็นการสกัดกั้นอำนาจของเจ้าเมืองนครศรีธรรมราชไว้ ขณะนั้นท้องที่อำเภอปะเหลียน มีประชากรน้อยมาก ไม่เหมาะสมที่จะยกฐานะเป็นเมืองดี ดังนั้น ตำแหน่งผู้ปกครองจึงเป็นเพียง "จอม" คำว่าจอมใช้กันเฉพาะที่มีชายไทยมุสลิมอยู่ แปลว่า ผู้เป็นใหญ่

ในสมัยต่อมาเมื่อประชากรมากขึ้นจึงยกฐานะขึ้นเป็นเมือง เมื่อ พ.ศ. 2341 เรียกว่า เมืองปะเหลียน เจ้าเมืองปะเหลียนคนสุดท้ายคือพระปริยันต์เกษตรานุรักษ์ เท่าที่มีหลักฐานปรากฏตัวเมืองครั้งแรกตั้งอยู่ที่หมู่ที่ 3 ตำบลปะเหลียนในปัจจุบัน ต่อมาได้ย้ายไปตั้งบริเวณหมู่ที่ 1 ตำบลท่าพญาในปัจจุบันเมื่อประมาณ พ.ศ. 2430

ในปี พ.ศ. 2434 พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัวทรงเห็นว่า เมืองปะเหลียนทรุดโทรมมาก จึงยุบให้เป็นแขวงขึ้นตรงกับเมืองตรัง และในปี พ.ศ. 2438 ได้จัดตั้งที่ว่าการอำเภอเป็นครั้งแรกที่ตำบลท่าพญา ใช้ชื่อว่า อำเภอท่าพญา ครั้นได้จัดรูปแบบอำเภอขึ้นตามพระราชบัญญัติปกครองท้องที่ เมื่อ พ.ศ. 2440 ได้ย้ายที่ว่าการอำเภอไปตั้งที่บ้านหยงสตาร์ ตำบลท่าข้าม ในปี พ.ศ. 2460 และได้เปลี่ยนชื่อเป็น อำเภอหยงสตาร์ จนกระทั่งปี พ.ศ. 2482 ได้เปลี่ยนชื่อเป็น อำเภอปะเหลียน ตามชื่อเดิมจวบจนปัจจุบัน ทั้งนี้เพื่อรักษาประวัติศาสตร์อันยาวนานของเมืองปะเหลียนไว้ ขณะนี้อำเภอปะเหลียนได้ก่อตั้งมาครบ108 ปี นับว่าเป็นอำเภอเก่าแก่อำเภอหนึ่งในจังหวัดตรัง