กรงปินังมาจากคำว่า กำปงปิแน (ยาวี: كامڤوڠ ڤينڠ; รูมี: Kampong Pinang) ซึ่งเป็นภาษามลายูท้องถิ่น คำว่า "กำปง" แปลว่าหมู่บ้าน ส่วนคำว่า '"ปิแน" หรือ "ปินัง" แปลว่าหมาก รวมกันจึงมีความหมายว่า หมู่บ้านหมาก[2]

บ้างก็ว่ามาจากคำว่า "กรง" ที่เป็นภาษาไทยถิ่นใต้โบราณ มีความหมายเดียวกับคำว่า กง, กรุง และเกาะ หมายถึงบริเวณที่มีภูเขาโอบล้อม ซึ่งกรงปีนังเป็นพื้นที่ตามแนวเขาระหว่างทิวเขาสันกาลาคีรีทางตะวันตก และมีทิวเขาบือยออยู่ทางทิศตะวันออก

กิ่งอำเภอกรงปินัง ได้รับการจัดตั้งขึ้นโดยแยกพื้นที่การปกครองออกจากอำเภอเมืองยะลาตั้งแต่วันที่ 30 เมษายน พ.ศ. 2537 ตามประกาศของกระทรวงมหาดไทยวันที่ 31 มีนาคม พ.ศ. 2537[3] ต่อมาจึงได้มีพระราชกฤษฎีกาตั้งอำเภอกรงปินัง จังหวัดยะลา พ.ศ. 2547 ยกฐานะขึ้นเป็น อำเภอกรงปินัง โดยให้มีผลใช้บังคับตั้งแต่วันที่ 8 ตุลาคม พ.ศ. 2547[4]