จารึกที่เก่าแก่ที่สุดที่พบบันทึกเกี่ยวกับเมืองนี้มีอายุย้อนกลับไปราวคริสต์ศตวรรษที่ 3[5] ในอดีตเคยเป็นราชธานีของอาณาจักรฮัฎเราะเมาต์

ในคริสต์ศตวรรษที่ 20 เมืองนี้เป็นหนึ่งในสามเมืองหลักของรัฐสุลต่านอัลกุอัยฏี โดยอีกสองเมืองคืออัลมุกัลลาและอัชเชียะหร์[6]

เมืองนี้ได้รับการขึ้นทะเบียนเป็นแหล่งมรดกโลกโดยยูเนสโก[7] ตั้งแต่ปี ค.ศ. 1982[8] ในปี ค.ศ. 2008 ไซโคลนลูกหนึ่งก่อให้เกิดอุทกภัยครั้งใหญ่ในเมือง[9] และเมืองนี้ได้รับความเสียหายบางส่วนระหว่างสงครามกลางเมืองเยเมน[10][11] หลังจากที่กลุ่มผู้ก่อการกำเริบได้จุดชนวนระเบิดติดรถ[12] รวมถึงเคยมีการวางระเบิดในเมืองเนื่องมาจากกองกำลังต่าง ๆ ในปี ค.ศ. 2015 ยูเนสโกประกาศให้เมืองชิบามฮัฎเราะเมาต์เป็น "แหล่งมรดกโลกทางวัฒนธรรมที่เสี่ยงอันตราย"[8]