ความเป็นมานั้นเริ่มจาก กลุ่มศิลปินที่เดิมเล่นเพลงบลูส์ ในช่วงปี 1966 - 68 เช่น วงครีมซึ่งมี อีริค แคลปตัน เป็นมือกีตาร์และนักกีตาร์ไฟฟ้าที่ชื่อ จิมิ เฮนดริกซ์ ซึ่งใช้เครื่องช่วยขยายเสียงกีตาร์ไฟฟ้าให้มีเสียงอันดังสนั่น เกิดแนวทางใหม่ๆในการเล่นกีตาร์ไฟฟ้าของดนตรีร็อก เช่น การใช้เสียงหอนกลับ(Feedback) เสียงบิดเบือน (Distortion) หรือ เพี้ยน วงครีม มีเพลงฮิตที่ตามมาเช่น I feel free(1966) ,Sunshine of your love(1967),White room(1968) เป็นต้น โดยเฉพาะเฮ็นดริ๊กซ์นั้น เขามีการเล่นที่น่าตื่นตา เช่นการเล่นกีตาร์ด้วยฟัน เป็นต้น เพลงฮิตที่ตามมาของเขา เช่น Foxy Lady (1966) Purple Haze(1967) , Hey Joe, The Wind Cries Mary,Voodoo Child(1968)ซึ่งเพลงเหล่านั้นนับว่าเป็นเพลงแนวฮาร์ดร็อก ยุคแรกๆ ที่ติดอันดับ Top Chart ในยุคนั้น

ต่อมาได้ข้ามาถึงฝั่งอเมริกา เมื่อดนตรีแนว ไซคเดลิค ได้เข้ามาอิทธิพลในอเมริกา วงอย่าง บลู เชียร์ ได้พัฒนาแนวดนตรีขึ้นมาอีกขั้น โดยจะมีความเป็นฮาร์ดร็อคมากยิ่ง ขึ้น ได้เปิดอัลบั้มแรกของพวกเขาในปี 1968 มีเพลงฮิตเช่น Summertimes Blues เป็นต้น ในปีเดียวกัน วง สเต็พเพ็นวูลฟ์ ได้มีเพลงฮิต ชื่อ Born to be Wild (1968)ซึ่งในเพลงนั้นมีวลีว่า Heavy Metal Thunder ซึ่งได้เอาเพลงฮุคท่อนนี้ มาใช้บัญญัติคำดนตรีแนวนี้ว่า เฮฟวี่เมทัล ในเวลาต่อมา ซึ่งทั้ง 2 วงนี้ได้นำเอาคีย์บอร์ดมาใช้ผสมกับดนตรีแนวนี้เพื่อความหนักหน่วงของดนตรีแนวนี้มากขึ้น

วง เล็ด เซ็พพลิน นับเป็นวงที่เริ่มบุกเบิกดนตรีเฮฟวี่เมทัล ยุคใหม่ เป็นที่รู้จักกันดีด้วยเสียงดนตรีอันดังสนั่น โดยพัฒนาแนวดนตรีบลูส์ของอังกฤษ ผสมกับ โฟล์ก ซึ่งพวกเขาตั้งวงกันเมื่อปี 1968 และมีเพลงฮิตในปีถัดมา ซึ่งมีเพลงแนวเฮฟวี่ร็อค อย่าง Communication Breakdown (1969) และเพลงที่หลายๆคนยกย่องกันว่าเป็นเพลงเฮฟวี่เมทัลขนานแท้ของวงนี้คือ Stairway to Heaven (1971) ซึ่งดนตรีของวงนี้มีลักษณะที่พิเศษกว่าวงฮาร์ดร็อกยุคก่อนๆคือ สไตล์การร้องเพลงของนักร้องนำคือ โรเบิร์ต แพลนท์ ซึ่งเป็นที่รู้จักกันดีในการร้องแบบโหยหวนเต็มพลังอารมณ์ และ สไตล์การเล่นกีตาร์ของ จิมมี เพจที่ออกแนวโลดโผน เร้าใจ ซึ่งทำให้เป็นแรงบันดาลใจแก่วงเฮฟวี่ร็อครุ่นหลังๆ ต่อๆมา วง ดีพ เพอร์เพิล ซึ่งมาในรุ่นเดียวกัน ก็ปล่อยซิงเกอร์ออกมาคู่กับ วงเลด เซ็พพลิน ซึ่งวงนี้จะออกแนว ไซเคเดลิก หรือ ฮาร์ดร็อก มากกว่า ของช่วงยุคแรกๆ

วง แบล็ค แซบบาธได้ช่วยบุกเบิกดนตรีแนวนี้ในอังกฤษเมื่อปี 1970 ซึ่งพัฒนาแนวไปอีกอีกขั้นหนึ่ง โดยลักษณะเด่นของวงนี้คือ เสียงกีตาร์ที่มีลักษณะเฉพาะของ โทนี อิออมมี่ ซึ่งมีโทนเสียงกีตาร์ที่ต่ำและแตกพร่า ที่เกิดจากความผิดปกติของนิ้วของเขา และเนื้อหาของดนตรีที่ออกแนวที่เกี่ยวกับความน่าสะพรึงกลัว ความเป็นไปของสังคมในด้านลบ และอิทธิพลของยาเสพติดในยุคนั้น และความเป็นบลูส์ในเนื้อดนตรี เริ่มลดลง พวกเขามีเพลงฮิตอย่าง Paranoid (1970) ซึ่งต่อมาวงนี้ได้รับการกล่าวขวัญว่า เป็น วงดนตรีเฮฟวี่เมทัลที่ยิ่งใหญ่ที่สุดวงหนึ่งของโลกตลอดกาลวงอื่นๆ ที่ได้รับอิทธิพลในข้างต้นนั้นวงอื่นๆ ก็มีเช่น ยูราย ฮีพ, สกอร์เปียนส์ ,UFOหรือแม้กระทั่งวงอย่าง ควีน เป็นต้น วงเหล่านี้ล้วนมาจากฝั่งยุโรปทั้งสิ้น โดยในฝั่งอมริกา ก็มีวงอย่างเช่น แกรนด์ฟังก์เรลโรด ,คิส,บลูออยส์เตอร์คัลต์ เป็นต้น

ในช่วงกลางทศวรรษที่ 70 จูดาส พรีสต์ ได้กระตุ้นการพัฒนาการของแนวเพลงนี้โดยละทิ้งอิทธิพลของเพลงแนวบลูส์ทิ้งไป และกระแสเฮฟวีเมทัลในสหราชอาณาจักร ก็ตามมาคล้าย ๆกัน คือรวมความรู้สึกของพังค์ร็อกเข้าไปและเพิ่มเน้นในเรื่องของความเร็วเข้าไป

วงเฮฟวีเมทัล ได้ก้าวสู่ความนิยมหลักในทศวรรษที่ 80 เมื่อมีการขยายไปของแนวเพลงย่อยเกิดขึ้น ความหลากหลายนี้ได้เพิ่มความก้าวร้าวและสุดขีดมากกว่าเมทัลในอดีต ที่มักจะจำกัดวงเฉพาะกลุ่มคนฟังใต้ดิน วง ไอร่อน เมเด้น ได้เป็นผู้นำดนตรีเฮฟวี่เมทัล แนวที่เรียกกันว่า NWOBHMหรือ New Wave Of British Heavy Metal ซึ่งจะไม่มีอิทธิพลของดนตรีบลูส์หลงเหลืออยู่เลย แนวนั้นจะก้าวร้าวขึ้น รวดเร็วยิ่งขึ้น และได้มีอิทธิพลหลักต่อแนวเพลงย่อยของดนตรีเฮฟวี่เมทัลในเวลาต่อมา ในที่นี้รวมถึง แกลมเมทัล และ แทรชเมทัล ก็ได้เข้าสู่กระแสหลักได้ ในปัจจุบัน แนวเพลงอย่าง นูเมทัล ก็ได้ขยับขยายไปจากเฮฟวีเมทัล