ในอดีตพื้นที่จังหวัดบามียานถูกปกครองโดยจักรวรรดิมีดซ์ (Medes) ก่อนตกอยู่ในการปกครองของจักรวรรดิอะคีเมนิด (Achaemenid) ต่อมาในปี 330 ปีก่อนคริสต์ศักราช พระเจ้าอเล็กซานเดอร์มหาราชได้เข้ายึดบริเวณนี้แต่ได้ละทิ้งไป ภายหลังจักรวรรดิเซลูซิดจึงเข้ามาปกครองต่อ ขณะนั้นพื้นที่ทางตอนใต้ของเทือกเขาฮินดูกูช ได้มีการเผยแผ่ศาสนาพุทธจากราชวงศ์เมารยะเข้ามา จึงมีการตั้งอารามพุทธศาสนาที่บามียาน ว่ากันว่าชื่อ บามียาน มาจากคำว่า "วรรมยาน" (varmayana) ที่แปลว่าสีในภาษาสันสกฤต ด้วยเหตุนี้จึงมีการก่อสร้างพระพุทธรูปขึ้นที่นี่จำนวนมาก และได้มีการแกะสลักขึ้นบนหน้าผาโดนเด่นสององค์ ขนานนามว่า พระพุทธรูปแห่งบามียาน ที่อายุเก่าแก่กว่า 1,500 ปี ตั้งอยู่ในบริเวณโบราณสถาน ที่ต่อมารัฐบาลกลุ่มฏอลิบานได้ระเบิดทำลายเสียหายทั้งองค์ด้วยเหตุผลทางศาสนา เมื่อปี พ.ศ. 2544 สร้างความสูญเสียครั้งใหญ่ให้แก่วงการอนุรักษ์โบราณสถานไปทั่วโลก

ช่วงศตวรรษที่ 7 มีชาวอาหรับคนแรกเดินทางเข้ามาปกครองคาบูลชาหิ (Kabul Shahi) ก่อนถูกพิชิตในนามศาสนาอิสลามของจักรวรรดิซัฟฟาริดในศตวรรษที่ 9 ต่อมาได้ถูกปกครองโดยจักรวรรดิกัซนาวิด (Ghaznavids), รัฐสุลต่านกูริด (Ghurid) และถูกพิชิตโดยชาวมองโกลในศตวรรษที่ 13 ปกครองโดยอาร์กุน ข่าน แห่งอิลข่าน (Ilkhanate) ก่อนตกเป็นของจักรวรรดิตีมูร์ และจักรวรรดิโมกุล ตามลำดับ

ปี ค.ศ. 1709 จักรวรรดิโฮตากี (Hotaki) ที่ปกครองกันดาฮาร์ได้พ่ายแพ้แก่จักรวรรดิซาฟาวิด (Safavid) บามียานอยู่ภายใต้การปกครองของจักรวรรดิโมกุล จนกระทั่งอะฮ์มัด ชาห์ ดุรรานี (Ahmad Shah Durrani) ได้ก่อตั้งจักรวรรดิดุรรานี (Durrani) ที่ต่อมาได้พัฒนาเปลี่ยนแปลงเป็นประเทศอัฟกานิสถาน จากการเปลี่ยนแปลงในช่วงปี ค.ศ. 1980 ถึงกลางปี 1990 อัฟกานิสถานถูกควบคุมโดยฮิซบ์ อี วะฮ์ดัต (Hizb-i-wahdat) นำโดยอับดุล อาลี มาซารี (Abdul Ali Mazari) จนในปี ค.ศ. 1995 ถูกเข้าควบคุมและปกครองโดยรัฐบาลตอลิบาน ก่อนถูกโค่นล้มโดยกองทัพสหรัฐอเมริกาเมื่อปี ค.ศ. 2001