จังหวัดนี้เป็นส่วนหนึ่งของภูมิภาคยองนัม ทางด้านทิศตะวันออกติดกับทะเลญี่ปุ่น (ทะเลตะวันออก) ทางทิศใต้ติดกับจังหวัดคย็องซังใต้ ทางด้านทิศตะวันตกติดกับจังหวัดช็อลลาเหนือและจังหวัดชุงช็องเหนือ ส่วนทางด้านทิศเหนือติดกับจังหวัดคังว็อน ในช่วงฤดูร้อน จังหวัดคย็องซังเหนืออาจจะมีอากาศร้อนมากที่สุดในเกาหลีใต้ เพราะจังหวัดนี้ล้อมรอบไปด้วยเทือกเขาขนาดใหญ่ คือ เทือกเขาแทแบกทางด้านทิศตะวันออกและเทือกเขาโซแบกทางด้านทิศตะวันตก