จุดกำเนิดของยศจอมพลสามารถตามไปได้ถึงสมัยกลางตอนต้น ซึ่งแต่เดิมนั้น หมายถึง "ผู้ดูแลรักษาม้าของพระราชา" (มาจากคำว่า Marh-scalc ในภาษาเยอรมันโบราณ หมายถึง "ผู้รับใช้-ม้า") ในยุคสมัยกษัตริย์ชาวแฟรงก์ตอนต้น

ในบางประเทศได้ใช้ชื่อยศจอมพลว่า Marshal แทน ขณะที่ในบางประเทศใช้ว่า Field Marshall General ในยศที่เทียบเท่ากันในกองทัพอากาศของกลุ่มประเทศเครือจักรภพ และในกองทัพอากาศของกลุ่มประเทศตะวันออกกลาง ใช้ว่า Marshal of the Air Force (ระวังสับสนกับ Air Marshal) ส่วนยศทหารในกองทัพเรือที่เทียบเท่ากันมักจะเป็น Fleet Admiral, Grand Admiral หรือ Admiral of the Fleet

เป็นประเพณีว่า ผู้ที่ได้รับยศจอมพลมักจะได้รับการประดับคทาจอมพล อันเป็นสัญลักษณ์ประจำยศ คทาดังกล่าวมักจะฝังเพชรพลอยหรือโลหะมีค่า

ในอดีต บางประเทศใช้ยศจอมพลเป็นตำแหน่งบังคับบัญชาประจำกองพล โดยเฉพาะอย่างยิ่งในประเทศสเปนและประเทศเม็กซิโก (สเปน: mariscal de campo) ในฝรั่งเศส โปรตุเกส และบราซิล (ฝรั่งเศส: maréchal de camp; โปรตุเกส: marechal de campo) เคยหมายถึง ตำแหน่งผู้บังคับบัญชาประจำกองพลน้อย