การประยุกต์ใช้ศาสตร์ทางวิศวกรรมเครื่องกลนั้นถูกบันทึกเอาไว้ในหลายสังคมยุคโบราณและยุคกลางทั่วโลก ในกรีกยุคโบราณงานของอาร์คิมิดีส (287 –212 ก่อนคริสตกาล) และงานของเฮรอนแห่งอเล็กซานเดีย (ค.ศ. 10–70) นับได้ว่ามีอิทธิพลอย่างลึกซึ้งต่อประยุกตวิทยายุโรปมากเลยทีเดียว ในจีน จาง เหิง (張衡) (ค.ศ. 78–139) พัฒนานาฬิกาน้ำและเครื่องตรวจจับแผ่นดินไหว หม่า จวิน (馬鈞) (ค.ศ. 200–265) ประดิษฐ์ติดตั้งเฟืองทดบนรถม้า ซู ซ่ง (蘇頌) (ค.ศ. 1020–1101) ช่างนาฬิกาและวิศวกรได้ประยุกต์กลไกเอสเคปเมนต์ (Escapement Mechanism) เพื่อการประดิษฐ์หอนาฬิกาเชิงดาราศาสตร์ได้สองร้อยปีก่อนที่กลไกนี้จะถูกค้นพบในยุโรปและยังเป็นกลไกที่ใช้โซ่ส่งกำลัง (Chain Drive) กลไกแรกในโลก[1]

ในช่วงยุคทองของอิสลาม ระหว่างคริสต์ศตวรรษที่ 7 ถึง 15 มีการพัฒนาศาสตร์ด้านกลไกอย่างเด่นได้ชัด อัล จาชิริ ผู้แต่งตำรา "ตำราแห่งความรู้เกี่ยวกับกลไกอันชาญฉลาด (Book of Knowledge of Ingenious Mechanical Devices) " ใน ค.ศ. 1206 ซึ่งนำเสนอรูปแบบกลไกมากมาย เขาถูกพิจารณาว่าเป็นผู้ประดิษฐ์อุปกรณ์เชิงกลหลายอย่างซึ่งปัจจุบันถือเป็นกลไกพื้นฐานดั่งเช่นเพลาแคมและแคร๊ง

ในช่วงต้นคริสตศัตวรรษที่ 19 พัฒนาการด้านเครื่องมือกลในอังกฤษและสกอตแลนด์ทำให้วิศวกรรมเครื่องกลแยกตัวออกมาจากวิศวกรรมสาขาอื่น ๆ โดยเน้นไปที่งานเครื่องจักรอุตสาหกรรมและเครื่องยนต์ต้นกำลัง[2] ใน ค.ศ. 1847 สมาคมวิศวกรเครื่องกลแห่งแรกได้ถูกก่อตั้งขึ้นในสหราชอาณาจักรหรือสามสิบปีหลังการก่อตั้งสมาคมวิศวกรโยธา[3] ในสหรัฐอเมริกา สามคมวิศวกรเครื่องกลแห่งอเมริกา (American Society of Mechanical Engineers, ASME) ถูกก่อตั้งใน ค.ศ. 1880[4] กลายเป็นสมาคมทางวิศวกรรมลำดับที่สาม[4]ตามหลังสมาคมวิศวกรโยธาแห่งอเมริกา (1852[4]) และสถาบันวิศวกรเหมืองแร่แห่งอเมริกา (1871[4]) สำหรับสถาบันการศึกษาแรกที่เปิดหลักสูตรวิศวกรรมศาสตร์ในอเมริกาคือ วิทยาลัยการทหารแห่งสหรัฐอเมริกา (โรงเรียนนายร้อยทหารบกเวสต์พอย์ต) ในค.ศ. 1817 ซึ่งต่อมากลายเป็น มหาวิทยาลัยนอร์วิช (Norwich University) ในค.ศ. 1819 และสถาบันโพลิเทคนิคเรนส์ซเลียร์ ในค.ศ. 1825 โดยประวัติศาสตร์การศึกษาด้านวิศวกรรมเครื่องกลนั้น มีพื้นฐานการศึกษาที่เน้นหนักไปทางด้านคณิตศาสตร์และวิทยาศาสตร์[5]

ศาสตร์ทางด้านวิศวกรรมเครื่องกลนั้น ได้รับการพิจารณาว่าเป็นศาสตร์ทางวิศวกรรมที่กว้างที่สุด งานของวิศวกรเครื่องกลนั้นมีขอบข่ายตั้งแต่ก้นมหาสมุทรไปจนถึงอวกาศอันไกลพ้น