ไม่มีการบันทึกเกี่ยวกับผู้คิดค้นระเบิดมือไว้แน่ชัด แต่มีการประดิษฐ์ระเบิดมือเพื่อใช้ในการรบ ตั้งแต่สมัยจักรวรรดิไบแซนไทน์แห่งทวีปยุโรป และในสมัยราชวงศ์ซ่งแห่งประเทศจีน เริ่มแรก เป็นการใช้ภาชนะขนาดพอเหมาะมือ ที่มีน้ำหนักเบา มาบรรจุวัตถุไวไฟ, วัตถุระเบิด รวมไปถึงสารพิษชนิดต่างๆจากพืชและสัตว์ด้วย ใช้การเผาเชือกที่เชื่อมกับวัสดุภายในภาชนะเหล่านั้น เป็นการจุดชนวน

อย่างไรก็ตาม ระเบิดมือในยุคโบราณยังไม่ทรงประสิทธิภาพมากนักเมื่อเทียบกับระเบิดมือสำหรับการทหารในปัจจุบัน จนกระทั่งในช่วงสงครามโลกครั้งที่หนึ่ง ที่เริ่มมีการพัฒนาระเบิดมือให้ทรงประสิทธิภาพมากยิ่งขึ้น และมีการใช้ระเบิดมืออย่างแพร่หลายในสนามรบ ระเบิดมือที่มีชื่อเสียงในช่วงนั้น คือ ระเบิดมิลส์ (Mills Bomb) จากประเทศอังกฤษ ระเบิดมิลส์เป็นระเบิดที่มีโลหะห่อหุ้ม มีรูปร่างกลม มีเข็มแทงชนวน และมีพื้นผิวเป็นร่อง จุดชนวนด้วยการดึงสลักนิรภัยซึ่งอยู่ด้านบนสุดของตัวระเบิดมือ ระเบิดมือชนิดนี้ มีใช้ทั้งในสงครามโลกครั้งที่หนึ่ง และสงครามโลกครั้งที่สอง

ในขณะที่ประเทศอังกฤษมีระเบิดมิลส์นั้น ประเทศเยอรมนีก็ได้มีการผลิตระเบิดมือแบบมีด้ามจับขึ้นมา เรียกว่า ชตีลฮันท์กรานาเทอ (Stielhandgranate) โดยมีเชื้อประทุอยู่ภายในกระบอกโลหะ ติดไว้กับปลายของด้ามไม้ซึ่งมีลักษณะกลวงภายใน จุดชนวนด้วยการดึงเชือกที่อยู่ภายในด้ามไม้ ซึ่งมีฝาเกลียวห่อหุ้มเชือกนี้ไว้จากด้านล่างสุด ระเบิดมือชนิดนี้ มีฉายาว่า "ที่บดมันฝรั่ง" หรือ " The Potato Masher " มีใช้ทั้งในสงครามโลกครั้งที่หนึ่ง และ สงครามโลกครั้งที่สอง เช่นกัน ในช่วงสงครามกลางเมืองสเปน มีการพัฒนาระเบิดมือชนิดหนึ่ง ซึ่งทำจากขวดแก้วบรรจุน้ำมันเชื้อเพลิง และใช้การจุดชนวนแถบผ้าเพื่อให้เกิดการเผาไหม้และระเบิดขึ้น ซึ่งภายหลัง ระเบิดมือชนิดนี้มีชื่อว่า โมโลตอฟ คอกเทล (Molotov Cocktail) โดยกองทัพฟินแลนด์ในช่วงสงครามฤดูหนาว ซึ่งเมื่อครั้งต้องสู้กับกองทัพของโซเวียตในช่วงนั้น กองทัพฟินแลนด์จะใช้โมโลตอฟ คอกเทล ควบคู่กับอาวุธชนิดอื่น โมโลตอฟ คอกเทล เป็นหนึ่งในระเบิดมือไม่กี่ชนิด ที่มีคุณสมบัติในการหยุดยั้งรถถังของศัตรู โดยการขว้างโมโลตอฟ คอกเทล ที่จุดชนวนแล้วให้ไปกระแทกกับเครื่องยนต์ของรถถัง เพื่อให้ตัวเครื่องยนต์ของรถถังถูกไฟเผาไหม้

ในช่วงก่อนและระหว่างสงครามโลกครั้งที่สอง มีระเบิดมือรุ่นใหม่ ๆ ที่ถูกผลิตและพัฒนาออกมาโดยประเทศต่างๆ เพื่อความได้เปรียบทางด้านการรบของแต่ละประเทศ ตัวอย่างเช่น ระเบิดมือรุ่น Mk 2 จากสหรัฐอเมริกา, ระเบิดมือรุ่น F1 จากประเทศฝรั่งเศส, ระเบิดมือรุ่น wz.33 จากประเทศโปแลนด์, ระเบิดมือรุ่น RGD-33 จากสหภาพโซเวียต, ระเบิดมือรุ่น Mod. 35 จากประเทศอิตาลี และ ระเบิดมือรุ่น Type 97 จากประเทศญี่ปุ่น เป็นต้น

ภายหลังสงครามโลกครั้งที่สอง โลกได้เข้าสู่ยุคสมัยแห่งสงครามเย็นอย่างเต็มตัว ระเบิดมือรุ่นเก่าๆหลายรุ่นก็ได้ถูกปลดประจำการไป และถูกแทนที่ด้วยระเบิดมือรุ่นใหม่ๆที่ดีกว่าแทน อย่างไรก็ตาม ระเบิดมือรุ่นเก่าๆบางรุ่นจากสงครามโลกครั้งที่สองก็ยังได้รับการใช้งานอยู่ในช่วงสงครามเย็น ในขณะที่หลายๆประเทศทั่วโลก รวมถึงประเทศขั้วอำนาจทั้งสอง (สหรัฐอเมริกา และ สหภาพโซเวียต) ก็ยังคงผลิตและพัฒนาระเบิดมือกันอย่างต่อเนื่อง เพื่อการป้องกันประเทศและเหล่าพันธมิตรของตน โดยเฉพาะอย่างยิ่ง ในช่วงสงครามเวียดนาม ที่ระเบิดมือ พร้อมด้วยอาวุธและยุทโธปกรณ์รุ่นใหม่ๆจากสหรัฐอเมริกา ได้ถูกส่งไปให้เหล่าทหารอเมริกัน, เวียดนามใต้ รวมถึงทหารจากประเทศพันธมิตรของสหรัฐอเมริกาในเวียดนาม เช่นเดียวกับสหภาพโซเวียต ที่ได้ส่งอาวุธและยุทโธปกรณ์รุ่นใหม่ๆของตนให้กับทหารเวียดนามเหนือ รวมทั้งเหล่าประเทศพันธมิตรของตนเช่นกัน ระเบิดมือที่ถูกใช้งานในยุคนั้น ได้แก่ รุ่น M26 จากสหรัฐอเมริกา และ รุ่น RGD-5 จากสหภาพโซเวียต เป็นต้น ซึ่งในช่วงท้ายของสงครามเวียดนาม ระเบิดมือรุ่น M67 จากสหรัฐอเมริกา ก็ได้เข้ามาทดแทนรุ่น M26 และได้รับการผลิตและพัฒนามาจนถึงปัจจุบัน เช่นเดียวกับระเบิดมือหลายรุ่นอื่น ๆ ทั่วโลก

ปัจจุบัน ยังคงมีการผลิตและพัฒนาระเบิดมือ เพื่อใช้ในการสงครามรูปแบบต่าง ๆ ต่อไป