อำเภอบ้านกรวด เดิมเป็นท้องที่มีฐานะเป็นตำบลขึ้นอยู่กับอำเภอประโคนชัย ประกาศจัดตั้งเป็นกิ่งอำเภอเมื่อปี พ.ศ. 2481 โดยมีเขตการปกครอง 1 ตำบล คือตำบลบ้านกรวด และต่อมาได้มีพระราชกฤษฏีกายกฐานะเป็นอำเภอเมื่อปี พ.ศ. 2508 ในช่วงปี พ.ศ. 2518 อยู่ในระหว่างเหตุการณ์ที่พรรคคอมมิวนิสต์แห่งประเทศไทย กำลังทำสงครามกองโจรหรือสงครามประชาชนกับกำลังของพลเรือน ตำรวจ ทหารของรัฐบาลไทย โดยกำลังของฝ่ายคอมมิวนิสต์ไทยร่วมกับกัมพูชา (เขมรแดง) เข้ามาก่อกวนเผาบ้านเรือนราษฎร วางกับระเบิดไว้ตามเส้นทางในหมู่บ้านหรือเส้นทางเข้าสู่พื้นที่ทำกินของราษฎร เพื่อสกัดกั้นการเข้าปราบปรามของกำลังฝ่ายรัฐบาลไทย ซุ่มยิงกำลังฝ่ายรัฐบาลไทยและราษฎรที่เป็นฝ่ายของรัฐบาล เจ้าหน้าที่ฝ่ายไทยและราษฎรได้รับบาดเจ็บล้มตายเป็นจำนวนมาก ทางราชการจึงได้ปรับสภาพหมู่บ้านขึ้นใหม่เป็นกลุ่ม ๆ ประมาณ 100 หลังคาเรือน แล้วฝึกราษฎรตามโครงการไทยอาสาป้องกันชาติ จัดตั้งเป็นหมู่บ้านป้องกันตนเองชายแดนไทย - กัมพูชา ใช้กำลังราษฎรเหล่านั้นผสมกับกำลังพลเรือน ตำรวจภูธร ตำรวจตระเวนชายแดน ทหาร อาสาสมัครรักษาดินแดน (อส.) เข้าปราบปรามและตอบโต้การแทรกซึม บ่อนทำลายของคอมมิวนิสต์ รวมทั้งยับยั้งการรุกล้ำอธิปไตยของไทยจากฝ่ายเขมรแดง จนถึงประมาณปี พ.ศ. 2525 เหตุการณ์ดังกล่าวจึงค่อยสงบลง และได้มีการพัฒนาขึ้นตามลำดับเมื่อวันที่ 22 เมษายน พ.ศ. 2554 อำเภอบ้านกรวดเป็นอำเภอแรกในประเทศไทยที่มีการประกาศ "พื้นที่ประสบภัยพิบัติอันเนื่องจากกองกำลังจากนอกประเทศ" ทั้งอำเภอ จากความขัดแย้งไทย-กัมพูชา