เดิมบริเวณอำเภอลำปลายมาศเป็นเพียงหมู่บ้านเล็ก ชุมชนกลุ่มน้อย ไม่มีความสำคัญทางประวัติศาสตร์ จนกระทั่งทางราชการได้สร้างทางรถไฟจากนครราชสีมา (สร้างถึงนครราชสีมาเมื่อวันที่ 21 ธันวาคม พ.ศ. 2443 และถึงบุรีรัมย์เมื่อวันที่ 1 เมษายน พ.ศ. 2468) ผ่านเข้ามาทางหมู่บ้านแห่งนี้ จึงมีผู้คนเข้าจับจองที่ดิน มีบ้านเรือนจำนวนมากขึ้นโดยลำดับ

เมื่อเส้นทางรถไฟผ่านจนไปสิ้นสุดลงที่อุบลราชธานีแล้ว จึงมีคนตั้งชื่อหมู่บ้านบริเวณนี้ขึ้น เรียกกันมาตลอดว่า "บ้านหนองยาง" ช่วงเวลานั้นเมื่อมีสถานีรถไฟแล้ว ชาวบ้านก็เรียกชื่อสถานีว่า "สถานีหนองยาง" หรือ "สะเตหนองยาง" โดยในตอนนั้น บ้านหนองยางยังขึ้นกับอำเภอนางรอง