ชาวบ้านเชื่อกันว่าพระธาตุยาคูเป็นที่บรรจุอัฐิของพระเถระผู้ใหญ่ผู้ตั้งหมู่บ้านที่ชาวเมืองเคารพนับถือ เนื่องจากคำว่า "ยาคู" เป็นคำเรียกสมณศักดิ์ของพระสงฆ์ของภาคอีสานโบราณ ซึ่งเมื่อพระสงฆ์รูปใดเป็นผู้ประพฤติปฏิบัติดีมีคุณธรรมและบวชมาแล้วไม่น้อยกว่าสามพรรษา ชาวบ้านจะนิมนต์มาทำพิธีฮึดสรง จากนั้นก็ได้เลื่อนสมณศักดิ์เป็น "ยาคู ยาซา"

ข้อมูลจากการสัมภาษณ์ชาวบ้านผู้สูงอายุกล่าวถึงเมืองโบราณบริเวณที่ตั้งพระธาตุยาคูว่า เดิมพื้นที่บริเวณนี้เป็นที่รกร้างปรากฏมีซากเจดีย์และแผ่นหินรูปใบเสมาอยู่มากมาย ชาวบ้านเห็นเป็นทำเลดี จึงได้มีชาวบ้านกลุ่มหนึ่งอพยพออกมาจากเมืองกมลาไสย มาตั้งบ้านเรือนและจับจองที่ทำไร่นา และเรียกหมู่บ้านตัวเองว่าบ้านบักก้อม ซึ่งเรียกตามชื่อเสือโคร่งหางด้วนที่พบบริเวณป่าใกล้หมู่บ้าน[5]:222–225

การอพยพมาตั้งบ้านเรือนมีพระภิกษุอันเป็นที่เคารพนับถือของชาวบ้านตามมาและตั้งสำนักสงฆ์และกลายเป็นวัดประจำหมู่บ้าน ภิกษุรูปนี้ชาวบ้านเรียกว่า ยาคูง่อม เมื่อภิกษุรูปนี้มรณภาพลง ชาวบ้านจึงทำศาลใส่อัฐิไว้ในบริเวณบ้านบักก้อม ภายหลังหมู่บ้านแห่งนี้ได้ชื่อใหม่ว่า "บ้านเสมา”"บริเวณที่ตั้งศาลเป็นวัดประจำหมู่บ้าน ชื่อว่า วัดโพธิชัยเสมาราม ต่อมา เมื่อชาวบ้านยุคใหม่เห็นว่ามีซากเจดีย์ขนาดใหญ่สมบูรณ์กว่าที่อื่น ชาวบ้านจึงคิดว่าเป็นที่บรรจุอัฐิของภิกษุยาคูง่อม จึงเรียกเจดีย์แห่งนี้ว่า พระธาตุยาคู จวบจนปัจจุบัน[5]:222–225

อย่างไรก็ตาม กรมศิลปากรได้ขุดแต่งและบูรณะเจดีย์องค์นี้ในช่วงปี พ.ศ. 2510–2522 ผลจากการขุดค้นทางโบราณคดีที่พระธาตุยาคู ทราบว่าพระธาตุยาคูมีมาแล้วตั้งแต่สมัยทวารวดี อายุประมาณพุทธศตวรรษที่ 12–16 ขัดแย้งกับความเชื่อของชาวบ้านในปัจจุบันเกี่ยวกับการบรรจุอัฐิของพระภิกษุที่ชาวบ้านนับถือในช่วงที่เพิ่งตั้งหมู่บ้านซึ่งเป็นช่วงเวลาไม่นานมานี้ ประกอบกับผลการขุดพบใบเสมาสลักภาพเล่าเรื่องในพุทธศาสนาปักไว้ที่ฐานพระธาตุ ดังนั้น พระธาตุยาคูคงไม่ใช่เจดีย์ที่บรรจุอัฐิธาตุของพระเถระดังความเชื่อของชาวบ้านในปัจจุบัน ส่วนคำเรียก "พระธาตุยาคู" เป็นคำเรียกต่อกันมาจนกระทั่งทางกรมศิลปากรเข้ามาบูรณปฏิสังขรณ์จึงเรียกตามชาวบ้านด้วย[5]:224

พระธาตุยาคู ได้ขึ้นทะเบียนเป็นโบราณสถานโดยประกาศในราชกิจจานุเบกษา เมื่อวันที่ 29 พฤศจิกายน พ.ศ. 2545[6]