ตามบันทึกพงศาวดารหัวเมืองอีสานในส่วนที่เกี่ยวกับโกสุมพิสัย ซึ่งคณะกรรมการเมืองโกสุมพิสัยทำส่งไปถวายกรมหมื่นสรรพสิทธิประสงค์ ข้าหลวงต่างพระองค์รักษาราชการมณฑลลาวกาว เมื่อวันที่ 28 มกราคม พ.ศ. 2439 มีความว่า โกสุมพิสัยนี้แต่ก่อนชื่อ "บ้านดงวังท่า" ไม่มีคำว่าหอขวางเติมท้าย ต่อมาจึงได้นามว่า "บ้านวังท่าหอขวาง" สันนิษฐานว่าเคยเป็นชุมชนหรือเมืองแห่งหนึ่งนานมาแล้ว โดยสันนิษฐานจากลักษณะศิลปะของพระพุทธรูปที่พบ คาดว่าจะมีผู้คนมาตั้งถิ่นฐานอยู่ในราว พ.ศ. 1300-1700 ในสมัยขอมเรืองอำนาจ สมัยเดียวกับปราสาทหินพิมาย เขาพระวิหาร และกู่ต่าง ๆ ที่อยู่ทั่วภาคตะวันออกเฉียงเหนือ ต่อมาถูกปล่อยให้รกร้างไปประมาณ 200 ปีจนเกิดป่าดงพงทึบ มีช้าง เสือ หมี กลาง ละมั่ง ลิง และสัตว์ต่าง ๆ อาศัยอยู่เป็นจำนวนมาก

ส่วนคำว่า "หอขวาง" นั้นมีที่มาคือ ในปี พ.ศ. 2413 มีนายพราน 2 คน คนหนึ่งชื่อพรานหมา อีกคนหนึ่งชื่อพรานบัว ร่วมกับพรรคพวกอีก 10 คน เป็นชาวบ้านโนนเมือง (เป็นหมู่บ้านเก่าแก่อีกแห่งหนึ่ง ปัจจุบันขึ้นกับตำบลแพง อำเภอโกสุมพิสัย ซึ่งเป็นต้นกำเนิดของเมืองขอนแก่นในปัจจุบัน) พากันไปหายิงเนื้อ แต่ก็หาได้พบเนื้อไม่ จนล่วงเข้ามาในเขตพัทธสีมาด้านตะวันตก (อยู่ด้านข้างวัดกลางโกสุมในปัจจุบัน) ต่างก็รู้สึกอ่อนเพลียไปตาม ๆ กัน จึงหยุดพักนอนในที่แห่งนั้น

ในคืนนั้นพรานคนหนึ่งฝันว่า มีบุรุษหนึ่งร่างกายกำยำสูงใหญ่ ท่าทางดุร้ายน่ากลัว ถือตะบองมาขู่ว่า "พวกสูมาทำไม กูจะตีเสียให้ตายเดี๋ยวนี้" พรานเกิดความหวาดกลัวตัวสั่น ได้แต่วิ่งอ้อนวอนร้องขอชีวิตไว้ บุรุษนั้นจึงสั่งว่า "ถ้าพวกสูอยากได้เนื้อ จงพากันมากราบไหว้ทำสักการบูชา กับปลูกหอเพียงตาขวางตะวันให้กู ถ้าไม่ทำเช่นนั้น กูจะตามไปฆ่าเสียให้ตาย และพวกสูจะไม่ได้เนื้อแม้สักตัวเดียว" พรานคนนั้นตกใจตื่นขึ้น ก็ได้เล่าความฝันให้พรรคพวกฟัง จึงตกลงกันว่าจะปลูกหอได้ตามที่ได้นิมิตนั้น

ครั้งรุ่งเช้า จึงช่วยกันปลูกหอมเหศักดิ์ (ศาลเจ้า) ซึ่งมีลักษณะทอดยาวจากทิศเหนือมาทิศใต้ซึ่งเรียกว่า "ขวางตะวัน" (หอขวาง) แล้วพากันหกดอกไม้ต่าง ๆ มาบูชาและกราบไหว้อธิษฐานขอให้ล่าเนื้อได้ตามประสงค์ แล้วก็ออกหาเนื้อตามป่าแถบนั้น ก็ไปพบหมูป่าตัวหนึ่ง กำลังขุดคุ้ยหาอาหารอยู่ริมฝั่งน้ำห่างจากที่พักประมาณ 1 เส้น พรานก็เลยยิงถูกกลางลำตัวพอดี แต่หมูป่าไม่ตายคาที่ พวกพรานจึงไล่ตามหมูป่าไปพบโบสถ์ร้างหลังหนึ่ง (คือสถานที่ประดิษฐานองค์หลวงพ่อมิ่งเมืองในปัจจุบัน) เห็นมีรอยเลือดติดอยู่ฝาผนัง จึงตามรอยเลือดไปจนพบหมู่ป่านอนตายพิงผนังโบสถ์ร้างนั้น (คือโบสถ์ร้างวัดใต้โกสุม) พวกพรานจึงกากันหามหมูป่ากลับถิ่นฐานของตน

ส่วนความเป็นมาของบรรพบุรุษชาวโกสุมพิสัยนั้น มีพงศาวดารกล่าวไว้ว่า บรรพบุรุษเป็นชาวกรุงศรีสัตนาคนหุต (ล้านช้าง) ซึ่งได้อพยพกระจัดกระจายลงมาอยู่ในดินแดนภาคตะวันออกเฉียงเหนือทุกวันนี้ โดยมาแสวงหาที่ทำกินอันเป็นชัยภูมิที่เหมาะสมแก่จริตนิสัยของตน พวกไหนเห็นว่าสถานที่ใดเป็นที่เหมาะสม คือมีที่ดินทำกิน มีน้ำมีปลา และมีพืชพันธุ์ธัญญาหารอุดมสมบูรณ์ ก็รวมกันตั้งบ้านตั้งเมืองขึ้นในสถานที่นั้น เช่น เมืองหนองบัวลำภู (ลุ่มภู) นครจำปาศักดิ์ ดอนมดแดง และที่อื่น ๆ อีกมาก