หมู่บ้านป่ากล้วย ตั้งมาแต่เมื่อใดไม่มีปรากฏหลักฐาน แต่จากหลักฐานการอนุญาตให้ตั้งวัดของทางราชการ สามารถสันนิษฐานได้ว่าหมู่บ้านแห่งนี้มีมาก่อน พ.ศ. 2400 แล้ว โดยชาวบ้านป่ากล้วยที่เป็นผู้เริ่มมาตั้งรกรากอยู่ที่นี้เป็นกลุ่มแรกคือ ผู้ใหญ่ลี นุ่มนวล มีคนเมื่อแรกตั้งหมู่บ้านประมาณ 30 คน

ความเป็นมาชื่อหมู่บ้านป่ากล้วย มาจากในบริเวณที่ตั้งหมู่บ้านมีต้นกล้วยขึ้นมากเรียงไปตลอดตลิ่งริมฝั่งแม่น้ำน่านเก่า เรียกแถบนั้นว่า "บ้านบน" และอีกส่วนหนึ่งตั้งอยู่ในที่ราบตะกอนแม่น้ำพัด (แม่น้ำน่าน) ในแถบทางเหนือหมู่บ้านตรงข้ามตำบลท่าเสา เรียกว่า บ้านล่าง หรือบ้านป่าพุทรา เนื่องจากแถบนั้นมีต้นพุทราขึ้นหนาแน่น ต่อมาในปี พ.ศ. 2462 ผู้ใหญ่เสริม ผู้ใหญ่บ้านป่ากล้วย-ป่าพุทราในขณะนั้น ได้ขอให้รวมเปลี่ยนชื่อหมู่บ้านมาเป็นบ้านป่ากล้วยแทน และใช้ชื่อนี้มาจนปัจจุบัน นอกจากนี้ในหมู่บ้านป่ากล้วยยังบุ่งน้ำเก่าอยู่แห่งหนึ่งคือ บุ่งยายสี ใช้สำหรับอุปโภคบริโภคมาแต่อดีต ปัจจุบันบุ่งแห่งนี้ยังคงมีอยู่ โดยทางการได้มาทำประโยชน์ขุดลอกเป็นอ่างเก็บน้ำขนาดเล็กสำหรับใช้ในหมู่บ้าน

หมู่บ้านป่ากล้วย เป็นหมู่บ้านแรกในตำบลคุ้งตะเภาที่มีอาคารอุโบสถก่ออิฐถือปูนเป็นแห่งแรก โดยอาคารโรงอุโบสถแห่งนี้สร้างในปี พ.ศ. 2430 ตั้งอยู่ภายในวัดประจำหมู่บ้านคือวัดป่ากล้วย ที่ตั้งมาตั้งแต่ปี พ.ศ. 2395 โดยอุโบสถหลังนี้สร้างโดยดำริของหลวงพ่ออินทร์ พระอุปัชฌาย์ และพระเกจิอาจารย์สำคัญของอำเภอบางโพในสมัยนั้น ที่ได้เป็นต้นศรัทธานำญาติโยมร่วมสร้างหลังจากได้มีโอกาสเข้าเฝ้าถวายพระพรพระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว ณ พลับพลาบริเวณหาดท่าทราย ตรงข้ามกับวัดป่ากล้วย เมื่อคราวเสด็จประพาสอุตรดิตถ์[3]

นอกจากหมู่บ้านแห่งนี้จะเป็นหมู่บ้านที่มีอาคารก่ออิฐถือปูนเป็นแห่งแรกแล้ว หมู่บ้านป่ากล้วยยังเป็นสถานที่ตั้งของสำนักเรียนพระปริยัติธรรมแห่งแรกของตำบล โดยได้ก่อตั้งในปี พ.ศ. 2500 ตามดำริของพระมหาจรูญ คุตฺตจิตฺโต (พรหมน้อย) ซึ่งทำให้หลังจากนั้นไม่นาน พระมหาปรีชา ปริญฺญาโณ (คืนประคอง) ลูกศิษย์ของพระมหาจรูญที่เป็นคนบ้านป่ากล้วย ได้เข้าอุปสมบทและศึกษาพระปริยัติธรรมจนสอบได้เป็นพระภิกษุเปรียญธรรม ๙ ประโยค เป็นรูปแรกของจังหวัดอุตรดิตถ์[4] และหลังจากนั้นได้มีชาวบ้านป่ากล้วยได้เข้ามาอุปสมบทเพื่อศึกษาพระปริยัติธรรมและสอบได้เป็นเปรียญหลายคน จนในปี พ.ศ. 2539 สามเณรสัญญา โปร่งใจ (พระมหาสัญญา ปญฺญาวิจิตฺโต) คนบ้านป่ากล้วย ได้สอบไล่ได้เปรียญธรรม ๙ ประโยคในขณะเป็นสามเณร (ประโยค ๙ นาคหลวง) ขณะอายุได้ 21 ปี (สำนักเรียนวัดประยุรวงศาวาสวรวิหาร) ทำให้ท่านเป็นสามเณรชาวอุตรดิตถ์รูปแรกและรูปเดียวในปัจจุบัน (2552) ที่ได้รับพระบรมราชานุเคราะห์จากพระบาทสมเด็จพระเจ้าอยู่หัว ทรงรับเป็นนาคหลวง อุปสมบทในวัดพระศรีรัตนศาสดาราม[5]