พระพุทธวิถีนายก หรือ หลวงปู่เพิ่ม หรือ เกิดเมื่อวันที่ 28 มกราคม พ.ศ. 2429 ตรงกับรัชสมัยของพระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว บรรพชาเป็นสามเณรเมื่อปี พ.ศ. 2437 ขณะมีอายุได้ 8 ปี บวชเป็นสามเณรมาอยู่จนถึงอายุบวชเมื่อวันที่ 12 กรกฎาคม พ.ศ. 2450 ท่านได้เข้าทำพิธีอุปสมบทเป็นพระภิกษุ ณ พัทธสีมาวัดกลางบางแก้ว โดยมีสมเด็จพระอริยวงศาคตญาณ สมเด็จพระสังฆราช (แพ ติสฺสเทโว) ครั้งยังดำรงสมณศักดิ์เป็นสมเด็จพระวันรัตเป็นพระอุปัชฌาย์ พระอธิการจอม เจ้าอาวาสวัดตุ๊กตา เป็นพระกรรมวาจาจารย์ พระครูทักษิณานุกิจ วัดสรรเพชญ์ เป็นพระอนุสาวนาจารย์ หลังจากนั้น ท่านได้ศึกษาพระธรรมวินัยอยู่ที่วัดกลางบางแก้วตลอดมา และท่านก็เป็นลูกศิษย์เอกของพระพุทธวิถีนายก (บุญ ขนฺธโชติ) ท่านได้อยู่รับใช้หลวงปู่บุญ จนกระทั่งหลวงปู่บุญท่านมรณภาพลงในปี พ.ศ. 2478 จากนั้นก็มีเจ้าอาวาสรักษาการอยู่ประมาณ 4 ปีต่อจากนั้น