คลองฉะไกรน้อยเป็นคลองที่เริ่มต้นมาตั้งแต่บึงพระรามที่ตั้งอยู่บริเวณกลางเกาะเมืองทะลุออกแม่น้ำเจ้าพระยาในแนวเหนือใต้ ขนานไปกับคลองฉะไกรใหญ่ที่อยู่ทางตะวันตก แต่คลองฉะไกรน้อยขุดขึ้นเมื่อใดไม่เป็นที่ปรากฏแต่คาดว่าน่าจะขุดขึ้นตั้งแต่ช่วงต้นกรุงศรีอยุธยา เนื่องจากโบราณสถานบางแห่งที่ตั้งและหันลงสู่คลองฉะไกรน้อยมีสถาปัตยกรรมที่จัดอยู่กลุ่มอยุธยาตอนต้น ดังเช่นวัดสิงหารามภายในมหาวิทยาลัยราชภัฏพระนครศรีอยุธยา[2][3] คลองฉะไกรน้อยทำหน้าที่ในการชักน้ำเข้าไปหล่อเลี้ยงบึงพระรามมิให้เหือดแห้ง[2] เมื่อใดที่บึงพระรามมีน้ำมากเกินไปคลองฉะไกรน้อยก็ทำหน้าที่เป็นทางระบายน้ำออกแม่น้ำเจ้าพระยาทางทิศใต้ อันแสดงให้เห็นถึงความสามารถในระบบการจัดการน้ำของชาวกรุงศรีอยุธยา[4] ตัวคลองมีขนาดไม่กว้างนัก[5] คลองสามารถเชื่อมต่อกับคลองฉะไกรใหญ่ผ่านทางคลองป่ามอทางทิศตะวันตก และคลองประตูเทพหมีผ่านทางคลองวัดฉัตรทันทางทิศตะวันออก[4]

ยังมีการสันนิษฐานว่าคลองฉะไกรน้อยอาจเคยใช้เป็นเส้นทางต้อนรับราชทูตจากราชสำนักฝรั่งเศสที่เข้ามาเจริญสัมพันธไมตรีกับกรุงศรีอยุธยาในรัชสมัยสมเด็จพระนารายณ์มหาราช[6] และบริเวณคลองฉะไกรน้อยในอดีตนี้ยังเป็นที่ตั้งของบ้านป่าตอง อันเป็นที่ตั้งของนิวาสถานเดิมของสมเด็จพระเพทราชา พระมหากษัตริย์แห่งกรุงศรีอยุธยา ที่ภายหลังทรงยกนิวาสถานเดิมของพระองค์เป็นวัดในพระพุทธศาสนานั่นคือวัดบรมพุทธาราม ที่เสมือนวัดประจำราชวงศ์บ้านพลูหลวง[7]

ปัจจุบันคลองฉะไกรน้อยตื้นเขินไปเกือบหมดแล้ว หลงเหลือเพียงลำคลองบางส่วนเท่านั้นบริเวณวัดบรมพุทธาราม วัดสิงหาราม วัดสวนหลวงค้างคาว[2] และสะพานบ้านดินสอที่ตั้งอยู่ภายในมหาวิทยาลัยราชภัฏพระนครศรีอยุธยา[8] และได้มีแนวคิดในการฟื้นฟูคลองฉะไกรน้อยเพื่อให้เกาะเมืองพระนครศรีอยุธยากลับมามีชีวิตชีวาอีกครั้ง[4]