มัสยิดอุสาสนอิสลามหรือมัสยิดบ้านบนถูกสร้างขึ้นในปี พ.ศ. 2390 โดยช่างชุดเดียวกันกับที่เกณฑ์ไปสร้างวัดมัชฌิมาวาสหรือวัดกลาง[8] ตรงกับรัชสมัยพระบาทสมเด็จพระนั่งเกล้าเจ้าอยู่หัว ต่อมาในรัชสมัยพระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัวได้พระราชทานพระราชทรัพย์ให้ขณะที่ทรงแวะเข้าเมืองสงขลาระหว่างเดินทางไปชวา[9] ทั้งนี้บุคคลที่เป็นหัวเรี่ยวหัวแรงในการสร้างมัสยิดนี้คือโต๊ะหมัดและโต๊ะหมะ[8] ซึ่งพระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัวยังพระราชทานเครื่องตกแต่งภายในอีก เช่น โคมระย้า[8] ครั้นในรัชสมัยพระบาทสมเด็จพระมงกุฎเกล้าเจ้าอยู่หัวได้พระราชทานโคมไฟสีเขียวซึ่งเป็นเครื่องสังเค็ดในงานพระเมรุในหลวงรัชกาลก่อน[9] หลังจากนั้นก็มีการบูรณะซ่อมแซมมัสยิดเรื่อยมา เช่นขยายปีกสองข้าง หรือสร้างโดมรูปหัวหอมบนหออาซาน[8]

เดิมมัสยิดอุสาสนอิสลามเป็นมัสยิดกลางประจำจังหวัดสงขลา[4] แต่ภายหลังได้มีการสร้างมัสยิดกลางดิย์นุลอิสลาม ถนนลพบุรีราเมศวร์ ตำบลคลองแห อำเภอหาดใหญ่[10] มัสยิดอุสาสนอิสลามจึงลดบทบาทเป็นมัสยิดประจำชุมชนไป[9]