โกสัมพีมีความสำคัญมาตั้งแต่สมัยก่อนพุทธกาล เป็นเมืองหลวงแห่งแคว้นที่มีความเจริญรุ่งเรืองมากแคว้นหนึ่งในบรรดา 16 แคว้นของชมพูทวีป ในสมัยพุทธกาลเมืองแห่งนี้มีพระเจ้าอุเทนราชาเป็นเจ้าผู้ครองแคว้น มีความสำคัญในฐานะเป็นเมืองศูนย์กลางทางการค้าระหว่างแคว้นที่สำคัญแคว้นหนึ่ง ในทีฆนิกาย มหาวรรค ระบุว่าพระอานนท์เคยทูลขอให้พระพุทธองค์ควรมาปรินิพพานที่เมืองใหญ่โกสัมพีนี้ แทนที่จะเป็นเมืองกุสินารา ที่เป็นเมืองเล็ก[2] ในสมัยพุทธกาลเมืองแห่งนี้ปรากฏวัดในคัมภีร์ทางพระพุทธศาสนา 4 วัด คือ โฆสิตารามมหาวิหาร, กุกกุฏารามมหาวิหาร, ปาวาริการามมหาวิหาร หรือปาวาริกัมพวัน และพัทริการามมหาวิหาร ซึ่งสร้างโดยมหาเศรษฐีแห่งโกสัมพี 3 คน คือ โฆสกเศรษฐี, กุกกุฏเศรษฐี และปาวาริกเศรษฐีตามลำดับ โดยสามวัดแรกเศรษฐีทั้งสามได้สร้างถวายพระพุทธเจ้าในคราวเดียวกัน[3]

ตามคัมภีร์พระพุทธศาสนาระบุว่าพระพุทธเจ้าเสด็จมาประทับจำพรรษาที่ 9 ณ โกสัมพี และมีโอกาสเสด็จมาประทับ ณ เมืองโกสัมพีหลายครั้ง และบางครั้งได้ประทับอยู่นาน ได้ทรงแสดงพระสูตรต่าง ๆ เป็นจำนวนมาก รวมทั้งทรงบัญญัติสิกขาบทของพระภิกษุสงฆ์หลายสิกขาบท ซึ่งรวมถึงสิกขาบทในสุราปานวรรค ข้อที่ห้ามพระดื่มสุราด้วย[4] และโดยเฉพาะอย่างยิ่งเหตุการณ์ที่พระธรรมธรและวินัยธรแห่งโฆสิตารามมหาวิหารทะเลาะกันด้วยเรื่องการคว่ำขันน้ำในห้องน้ำ เกิดเป็นสังฆเภท[5] (แม้พระพุทธเจ้าจะเสด็จมาตักเตือนก็ไม่ยอมกัน จึงทำให้พระพุทธองค์เสด็จไปจำพรรษาที่ 10 ที่รักขิตวัน ในป่าปาริไลยกะ ออกพรรษาแล้วจึงเสด็จไปเมืองสาวัตถี พระที่ทะเลาะกันสำนึกผิดและคืนดีกันได้ในระหว่างพรรษา เมื่อออกพรรษาพระเหล่านั้นจึงพร้อมใจกันไปเฝ้าพระพุทธองค์ที่ เชตวันมหาวิหาร เมืองสาวัตถี เพื่อกราบทูลขออภัยโทษ) และเรื่องพระฉันนะ (คนเดียวกับฉันนะอำมาตย์ที่พาเสด็จออกผนวช) ถูกพระพุทธเจ้าให้พระสงฆ์ลงพรหมทัณฑ์ จนสำนึกผิดและกลับใจปฏิบัติธรรมจนบรรลุพระอรหัต[6]

นอกจากนี้ ยังมีเรื่องราวมากมายที่เกิดขึ้นในเมืองโกสัมพีที่ปรากฏในคัมภีร์พระพุทธศาสนา เช่น เรื่องโฆสกเศรษฐี, พระพากุละ, พระปิณโฑลภารัทวาชะ, เรื่องพระเจ้าอุเทนราชากับพระนางสามาวดี พระนางมาคันทิยา พระนางวาสุลทัตตา เป็นต้น รวมทั้งเรื่องพระนางมาคันทิยาผูกอาฆาตพระพุทธเจ้า จ้างให้นักเลงและเดียรถีย์เหล่ามิจฉาทิฏฐิติดตามด่าพระพุทธองค์ตลอดเวลา ซึ่งเป็นต้นเหตุของพระพุทธภาษิตสำคัญที่ถือได้ว่าเป็นธรรมะสอนใจดียิ่ง[7]