ตามประวัติที่แปลเป็นภาษาจีนโดยพระกุมารชีวะเมื่อประมาณ ค.ศ. 405 ได้กล่าวว่า พระนาคารชุนะเป็นชาวอินเดียภาคใต้ เกิดในสกุลพราหมณ์ แต่ข้อมูลที่บันทึกโดยพระถังซำจั๋งระบุว่า ท่านเกิดในแคว้นโกศลภาคใต้, ท่านเป็นพระสหายที่มีอายุไล่เลี่ยกับพระเจ้ายัชญศรีเคาตมีบุตร (ค.ศ. 166-196) ประวัติในตอนต้นไม่แน่ชัด หลักฐานของทิเบตกล่าวว่าท่านออกบวชตั้งแต่วัยเด็กเนื่องจากมีผู้ทำนายว่าจะอายุสั้น บ้างก็ว่าในวัยเด็กมารดาของท่านได้รับคำทำนายว่าท่านนาคารชุนะจะไม่อาจมีบุตร ทางแก้คือต้องจัดพิธีเลี้ยงพราหมณ์ 100 คน ครอบครัวของท่านจึงต้องจัดพิธีดังกล่าว แต่หลังจากนั้นพราหมณ์ก็ยังทำนายว่าต้องจัดพิธีเช่นนี้อีกเนื่องจากยังไม่สิ้นเคราะห์ กระทั่งหลังจากที่มารดาทำพิธีเลี้ยงพราหมณ์เป็นครั้งที่สาม มารดาจึงตัดสินใจให้ท่านออกบวชขณะอายุยังไม่ครบ 7 ปี และให้ท่านออกจาริกแสวงบุญเพื่อแสวงหาผู้ที่สามารถช่วยชีวิตท่านให้รอดพ้นจากความตาย ท่านจาริกมาจนถึงนาลันทา ท่านได้พบกับท่านราหุลภัทระและได้รับการศึกษาที่นั่น

แต่อีกตำนานหนึ่งกล่าวว่าท่านออกบวชในวัยหนุ่ม เหตุเนื่องจากท่านกับสหายใช้เวทมนตร์ลักลอบเข้าไปในพระราชวังและถูกจับได้ สหายท่านถูกจับประหารชีวิต เนื่องจากตัวท่านอธิษฐานว่าหากรอดพ้นจากการจับกุมในครั้งนี้จะออกบวชในพระพุทธศาสนา หลังจากอุปสมบทแล้วได้ศึกษาพระไตรปิฎกเจนจบภายใน 90 วัน มีความรอบรู้ในไตรเพทและศิลปศาสตร์นานาชนิด ประวัติท่านปรากฏเป็นตำนานเชิงอภินิหารในพุทธศาสนานิกายต่าง ๆ จนยากจะหาข้อสรุป ตำนานเล่าว่าท่านได้ลงไปยังเมืองบาดาลเพื่ออัญเชิญคัมภีร์ปรัชญาปารมิตาสูตรขึ้นมาจากนาคมณเฑียร และเป็นผู้เปิดกรุพระธรรมเร้นลับของมนตรยานซึ่งพระวัชรสัตว์บรรจุใส่สถูปเหล็กไว้ ได้มีการอ้างว่าท่านพำนักอยู่ในสถานที่หลายแห่งของอินเดีย เช่น ศรีบรรพตในอินเดียภาคใต้ ในคัมภีร์ทิเบตกล่าวว่าท่านใช้เวลาช่วงหนึ่งอยู่ที่นาลันทาด้วย

สำหรับนามว่า "นาคารชุนะ" นั้น มีที่มาจากคำว่า นาคะ กับ อรชุนะ โดยที่อรชุนเป็นชื่อของต้นไม้ซึ่งเชื่อกันว่าเป็นที่กำเนิดของท่าน บ้างก็อธิบายต่างไปว่า นาคะหมายถึงปัญญาญาณ แสดงถึงสมรรถภาพทางสติปัญญาของผู้ที่สามารถเอาชนะกิเลสาสวะลงได้ ดังนั้นชื่อของพระนาคารชุนะจึงอาจเป็นชื่อจริงหรือนามฉายาที่มีบุคคลยกย่องขึ้นในภายหลังก็ได้ และมีข้อสันนิษฐานมากมายเกิดขึ้นเกี่ยวกับเรื่องนี้ อย่างไรก็ตาม มีความเป็นไปได้ว่า นักปราชญ์ที่มีนามว่านาคารชุนะนั้น อาจมีอยู่หลายคน ทำให้บุคคลในชั้นหลังเกิดความสับสนและเข้าใจผิดว่าเป็นบุคคลคนเดียวกัน ทำให้มีตำนานเรื่องราวปรากฏต่างกันออกไป อย่างไรก็ตาม ในทางปรัชญาย่อมถือเอาคุรุนาคารชุนะผู้รจนาคัมภีร์มาธยมิกศาสตร์เป็นสำคัญ

งานเขียนของนาคารชุนะนั้น ถือเป็นพื้นฐานการกำเนิดสำนักมัธยมกะ ซึ่งมีการถ่ายทอดไปยังจีน โดยเรียกว่า สำนักสามคัมภีร์ (ซานลุ่น: 三論) ท่านได้รับการยกย่องนับถือในฐานะผู้สถาปนาแนวคิดแห่ง พระสูตรปรัชญาปารมิตา และมีความสัมพันธ์ใกล้ชิดกับมหาวิทยาลัยพุทธนาลันทา คัมภีร์สำคัญของท่านนาคารชุนะที่หลงเหลือมาถึงปัจจุบันได้แก่ มูลมัธยมกการิกา (มาธยมิกศาสตร์), ศูนยตาสัปตติ, ยุกติษัษฏิกา, วิครหวยาวรตนี, สุหฤลเลขะ, รัตนาวลี, ไวทัลยปรกรณะ ซึ่งล้วนเป็นการอรรถาธิบายพุทธพจน์ด้วยตรรกวิทยาอันเฉียบคม และหลักปรัชญาศูนยตวาท นอกจากนี้ยังมีงานเขียนอีกจำนวนมากที่อ้างว่าเป็นผลงานของท่านเพื่อให้งานนั้นๆ มีความน่าเชื่อถือ ผลงานหลายเล่มยังคงเป็นที่ถกเถียงกันว่าเป็นผลงานที่แท้จริงของท่านหรือไม่.