กำเนิดขึ้นโดยมีพื้นฐานมาจากวิชาโคโดกัน ยูโด และยิวยิตสูของญี่ปุ่น โดยถูกนำไปพัฒนาที่บราซิล โดยอดีตนักยูโดจากโรงฝึกโคโดกันชาวญี่ปุ่นชื่อ มิตซึโยะ มาเอดะ (Mitsuyo Maeda) ซึ่งเป็นนักยูโดอันดับต้น ๆ ของโคโดกันได้รับหน้าที่ให้เดินทางไปเผยแพร่ยูโดในต่างประเทศ โดยได้เดินทางออกจากญี่ปุ่นในปี 1904 โดยได้เดินทางไปเผยแพร่วิชายูโดในหลายประเทศและได้เดินทางเข้าไปในบราซิลในปี 1914

มาเอดะนั้นเป็นอดีตผู้ฝึกซูโม่ ที่เปลี่ยนตัวเองเข้ามาฝึกยูโด ซึ่งในตอนนั้นเพิ่งได้ถูกคิดค้นขึ้นมาใหม่โดย จิโกโร คาโน โดยในตอนนั้นวิชายังถูกเรียกว่า คาโนยิวยิตสู ซึ่งเป็นที่มาของการใช้ชื่อยิวยิตสู ในวิชาบราซิลเลียนยิวยิตสู แทนที่จะเป็นยูโด ก่อนเสียชีวิตมาเอดะได้รับสายดำในระดับเจ็ดของวิชายูโด

ในการสาธิตครั้งหนึ่งของมาเอดะนั้นได้พบกับคาร์ลอส กราซี (Carlos Gracie) ซึ่งในสมัยนั้นอายุได้เพียง 14 ปี คาร์ลอส ได้เข้าเป็นลูกศิษย์ของมาเอดะ และได้ฝึกยิวยิตสูจากมาเอดะในเวลานั้น ซึ่งภายหลังที่คาร์ลอสเติบโตขึ้นและย้ายไปอาศํยที่เมือง ริโด ดี จาเนโร ของบราซิล คาร์ลอสได้สอนวิชายิวยิตสูให้กับญาติ ๆ รวมทั้ง ฮิริโอ กราซี (Helio Gracie) ผู้ที่เป็นต้นกำเนิดของบราซิลเลียนยิวยิตสูในเวลาต่อมา เนื่องจากวิชานี้สืบทอดและพัฒนากันมาในหมู่ญาติของตระกูลกราซี (หรือที่รู้จักกันในชื่อ เกรซี) ทำให้ตอนนั้นจะถูกเรียกว่า เกรซียิวยิตสู

ปัจจุบันชื่อของเกรซียิวยิตสูได้กลายเป็นเครื่องหมายการค้าของตระกูลเกรซี ซึ่งจะหมายถึงยูยิสสูในรูปแบบของเขาเท่านั้น ทำให้มีการเปลี่ยนชื่อเรียกจากเกรซียิวยิตสู เป็นบราซิลเลียนยิวยิตสู

ในช่วงต้นนั้นกีฬาบราซิลเลียนยิวยิตสู นั้นสร้างชื่อตัวเองด้วยการไปท้าตีกับวิชาการต่อสู้อื่นตามสำนักต่าง ๆ ในบราซิล อาทิเช่น คาราเต้ ยูโด มวย รวมถึงท้าตีท้าต่อยกับนักเลงข้างถนนทั่วไปด้วย ซึ่งไม่มีศิลปะการต่อสู้ไหนเลยที่ชนะbrazilian jiujitsu ได้ หลังจากนั้นจึงเปิดให้คนทั่วไปที่สนใจอยากประลองวิชามาทดสอบได้เรียกกันว่า Gracie challenge ซึ่งหลังจากประกาศไปก็ได้มีคนเข้ามาท้าทายอย่างมากซึ่งหาคลิปดูได้ในยูทูบ อย่างเช่น นักคาราเต้ นักเลงข้างถนน นักเพาะกาย มวยจีนเส้าหลิน นักมวยปล้ำ ซึ่งศิลปะการต่อสู้เหล่านั้นเมื่อมาได้เจอบราซิลเลียนยิวยิตสู ก็แพ้อย่างราบคาบทั้งสิ้น

ต่อมาเมื่อศิลปะการต่อสู้บราซิลเลียนยิวยิตสู เริ่มดังในบราซิลขึ้น จึงได้มีการเชิญนักยูโดผู้เป็นศิษย์เอกของนักยูโดและยิวยิตสูชื่อดังที่ญี่ปุ่นนามว่า Kimura มาให้ทดสอบฝีมือสู้กับ Helio gracie ซึ่งผลก็คือศิษเอกของ Kimura โดนรัดคอสลบในเวลาไม่นาน ทางญี่ปุ่นจึงได้จัดส่ง Kimura มาที่บราซิลเพื่อมาเจอ Helio Gracie ซึ่งผลออกมาคือ Helio gracie แพ้เนืองจากโดนทุ่มและขนาดตัวที่เล็กกว่ามาก แต่ก็ถือเป็นจุดที่ทำให้โลกเริ่มรู้จักกีฬาบราซิลเลียนยิวยิตสูมากยิ่งขึ้น

ต่อมาตระกูลเกรซีจึงอยากหาผู้ทีมีความสามารถมาแข่งขันกับพวกตนจึงได้หานายทุนและจัดรายการ Ultimate fighting championship (หรือปัจจุบันคือ UFC) ขึ้น ซึ่งเป็นการให้นักศิลปะการต่อสุ้ต่างๆมาสู้กันในกฎ MMA คือซึ่งไม่ต้องใส่นวม ต่อยกันในกรง จะทำอะไรก็ได้เพียงให้อีกฝ่ายยอมแพ้หรือสลบไป ซึ่งก็มีนักศิลปะการต่อสู้มากมายเข้าร่วม ดังเช่นนักมวยสากล นักยูโดโอลิมปิก นักมวยปล้ำ นักชกข้างถนน ซึ่งแมตรอบสุดท้ายนั้น ผู้ชนะการต่อสู้ก็คือ Royce Gracie ที่สามารถชนะนักมวยปล้ำที่น้ำหนักมากกว่าตนหลายสิบโลได้ จึงทำให้ศิลปะการต่อสู้บราซิลเลียนยิวยิตสูโด่งดังและกระจายไปทั่วโลก