ประวัติศาสตร์ของมาเลเซียเริ่มต้นขึ้นจากการแผ่ขยายอิทธิพลของอารยธรรมอินเดียมาสู่ภูมิภาคเอเชียตะวันออกเฉียงใต้รวมทั้งแหลมมลายู พบหลักฐานเกี่ยวกับอารยธรรมอินเดียที่เก่าแก่ที่สุดอายุคริสต์ศตวรรษที่ 6 ในสมัยโบราณดินแดนประเทศมาเลเซียอยู่ภายใต้การปกครองของอาณาจักรศรีวิชัย (Srivijaya) ซึ่งมิใช้รัฐรวมอำนาจการปกครองที่ศูนย์กลางแต่เป็นเครือข่ายของเมืองต่าง ๆ ในภูมิภาคหมู่เกาะในเอเชียตะวันออกเฉียงใต้ ควบคุมเส้นทางการเดินเรือสำคัญระหว่างจีนและอินเดีย ศูนย์กลางของอาณาจักรศรีวิชัยอยู่ที่เมืองปาเล็มบัง ประเทศอินโดนีเซีย หรืออยู่ที่อำเภอไชยา จังหวัดสุราษฏร์ธานี จารึกภาษามลายูเก่า (Old Malay) ซึ่งเก่าแก่ที่สุดคือจารึกเคดูกันบูกิต (Kedukan Bukit Inscription) พบที่เมืองปาเล็มบัง มีอายุที่ ค.ศ. 683 เป็นจารึกภาษามลายูเก่าควบคู่กับภาษาสันสกฤต คำว่า “มลายู” นั้นมาจากคำว่าเมลายู (Melayu) เดิมหมายถึงพื้นที่ทางตอนใต้ของเกาะสุมาตราบริเวณเมืองปาเล็มบัง ต่อมาเมื่อศูนย์อำนาจย้ายมาอยู่บนแหลมมลายูคำว่ามลายูจึงเคลื่อนที่ตามมา ชนชั้นปกครองของมลายูในอาณาจักรศรีวิชัยนับถือพุทธศาสนามหายาน มีการค้นพบพระพุทธรูปและรูปของพระโพธิสัตว์ต่าง ๆ ในประติมากรรมศิลปะแบบศรีวิชัย

ใน ค.ศ. 1025 พระเจ้าราเชนทราโจฬะที่ 1 (Rajendra Chola I) แห่งราชวงศ์โจฬะจากแคว้นทมิฬในอินเดียใต้ ยกทัพเข้ารุกรานดินแดนของศรีวิชัยในคาบสมุทรมลายู ทำให้อำนาจของอาณาจักรศรีวิชัยในภูมิภาคเสื่อมลง คาบสมุทรมลายูตกอยู่ภายใต้การปกครองของชาวทมิฬอยู่ช่วงเวลาหนึ่ง ทำให้มีการค้นพบจารึกภาษาทมิฬตามที่ต่าง ๆ เมืองมลายูที่เก่าแก่อยู่ภายใต้การปกครองของศรีวิชัยได้แก่ เมืองคตาหะ หรือเกดะห์ (Kedah) หรือเมืองไทรบุรี และเมืองปะหัง มีการค้นพบแหล่งโบราณคดีที่หุบเขาบูยัง (Bujang valley) ที่รัฐเกดะห์ แสดงถึงวัฒนธรรมทมิฬและพุทธศาสนา เมื่อชาวทมิฬโจฬะเสื่อมอำนาจถอยออกไปแล้ว คาบสมุทรมลายูจึงอยู่ภายใต้การปกครองของอาณาจักรตามพรลิงก์ (Tambralinga) ซึ่งมีศูนย์กลางอยู่ที่เมืองนครศรีธรรมราช ใน ค.ศ. 1231 พระเจ้าศรีธรรมาโศกราชขึ้นครองอาณาจักรตามพรลิงก์ เมืองต่าง ๆ ทางเหนือของมาเลเซียได้แก่ไทรบุรี กลันตัน และปะหัง อยู่ภายใต้การปกครองของตามพรลิงก์และเป็นส่วนหนึ่งของหัวเมืองบริวารสิบสองนักษัตร ในขณะที่เมืองในภาคใต้ของมาเลเซียยังคงอยู่ในเขตอิทธิพลของอาณาจักรศรีวิชัย

ใน ค.ศ. 1288 ทัพเรือของอาณาจักรสิงหะส่าหรีเข้าบุกยึดนครปาเล็มบัง ซึ่งเป็นศูนย์กลางของอาณาจักรศรีวิชัย ทำให้อาณาจักรศรีวิชัยล่มสลายกลุ่มเชื้อวงศ์ต่าง ๆ ของศรีวิชัยต่างพากันหลบหนีออกจากพื้นที่ มีเจ้าชายศรีวิชัยองค์หนึ่งนามว่าสังนีลอุตมะ (Sang Nila Utama) หลบหนีทัพของชวามาตั้งมั่นอยู่บนเกาะเทมาเส็ก (Temasek) ตั้งเมืองสิงคปุระ (Singapura) ขึ้นใน ค.ศ. 1299 และปราบดาภิเษกตนเองขึ้นเป็นรายาแห่งอาณาจักรสิงคปุระ (Kingdom of Singapura) นามว่ารายาศรีตรีภูวนะ (Sri Tri Buana) อาณาจักรสิงคปุระยังคงต้องเผชิญกับการรุกรานของชาวชวาอาณาจักรมัชปาหิตอีกหลายครั้ง อาณาจักรสิงคปุระดำรงอยู่เป็นเวลาประมาณหนึ่งร้อยปีมีรายาปกครองทั้งสิ้นห้าองค์จนกระทั่งล่มสลายลงใน ค.ศ. 1398 จากการรุกรานของต่างชาติในสมัยของรายาปรเมศวร