ลูกบาศก์ของรูบิกมีขนาดมาตรฐานโดยประมาณ 2 1/8 นิ้ว (5.4 เซนติเมตร) กว้าง ยาว และสูง ลูกบาศก์ประกอบด้วยลูกบาศก์ขนาดย่อม 26 ชิ้น "ชิ้นกลางหน้า" ของแต่ละด้าน จะเป็นชิ้นที่มีสีหน้าเดียว และเชื่อมต่อกับกลไกการหมุนที่แกนกลาง ซึ่งชิ้นกลางหน้าที่ยึดติดกับแกนกลางนี้จะเป็นโครงสร้างที่ขัดส่วนที่เหลือไว้ด้วยกัน และหมุนไปมาได้ ดังนั้นทั้งหมดจะมี 27 ชิ้นส่วน แกนกลางสำหรับหมุน 1 ชิ้น ชิ้นกลางหน้า 6 ชิ้น และชิ้นอื่น ๆ อีก 20 ชิ้น ซึ่งสามารถประกอบเข้ากับชิ้นกลางหน้าที่ยึดติดกับแกนหมุนได้พอดี โดยจะมีส่วนที่ออกแบบให้ยึดขัดกันไม่ให้หลุดออกจากกัน แต่หมุนไปมาได้ การแยกชิ้นส่วนของลูกบาศก์ก็ไม่ได้ยากอะไร เพียงแต่งัดชิ้นขอบให้หลุดออกมาส่วนที่เหลือก็จะหลุดออกจากกันเอง การแก้ปัญหาลูกบาศก์ของรูบิกโดยวิธีการแยกส่วนประกอบเป็นวิธีที่ง่าย แต่ขาดความท้าทาย

นอกเหนือจากชิ้นกลางหน้าแล้ว จะมีลูกบาศก์ขนาดย่อมอีก 20 ชิ้น มี 12 ชิ้นเป็น "ชิ้นขอบ" ซึ่งมีสี 2 ด้าน และ 8 ชิ้นเป็น "ชิ้นมุม" ซึ่งมีสี 3 ด้าน