ปลาฉลามขาวอาศัยอยู่ตามแถบทะเลชายฝั่งเกือบทั่วทุกมุมโลกที่มีอุณหภูมิระหว่าง 12–24 °C แต่จะอาศัยอยู่หนาแน่นบริเวณอ่าวประเทศออสเตรเลีย ทางตอนใต้ของทวีปแอฟริกา แคลิฟอร์เนีย และตอนกลางของทะเลเมดิเตอร์เรเนียน แต่ที่หนึ่งที่หนาแน่นที่สุดอยู่ที่ ไดร์เออร์ ไอร์แลนด์ (Dyer Island, South Africa) ที่แอฟริกาใต้ ทั้งยังสามารพบได้ในเขตร้อนแถบทะเลเมดิเตอร์เรเนียน

ปลาฉลามขาวเป็นปลาน้ำลึก แต่ที่บันทึกจำนวนส่วนมากจะมาจากแถบทะเลชายฝั่งบริเวณที่มีสิงโตทะเล แมวน้ำ และโลมาอาศัยอยู่ ได้มีความพยายามที่จะสำรวจในบริเวณน้ำลึก ถึงระดับ 1,280 เมตร ผลปรากฏว่าจะพบมากบริเวณผิวน้ำมากกว่า