Velký bílý žralok je pelagický druh, což znamená, že žije v otevřeném oceánu, ale často se přiblíží k pobřeží. Některé oblasti, kde se běžně vyskytují velké bílé žraloky, zahrnují:
- Tichý oceán, zejména u pobřeží Kalifornie, Oregonu, Washingtonu, Havaje, Austrálie, Nového Zélandu a Japonska
- Atlantský oceán, zejména u pobřeží Massachusetts, New York, Severní Karolína, Jižní Karolína, Florida, Gruzie a Jižní Afrika
- Indický oceán, zejména u pobřeží Jižní Afriky, Mozambiku, Madagaskaru a Austrálie
Stanoviště velkého bílého žraloka zahrnuje různé prostředí, od řasních lesů a písečných pláží až po hluboké pobřežní vody. Lze je nalézt v hloubkách až 3 900 stop (1 200 metrů), ale nejčastěji se vyskytují v hloubkách méně než 1 640 stop (500 metrů).
Velké bílé žraloci jsou osamělí lovci a neshromažďují se ve velkém počtu, s výjimkou sezóny páření. Obvykle cestují sami nebo v malých skupinách po dvou nebo třech.