Žraloci velryb se nacházejí v tropických a teplých tělesných vodách po celém světě. Nejčastěji se vyskytují v indických a tichomořských oceánech, ale byly také spatřeny v Atlantickém oceánu. Žraloci velryby obvykle žijí v horních vrstvách oceánu, ale bylo známo, že se ponoří do hloubky přes 1 000 stop.