Tirpitz se narodil v Küstrinu (nyní Kostrzyn nad Odrą, Polsko) v provincii Braniborsko, Prusko. Vstoupil do pruského námořnictva v roce 1865 a byl svědkem akce ve francouzsko-pruské válce 1870-71. Po válce zastával různé štábní funkce a velení a stoupal v hodnostech.
V roce 1897 byl Tirpitz jmenován státním tajemníkem císařského námořnictva , nástupce admirála Friedricha von Hollmanna. Okamžitě se pustil do realizace svých ambiciózních plánů na rozšíření německého námořnictva, protože věřil, že silné námořnictvo je nezbytné pro německou národní bezpečnost a ekonomickou prosperitu.
Pod Tirpitzovým vedením německé námořnictvo rychle rostlo. Zvýšil se počet bitevních lodí a křižníků a byly zavedeny nové typy válečných lodí, jako jsou ponorky a torpédoborce. Tirpitz také dohlížel na výstavbu sítě námořních základen a loděnic.
Tirpitzův námořní expanzní program zatížil německé zdroje a způsobil napětí s Británií, která se cítila ohrožena růstem německého námořnictva. V roce 1906 vypustila Británie na vodu Dreadnought, revoluční nový typ bitevní lodi, díky níž byly všechny existující bitevní lodě zastaralé. Tirpitz odpověděl tím, že nařídil stavbu nové třídy bitevních lodí, třídy Nassau, které byly vyzbrojeny silnějšími děly a silnějším pancířem než Dreadnought.
Anglo-německé námořní závody ve zbrojení pokračovaly až do vypuknutí první světové války v roce 1914. Německé námořnictvo pod Tirpitzovým velením hrálo ve válce významnou roli, ale nakonec bylo královským námořnictvem poraženo.
Po válce odešel Tirpitz z námořnictva a vstoupil do politiky. V letech 1924 až 1928 sloužil jako člen Reichstagu a byl hlasitým kritikem Výmarské republiky. Tirpitz zemřel v Ebenhausen, Bavorsko, v roce 1930.
Tirpitz zůstává kontroverzní postavou. Někteří ho obdivují pro jeho prozíravost a odhodlání při budování německého námořnictva, ale také je kritizován za jeho roli v anglo-německých námořních závodech ve zbrojení a vypuknutí první světové války.