Kada su stanovnici Hanovera osnovali klub 12. aprila 1896. godine, na umu su im bili Ragbi i atletika. Fudbal je na red došao tek tri godine kasnije, ali se ime kluba uprkos tome poziva na originalnu godinu osnivanja.

 
Na nacionalnom nivou, Hanover 96 se pojavio sredinom 30-ih, plasmanom u prvo finale lige i davanjem igrača za reprezentaciju. Veliko iznenađenje klub iz Donje Saksonije je napravio 1938., kada je u finalu šampionata pobedio najslavniji klub epohe Šalke 04, posle dva meča (3:3 i 4:3).

 
Najuspešnija godina u istoriji kluba bila je 1954. Hanover je tada stigao do finala lige, u kojem je deklasirao Kajzerslautern sa 5:1. Pet članova ekipe ušlo je u reprezenatciju Nemačke, koja će u leto iste godine načiniti „Čudo iz Berna“ - pobedu nad neprikosnovenom mađarskom selekciju u finalu svetskog prvenstva.

 
Status kluba ostao je amaterski i na početku 60-ih, pa je na osnivanju Bundeslige Hanover zaigrao u regionalnoj ligi, grupa sever. Brzo su se Saksonci probili u najviši rang i u njemu ostali punih deset godina, bez većih dostignuća.

 
U periodu od 1974. do 2002 godine. Hanover je u prvoj Bundesligi proveo samo četiri sezone. U drugoj polovini 90-ih čak je stigao na ivicu kolapsa, provodeći dve sezone u amaterskom trećem rangu. Pre toga stekao je još slave.

 
U sezoni 1991./92. Hanover je serijom od pet pobeda nad prvoligašima (uključujući obe Borusije i Verder osvojio kup Nemačke. Tako je postao prva drugoligaška ekipa koja je došla do pehara.

Uspesi kluba:

Šampion Nemačke: 1938, 1954
Kup Nemačke: 1992