1. Papír Geoffrey Hinton z roku 2006 :V roce 2006 publikoval počítačový vědec Geoffrey Hinton v přírodním časopise klíčový papír s názvem „Deep Learnial:A Tutorial on Deep Neural Networks“. Tento článek je považován za orientační bod v oblasti umělých neuronových sítí a pomohl popularizovat termín „hluboké učení“. Hinton a jeho kolegové na University of Toronto jsou široce považováni za průkopníky ve vývoji hlubokých učebních technik.
2. Yoshua Bengio používání termínu :Yoshua Bengio, další prominentní výzkumný pracovník v oboru, také hrál významnou roli v popularizaci termínu „hluboké učení“ na začátku roku 2000. Bengio a jeho kolegové na Université de Montréal provedli průkopnický výzkum algoritmů hlubokého učení a ve svých výzkumných publikacích často používal termín „hluboké učení“.
3. vliv kognitivní psychologie :Někteří věří, že inspirace pro termín „hluboké učení“ mohla pocházet z pojmu „hluboká struktura“ v kognitivní psychologii. Hluboká struktura je termín používaný v lingvistice a kognitivní psychologii k popisu základní reprezentace nebo syntaxe jazyka, který přesahuje povrchové rysy slov a frází. Tento koncept mohl ovlivnit pochopení modelů hlubokého učení jako zachycení základních vzorců a složitých vztahů v datech.
4. srovnání s tradičním strojovým učením :Termín „hluboké učení“ byl pravděpodobně vytvořen, aby se odlišil od tradičních metod strojového učení. Zatímco tradiční algoritmy strojového učení se často spoléhají na mělké neuronové sítě nebo mělké reprezentace dat, hluboké učení zahrnuje použití hlubokých neuronových sítí s více skrytými vrstvami. Tyto hluboké architektury umožňují složitější a hierarchickou extrakci prvků, což umožňuje modelům učit se reprezentace dat na vyšší úrovni.
5. Historický kontext :V prvních dnech výzkumu neuronových sítí byly mělké neuronové sítě normou a čelily omezením svých reprezentačních schopností a schopnosti řešit složité problémy. Na konci roku 2000 vznik výkonných výpočetních zdrojů, jako jsou jednotky grafického zpracování (GPU), umožnil efektivně trénovat hlubší neuronové sítě. Tento historický kontext přispěl k potřebě termínu, který zachytil pokrok a zvýšil složitost těchto nových přístupů, a proto termín „hluboké učení“ získal trakci.
Je to pravděpodobně kombinace těchto faktorů, spolu s konvergencí výzkumných úsilí a průlomů, která vedla k rozsáhlému přijetí pojmu „hluboké učení“ popisovat subfield v strojovém učení zaměřeném na hluboké neuronové sítě.