Principy učení neuronu obecně

Průběhu aktivní dynamiky provádí neuron transformaci vstupních vektorů na hodnotu výstupní. Parametry neuronu jsou v tuto chvíli konstantní. Oproti tomu adaptační dynamika je proces, který má za úkol tyto parametry neuronu nastavit tak, aby neuron prováděl požadovanou transformaci. Parametry, které jsou v průběhu učení neuronu adaptovány, jsou zpravidla jen váhy vstupních synapsí neuronu, včetně synapse představující práh. Vstupní váhy představují tedy paměť neuronu. Učení neuronu obstarává adaptační algoritmus, který nastavuje hodnotu vah neuronu. Tento proces probíhá zpravidla iterativně na základě předkládaných příkladů, kdy má adaptační algoritmus k dispozici množinu dvojic vstupních hodnot a jim odpovídajících výstupům. Ve výjimečných případech je možné hledané váhy určit přímým výpočtem.

Adaptační algoritmy tedy postupují podobně jako člověk, kdy hledají řešení na základě analogie se známými příklady. Nastavení vah neuronu tedy odpovídá nelezení co nejvýstižnější transformace vstupních vektorů na vektory výstupní na základě známých vstupních hodnot s předpokladem, že nalezená transformace bude dostatečně obecná i pro další neznámé příklady dané oblasti, byť tomu tak být nemusí.

Principy adaptace jednotlivého neuronu uvedené v dalších kapitolách lze snadno zobecnit i na dopředné vrstevnaté neuronové sítě. Základní výhodou neuronových sítí je možnost nalezení transformace i u těch úloh, které jsou analyticky obtížně řešitelné, či neřešitelné. Postačí k tomu dostatečné množství příkladů. Nevýhodou je naopak skutečnost, že výsledná transformace je ukryta ve struktuře sítě, nelze ji použít k vysvětlení řešení úlohy. Je třeba si dále uvědomit, že byť jsou sítě výkonným výpočetním modelem řešícím řadu obtížných úloh, záruku nalezení dostatečně obecné transformace neuronové sítě nezaručují.