Obecná charakteristika umělých neuronových sítí se vzájemnými vazbami

Skupina sítí se vzájemnými vazbami se také často nazývá asociativními či atraktorovými sítěmi, protože princip jejich aktivní dynamiky spočívá ve vybavování si, asociaci předem naučených vzorů - atraktorů.  Vzhledem k charakteru, kdy si sítě pamatují určité naučené vzory, jsou modely asociativních sítí označovány také jako asociativní paměti.

Pro sítě se vzájemnými vazbami mezi neurony je typické, že zde existují i zpětné vazby mezi neurony, signál se tedy nešíří jedním směrem po jednotlivých vrstvách jako v případě perceptronů. Propojení mezi neurony může být úplné (Hopfieldova síť).  Může být také symetrické, synapse jsou tedy ohodnocena jedinou hodnotou váhy, která se používá pro oba směry šíření informace synapsí. Nejčastěji jsou používány neurony s binární či bipolární charakteristikou, které mají schopnost vyjádřit dva stavy.

Vzájemné propojení neuronů způsobuje, že v aktivní dynamice jsou jednotlivé neurony vzájemně ovlivňovány okolními neurony, se kterými mají společnou vazbu. Aktivní dynamika spočívá v postupném výběru jednoho z neuronů (ať už deterministicky, nebo náhodně) a úpravě jeho stavu na základě vlivu okolních neuronů. Změnou stavů neuron pak postupně přechází síť do stabilního stavu, kdy již není žádná změna možná, síť dosáhla atraktoru, tj. optima.

U sítí se vzájemnými vazbami tedy pozorujeme oproti aktivní dynamice perceptronů rozdíl. Zatímco perceptrony v aktivní dynamice poskytují okamžitou odezvu na předložený vstup „výpočtem“, aktivní dynamika sítí se vzájemnými vazbami představuje iterativní proces směřující k nalezení jednoho z atraktorů. Aktivní má tedy oproti perceptronům opačný charakter.

Iterativní proces vybavování si vzorů a přechodu systému do stabilního stavu má opět svoji analogii v biologické oblasti, kde odpovídá kognitivním funkcím mozku, například při rozpoznávání objektů. Analogii lze nalézt i v oblasti fyzikální, kdy Hopfieldova síť vznikla jako model, který popisuje původně náhodné uspořádání směrů magnetických momentů atomů v krytstalické mřížce, které ale směřují k uspořádanému stabilnímu stavu.

Obr. 1. Obecná organizační dynamika Hopfieldovy sítě

Asociativní neuronové sítě můžeme rozdělit do dvou oblastí, na autoasociativní a heteroasociativní.

Příkladem autoasociativní sítě a její adaptační dynamiky může být předložení poškozené či neúplné fotografie obličeje jisté osoby síti. Výsledkem vybavování sítě by pak byl nepoškozený a úplný obraz, který byl dříve do vah sítě uložen jako jeden z atraktorů. Ve fázi adaptační dynamiky sítě jsou zapamatovávány jednotlivé vzory, kdy daný vzor je použit jako vstup a současně i jako zapamatovávaný vzor, tedy požadovaný výstup.

Oproti tomu heteroasociativní sítě si nevybavují přímo předkládaný vzor, ale doplňují k němu nějaké související informace jiného charakteru. Příkladem může být síť, která po předložení fotografie obličeje provede identifikaci dané osoby a přiřadí k ní dříve zapamatované osobní údaje.