Adaptační dynamika jednoduché samoorganizační mapy– Kohonenovo učení
Základní metodou adaptační dynamiky je učení bez učitele. Síť tedy organizuje své váhy sama, pouze na základě vstupů předkládaných z trénovací množiny.
|
|
(11) |
Síť během své adaptace vytváří reprezentanty pro shluky nalezené sítí v trénovací množině, do kterých následně při aktivní dynamice síť zařazuje předkládané vstupy.
Proces adaptace probíhá metodou Kohonenova učení. Při tomto procesu adaptace, jsou nejprve nastaveny váhy na náhodné hodnoty. Následně je na vstup v -tém kroku přiložen jeden ze vstupů z trénovací množiny. Síť určí vítězný,
-tý neuron. Váhy vítězného neuronu jsou modifikovány dle
|
|
(12) |
kde představuje parametr z intervalu
Parametr určuje míru posunu vektoru
směrem k vektoru
a určuje rychlost učení. Na počátku učení je zpravidla jeho hodnota blízká 1 a v procesu učení je postupně snižována k 0. Myšlenka adaptace je taková, že modifikací vah posouváme pozici vítězného reprezentanta ve vstupním prostoru blíže k aktuálně klasifikovanému vstupu. Takto procházíme postupně celou trénovací množinu až do chvíle, kdy již dochází k minimální změně pozic reprezentantů.
Tento způsob adaptace má však i své podstatné nevýhody, je velmi citlivý na vhodnou počáteční inicializaci vah neuronů tak, aby pokrývala tu část vstupního prostoru, kde předpokládáme klasifikované vstupy a tedy hledané shluky. Představme si situaci, kdy chceme provést identifikaci shluků v klasickém euklidovském dvojrozměrném prostoru. Předpokládejme, že po počáteční náhodné inicializaci vah neuronů jsou tito počáteční reprezentanti rozmístěni nerovnoměrně a jsou soustředěni pouze do jedné oblasti vstupního prostoru. Dále předpokládejme, že trénovací množina, ve které chceme identifikovat shluky, obsahuje vektory ze samozřejmě stejného euklidovského prostoru, ale umístěné v jiné oblasti, než jsou inicializovány váhy. Oblast reprezentantů daných počátečním nastavením vah a oblast vstupů z trénovací množiny jsou tak od sebe v prostoru vzdálené. Po předložení prvního vstupu z trénovací množiny dojde k tomu, že zvítězí jeden, nejbližší z reprezentantů. Jeho váhy jsou upraveny dle Soutěživé sítě (12) a tento reprezentant je tak přesunut mnohem blíže k oblasti vstupů z trénovací množiny. Co se ale bude dít po předložení dalšího vstupu z trénovací množiny? Jelikož jsou si vstupní vektory relativně blízké, zvítězí opět ten stejný, v minulém kroku korigovaný reprezentant. Takto tedy algoritmus postupuje dále a cyklicky upravuje pouze jednoho jediného reprezentanta. Ostatní zůstávají beze změny. Tento základní algoritmus tedy v praxi často selhává. S ilustrovaným problémem se umí vypořádat rozšířená samoorganizační neuronová síť nazývaná Kohonenova mapa.
