Souvislost GA a NN

GA lze s úspěchem použít i pro optimalizaci neuronových sítí. Nejčastěji se GA uplatňují v procesu organizační a adaptační dynamiky, kdy GA optimalizují topologii, respektive váhy neuronové sítě.

GA mohou být ve fázi organizační dynamiky NN používány při nalezení optimálního počtu neuronů, jejich parametrů, uspořádání do vrstev a spojů. Obvykle algoritmy vycházejí buď z minimální struktury sítě a postupně přidávají další neurony, nebo je postup opačný a počáteční komplexní síť je postupně při zachování výkonnostních parametrů zjednodušována. Realizace GA je ve fázi organizační dynamiky s ohledem na nutnost prověření velkého množství komplexních jedinců výpočetně velmi náročná a vyžaduje nemalé systémové prostředky. Každý jedinec je zde představován komplexní topologickou strukturou NN a i jeho samotné prověření a ohodnocení fitness není triviální.

Ve fázi adaptační dynamiky NN je topologie sítě neměnná, GA hledá optimální nastavení hodnot vah jednotlivých neuronů. Váhy mohou být reprezentovány reálnými hodnotami, ale obvykle jsou kódovány jako binární, což vede na jednodušší implementaci a výpočetně méně náročnou realizaci GA. Nevýhodou je, že jsme schopni při dané délce řetězce popisujícího jedince zachytit pouze omezený počet hodnot vah, což nemusí být dostatečné. Prodlužováním řetězce lze jejich hodnoty zpřesňovat, nicméně jejich prodlužování významně zpomalí GA.

GA je možné použít i současně jak ve fázi adaptační, tak organizační dynamiky. Přínosnější se jeví použití GA i přes jejich náročnost ve fázi dynamiky organizační, protože GA jsou schopny nalézt při zachování výkonnostních parametrů síť s co možná nejjednodušší a nejoptimálnější strukturou. Pro adaptaci vah sítě máme mimo GA k dispozici například gradientní backpropagation algoritmus, který je mnohem méně výpočetně náročný a přes nebezpečí uváznutí v lokálních minimech přináší většinou uspokojivé výsledky.