
Fisherova lineární diskriminace
Fisherova lineární diskriminace je stejně jako Bayesův klasifikátor a lineární verze metody podpůrných vektorů jednou z metod využívaných pro lineární klasifikaci dat. Pro základní vysvětlení podstaty této metody budeme uvažovat klasifikaci dvou tříd subjektů, a to pacientů a kontrol.
Principem Fisherovy lineární diskriminace je transformace do jednorozměrného (1-D) prostoru tak, abychom od sebe maximálně oddělili obě třídy (viz. Obr. 4). Je zřejmé, že pokud chceme od sebe dvě třídy separovat, měli bychom je promítnout tak, aby byly co nejdále od sebe, tzn., aby vzdálenost mezi jejich centroidy byla co největší. Ani velká vzdálenost centroidů však nemusí zaručit, že se po projekci nebudou lineárně separabilní třídy překrývat (viz projekce 1 v Obr. 4). Proto bychom měli vzít v úvahu i variabilitu uvnitř skupin, kterou chceme mít po projekci co nejmenší. Samotný požadavek na minimální variabilitu uvnitř skupin opět nemusí vést k úplnému oddělení lineárně separabilních tříd (viz projekce 2 v Obr. 4), proto se jeví jako vhodné použít kombinaci obou těchto požadavků.
Obr. 4: Princip Fisherovy lineární diskriminace. Projekce 1 (tzn. projekce na osu ) umožňuje dosažení větší vzdálenosti centroidů než projekce 2 (tzn. projekce na osu ), zatímco projekce 2 umožňuje získání menší variability mezi skupinami než projekce 1. Ani jedna z těchto projekcí však neumožňuje dokonalé oddělení obou skupin, protože se skupiny při těchto projekcích překrývají. Dokonalé oddělení obou skupin získáme až při projekci 3, která maximalizuje vzdálenost mezi skupinami a současně minimalizuje variabilitu uvnitř skupin.Osy a odpovídají dvěma proměnným. Čárkovaná čára ukazuje hranici mezi oběma třídami, která je kolmá na nadrovinu, do níž promítáme.
|
(2)
|
|
(3)
|

reprezentuje -tý subjekt a je jeho projekce. Osy a odpovídají dvěma proměnným.
|
(4)
|
|
(5)
|
|
(6)
|
|
(7)
|
|
(8)
|
|
(9)
|
|
(10)
|
|
(11)
|