Příklad 1
Navrhněte lineární rozdělení dvourozměrného prostoru pomocí algoritmu podpůrných vektorů za předpokladu, že vektory = (1, 1)T a = (1, -1) patří do třídy a vektory = (-1, 1)T a = (-1, -1) do třídy (viz Obr. 13a).
Řešení
Jednoduchá geometrie zadání patrná z Obr. 13a a znalost principu algoritmu podpůrných vektorů vede k intuitivnímu řešení úlohy, definujícímu hraniční funkci pro = 1 a = = 0 (Obr. 13b). V tom případě jsou všechny čtyři obrazové vektory podpůrnými vektory a toleranční pás oddělující hraniční přímku od všech podpůrných vektorů je široký právě 1. Všechna ostatní možná řešení (např. řešení vyznačené čárkovaně na Obr. 13c) vedou k menší šířce tolerančního pásma.
Pokusme se nyní o matematickou formulaci a řešení zadané úlohy. Lagrangova funkce podle vztahu (19) v tomto konkrétním případě nabývá tvaru
(P1)
|
Její derivací podle jednotlivých souřadnic vektoru w dostáváme
|
(P2)
|
a ze vztahu (20) plyne
(P3)
|
Jednotlivé rovnice se rovnají nule, buď když = 0, nebo když jsou rovny nule výrazy v závorce, nebo obojí. Protože v této chvíli nevíme, jaké hodnoty nabudou Langrangovy součinitele , budeme se zabývat případem, kdy se budou rovnat nule výrazy v závorkách. V tom případě se výše uvedená soustava rovnic (P3) transformuje do lineárního tvaru
|
(P4)
|
která má řešení = 1 a = = 0, což odpovídá intuitivnímu řešení uvedenému na začátku řešení tohoto příkladu. Po dosazení za , a do (P4) dostáváme lineární soustavu tří rovnic pro čtyři neznámé , , a .
(P5)
|
Tato soustava má nekonečně mnoho řešení, která lze parametricky popsat
(P6)
|
Ovšem všechna řešení odpovídají optimálnímu nastavení souřadnic vektoru w, např. pro t = 0,25 jsou = 0,25, = 0,25, = 0,25 a stejně = 0,25.