Princip faktorové analýzy
Na rozdíl od analýzy hlavních komponent (PCA), jejíž hlavním cílem je vysvětlit maximum variability dat, se faktorová analýza snaží vysvětlit kovarianci mezi proměnnými. Faktorová analýza předpokládá, že pozorované proměnné jsou lineární kombinací hypotetických proměnných - faktorů.
Ve faktorové analýze se tedy vysvětluje vzájemná lineární závislost pozorovaných proměnných existencí menšího počtu nepozorovatelných faktorů zvaných společné faktory (common factors) a dalších zdrojů variability nazývaných chybové či specifické faktory (nebo též rušivé či reziduální složky). Společné faktory vyvolávají korelace mezi proměnnými, zatímco chybové faktory pouze přispívají k rozptylu jednotlivých pozorovaných proměnných. Předmětem zájmu faktorové analýzy jsou především společné faktory. Základem faktorové analýzy je předpoklad, že pozorované kovariance (resp. korelace) mezi proměnnými jsou výsledkem působení společných faktorů a ne vzájemného vztahu mezi proměnnými.