Porovnání faktorové analýzy a analýzy hlavních komponent

V první řadě připomeňme nutnou podmínku pro použití faktorové analýzy nebo analýzy hlavních komponent, a tou jsou korelace mezi původními proměnnými. Faktorovou analýzu ani PCA nemá smysl použít, když jsou původní proměnné nekorelované. Faktorová analýza pak nemá co objasnit a PCA povede k hlavním komponentám totožným s původními proměnnými.

Faktorová analýza pracuje podobně jako PCA s korelační nebo kovarianční maticí a nalézá první hlavní faktor tak, aby vysvětloval největší část rozptylu datové matice. Další faktory jsou konstruovány takovým způsobem, aby byly nezávislé, čili nekorelované, a vyčerpávaly sestupně maximum celkového rozptylu. Faktorová analýza se pokouší objasnit kovariance a korelace původních proměnných pomocí několika málo společných faktorů, zatímco PCA objasňuje pouze rozptyl původních proměnných.

Výpočet u PCA je přímočarý, jednoduchý. U faktorové analýzy je výpočet faktorového skóre daleko komplexnější a byla pro něj navržena řada postupů.

Rozdíl mezi faktorovou analýzou a analýzou hlavních komponent je i v posledním kroku analýzy. U faktorové analýzy jsou faktory rotovány tak, aby co nejjednodušeji popisovaly proměnné, tj. aby byly co nejblíže situovány co největšímu počtu původních proměnných. To je dosaženo v situacích, kdy jsou hlavní faktory co nejblíže skupině silně korelovaných proměnných. V těchto situacích můžou být hlavní faktory do určité míry korelovány (viz níže neortogonální rotace faktorů).