Soru

Zorluk: Çok zorKovaryans ve Korelasyon Matrislerinin Kullanımı

Çok değişkenli istatistiksel analizde, pp boyutlu bir X\mathbf{X} veri matrisi üzerinden Temel Bileşenler Analizi (TBA) gerçekleştirilirken, analizin örneklem kovaryans matrisi (S\mathbf{S}) veya örneklem korelasyon matrisi (R\mathbf{R}) üzerinden yapılması elde edilecek sonuçları köklü biçimde etkilemektedir.

Bir veri analisti, sırasıyla X1,X2,,XpX_1, X_2, \dots, X_p değişkenlerinden oluşan ve ölçüm birimleri ile varyansları arasında devasa farklılıklar (heterojen ölçek yapısı) bulunan bir teorik veri seti üzerinde TBA uygulamaktadır. S\mathbf{S} matrisinin özdeğerleri l1l2lpl_1 \ge l_2 \ge \dots \ge l_p, R\mathbf{R} matrisinin özdeğerleri ise c1c2cpc_1 \ge c_2 \ge \dots \ge c_p olarak tanımlanmıştır.

Buna göre, matris seçimi ve TBA sonuçları üzerindeki teorik etkileri hakkında aşağıdaki ifadelerden hangisi kesinlikle doğrudur?

  1. A
    R\mathbf{R} matrisinin özdeğerleri, S\mathbf{S} matrisinin özdeğerlerinin matrisin izine bölünmesiyle (ci=li/I˙z(S)c_i = l_i / \text{İz}(\mathbf{S})) elde edildiği için, her iki matrisin kullanımı sonucunda orijinal veri uzayında tamamen aynı asal eksenler (özvektörler) bulunur.
  2. B
    Değişkenlerin ölçüm birimleri farklı olsa bile, analizin temel amacı açıklanan toplam varyansı maksimize etmek olduğundan, veri setindeki orijinal varyans yapısını bozmamak ve bilgi kaybını önlemek adına daima S\mathbf{S} matrisi kullanılmalıdır.
  3. S\mathbf{S} matrisi kullanıldığında, birinci temel bileşen büyük oranda en yüksek varyansa sahip değişken(ler)in doğrusal kombinasyonu olma eğilimindedir; R\mathbf{R} matrisi kullanılması ise değişkenleri birim varyansa sahip olacak şekilde standartlaştırıp i=1pci=p\sum_{i=1}^{p} c_i = p eşitliğini sağlayarak, ölçüm birimi farklılıklarından doğan tahakkümü ortadan kaldırır.Cevap
  4. D
    Her ne kadar S\mathbf{S} ve R\mathbf{R} matrislerinin ana köşegen elemanları farklı olsa da, her iki matrisin determinantı birbirine eşittir (S=R|\mathbf{S}| = |\mathbf{R}|); bu nedenle analizin ürettiği genelleştirilmiş varyans büyüklüğü matris seçiminden etkilenmez.
  5. E
    R\mathbf{R} matrisi kullanılarak yapılan TBA, veri setindeki gizil (latent) değişkenleri ve her bir değişkene ait spesifik hata terimlerini modellemeye olanak tanırken, S\mathbf{S} matrisi yalnızca gözlenen değişkenlerin varyansını dikkate alır.

Cevap

S\mathbf{S} matrisinin kullanılması büyük varyanslı değişkenlerin birinci temel bileşeni domine etmesine yol açarken, R\mathbf{R} matrisinin kullanılması değişkenleri standartlaştırarak (özdeğerler toplamını pp yaparak) ölçüm birimi farklılıklarının yarattığı bu tahakkümü ortadan kaldırır.
Farklı ölçüm birimlerine ve heterojen varyanslara sahip veri setlerinde kovaryans matrisi (S\mathbf{S}) kullanıldığında, analiz varyansı en büyük olan değişkene doğru çekilir ve birinci temel bileşen büyük oranda bu değişkeni temsil eder. Korelasyon matrisi (R\mathbf{R}) kullanılması ise, değişkenleri birim varyansa sahip olacak biçimde standartlaştırdığından, analizin izin toplamını (özdeğerler toplamı) değişken sayısı olan pp'ye eşitler ve ölçek (birim) farklılıklarından kaynaklı domine etme problemini ortadan kaldırır.

Adım Adım Çözüm

1
Veri setindeki heterojen varyans yapısının matrisler üzerindeki etkisini incelemek
Farklı birimlerde ölçülen değişkenlerde S\mathbf{S} matrisi kullanıldığında, ham varyansı çok büyük olan değişken(ler) analizi domine edecektir.
TBA, varyans maksimizasyonuna dayanan bir boyutsal indirgeme tekniği olduğundan, doğal olarak varyansı sayısal olarak büyük olan değişkene daha büyük ağırlık (yük) verir.
2
Korelasyon matrisinin (R\mathbf{R}) standartlaştırma özelliğini ve izini (trace) değerlendirmek
R\mathbf{R} matrisi kullanıldığında tüm değişkenlerin varyansı 11'e eşitlenmiş olur. Ana köşegeni 11'lerden oluştuğu için matrisin izi (özdeğerlerin toplamı) tam olarak pp'ye eşittir.
Korelasyon matrisi üzerinden TBA yapmak, veriyi Z-skorlarına dönüştürdükten sonra kovaryans matrisi üzerinden TBA yapmaya eşdeğerdir. Bu işlem, birim farklılıklarından doğan yapay varyans şişmelerini düzeltir.

Anahtar Kavram

TBA'da Ölçek Bağımlılığı (Scale Dependency) ve Matris Seçimi
Bu soruyu puanla