Question

Difficulty: Very hardKovaryans ve Korelasyon Matrislerinin Kullanımı

pp değişkenli bir veri matrisi için hesaplanan örneklem kovaryans matrisi S\mathbf{S} ve örneklem korelasyon matrisi R\mathbf{R} üzerinden Temel Bileşenler Analizi (TBA) yapılması planlanmaktadır. Değişkenlerin ölçüm birimlerinin birbirinden oldukça farklı olduğu ve S\mathbf{S} matrisinin asal köşegenindeki elemanların (bireysel varyansların) birbirinden çok farklı değerler aldığı bilinmektedir. S\mathbf{S} matrisinin özdeğerleri λ1λ2λp>0\lambda_1 \geq \lambda_2 \geq \dots \geq \lambda_p > 0 ve R\mathbf{R} matrisinin özdeğerleri γ1γ2γp>0\gamma_1 \geq \gamma_2 \geq \dots \geq \gamma_p > 0 şeklinde sıralanmıştır.

Bu iki matrisin TBA'daki matematiksel davranışları ve teorik özellikleri karşılaştırıldığında, aşağıdaki ifadelerden hangisi kesinlikle doğrudur?

  1. A
    Temel bileşen eksenlerinin yönelimleri ve elde edilen bileşen skorları, analizin S\mathbf{S} veya R\mathbf{R} üzerinden yapılmasından bağımsızdır; iki matris sadece bileşen varyanslarının ölçeklerini farklılaştırır.
  2. B
    R\mathbf{R} matrisinin ana köşegenindeki tüm elemanlar 11 olduğu için, analiz sonucunda elde edilen γi\gamma_i özdeğerleri doğrudan ilgili temel bileşenlerin açıkladığı varyans yüzdelerine eşittir.
  3. S\mathbf{S} matrisinin ilk temel bileşeninin açıkladığı varyans oranı, orijinal veri setindeki en büyük varyans değerine sahip değişkenin toplam varyans içerisindeki payından daima büyük ya da bu paya eşittir.Answer
  4. D
    Her iki matrisin de özdeğerlerinin çarpımı (determinantı) veri setindeki toplam değişkenliği verdiğinden, başlangıç matrisinin seçimi bilginin ilk temel bileşende özetlenme oranını etkilemez.
  5. E
    Orijinal veri setinde ölçüm biriminden kaynaklanan ve çok büyük bir varyansa sahip olan bir değişken varsa, R\mathbf{R} matrisi ile yapılan analizde de bu değişken ilk temel bileşeni domine etmeyi sürdürür.

Answer

S\mathbf{S} matrisinin ilk temel bileşeninin açıkladığı varyans oranının, orijinal veri setindeki en büyük varyans değerine sahip değişkenin toplam varyans içerisindeki payından daima büyük veya bu paya eşit olduğunu belirten ifade doğrudur.
Temel Bileşenler Analizi, veri setindeki varyansı maksimize eden ortogonal eksenleri bulma işlemidir. Doğrusal cebirdeki Rayleigh Bölümü kuralı gereği, bir kovaryans matrisinin en büyük özdeğeri (λ1\lambda_1), matrisin ana köşegenindeki en büyük elemandan (smax2s^2_{max}) büyük ya da ona eşittir. Analizin açıklanan varyans oranı elde edilirken bu değerler ortak bir paydaya, yani matrisin izine (toplam varyansa) bölündüğü için eşitsizlik oranı değişmez. Bu durum, ilk temel bileşenin açıkladığı oransal varyansın, en büyük varyanslı değişkenin kendi oransal payından her zaman yüksek veya eşit olmasını garanti eder.

Step-by-Step Solution

1
Kovaryans matrisi (S\mathbf{S}) üzerinden yapılan TBA'da en büyük özdeğerin (λ1\lambda_1) karesel form bağlamındaki tanımını anımsamak.
Rayleigh bölümü teoremi gereğince λ1\lambda_1, S\mathbf{S} matrisinin asal köşegenindeki herhangi bir elemandan (yani tekil değişken varyanslarından) her zaman büyük veya ona eşittir: λ1max(si2)\lambda_1 \geq \max(s^2_i).
İlk temel bileşen, veri setindeki varyansı maksimize eden en uygun doğrusal kombinasyondur. Ağırlıkların tümü, sadece en yüksek varyanslı değişkene 11 atanacak şekilde (standart taban vektörü) seçilse bile, en az o değişkenin orijinal varyansı kadar bir varyans elde edilir.
2
Kovaryans matrisinde toplam varyansın matematiksel karşılığını tanımlamak.
S\mathbf{S} matrisinin izi (tr(S)\text{tr}(\mathbf{S})), hem özdeğerlerin toplamına (λi\sum \lambda_i) hem de bireysel varyansların toplamına (si2\sum s_i^2) eşittir.
Temel Bileşenler Analizi, matrisin izini değiştirmeyen dik (ortogonal) bir dönüşümdür; dolayısıyla toplam varyans sabit kalır.
3
Bulunan eşitsizliği açıklanan varyans oranı bağlamında yorumlamak.
λ1smax2\lambda_1 \geq s^2_{max} eşitsizliğinin her iki tarafı pozitif bir değer olan toplam varyansa (tr(S)\text{tr}(\mathbf{S})) bölündüğünde; λ1tr(S)smax2tr(S)\frac{\lambda_1}{\text{tr}(\mathbf{S})} \geq \frac{s^2_{max}}{\text{tr}(\mathbf{S})} sonucu matematiksel olarak kesinleşir.
Bu sonuç, ilk temel bileşenin oransal gücünün, verideki en baskın değişkenin oransal gücünden matematiksel olarak asla daha az olamayacağını kanıtlar.

Key Concept

Kovaryans ve Korelasyon Matrislerinin Özellikleri ile Rayleigh Bölümü (Rayleigh Quotient) Teoremi
Rate this question