Bir araştırmacı, bağımlı değişken Y'yi tahmin etmek için beş aday bağımsız değişken (X_1, … — KPSS İstatistik

Bir araştırmacı, bağımlı değişken $Y$ 'yi tahmin etmek için beş aday bağımsız değişken ( $X_1, X_2, X_3, X_4, X_5$ ) ile adımsal regresyon (stepwise regression) analizini uygulamaktadır. Algoritmanın çalışması sırasında sırasıyla şu adımlar gerçekleşmiştir:

- 1. Adım: Kısmi $F$ istatistiği en yüksek olan $X_2$ modele alınır.
- 2. Adım: Modelde $X_2$ varken en yüksek marjinal katkıyı sağlayan $X_4$ modele dahil edilir; bu esnada $X_2$ 'nin istatistiksel anlamlılığı korunur.
- 3. Adım: Geriye kalan adaylar arasından giriş kriterini ( $\alpha_{\text{giriş}}$ ) sağlayan $X_5$ modele eklenir. Ancak $X_5$ eklendikten hemen sonra yapılan kontrolde, daha önce modele girmiş olan $X_2$ 'nin kısmi $F$ istatistiğine ait $p$ -değerinin, belirlenen çıkış kriterinin ( $\alpha_{\text{çıkış}}$ ) üzerine çıktığı görülür ve $X_2$ modelden çıkarılır.

Adımsal regresyon algoritmasının işleyiş mantığı dikkate alındığında, 3. adımda yaşanan bu durumun temel istatistiksel gerekçesi ve algoritmanın karakteristik özelliği aşağıdakilerden hangisinde en doğru biçimde açıklanmıştır?

$X_5$ ile $X_2$ arasında güçlü bir ilişki bulunması nedeniyle, $X_5$ modele girdiğinde $X_2$ 'nin bağımlı değişken üzerindeki benzersiz açıklayıcılık payının (kısmi etkisinin) anlamsız hale gelmesidir; adımsal regresyon, her yeni değişken eklendiğinde modeldeki mevcut değişkenlerin kısmi anlamlılıklarını geriye dönük sınayarak ayıklamasıyla diğer yöntemlerden ayrılır.Cevap
B
Yeni eklenen $X_5$ değişkeninin, modelin genel geçerliliğini test eden $F$ istatistiğini düşürmesidir; adımsal regresyon, bireysel parametrelerin anlamlılığına değil, modelin bütünsel anlamlılığını korumak adına genel $F$ değerini maksimize etmeyen değişkenleri eleme prensibiyle çalışır.
C
$X_5$ 'in eklenmesiyle değişkenler arası çoklu doğrusal bağlantının artmasıdır; bu sorun karşısında ileriye doğru seçim (forward selection) ve adımsal regresyon yöntemleri eşzamanlı olarak aynı eleme prosedürünü uygulayarak aynı nihai modele ulaşmayı garanti eder.
D
Modele $X_5$ 'in dahil edilmesinin $X_2$ ile etkileşime girerek EKK tahmincilerinde kaçınılmaz bir istatistiksel sapmaya (bias) yol açmasıdır; adımsal regresyon, tahmincilerin sapmasızlık özelliğini korumak amacıyla çoklu bağlantı yaratan değişkenleri sistem dışına iter.
E
$X_5$ değişkeninin modele girmesiyle birlikte düzeltilmiş $R^2$ değerinde yaşanacak matematiksel düşüştür; algoritma, düzeltilmiş $R^2$ 'nin her adımda istisnasız bir şekilde artış göstermesi prensibine dayandığından azalışa sebep olan $X_2$ 'yi modelden çıkarır.

Cevap

Durumun temel nedeni, X5'in eklenmesiyle X2'nin kısmi (benzersiz) açıklayıcılık payının istatistiksel olarak anlamsız hale gelmesidir. Adımsal regresyon, modele her yeni değişken eklendiğinde halihazırda modelde bulunan değişkenlerin anlamlılıklarını geriye dönük olarak test eder ve gerekiyorsa onları modelden çıkarır.

Adımsal regresyon algoritması, ileriye doğru seçim ile geriye doğru elemenin bir kombinasyonudur. En belirgin özelliği, modele her yeni değişken dahil edildiğinde, daha önceden modelde bulunan değişkenlerin kısmi (marjinal) istatistiksel anlamlılıklarını (F-to-remove veya t-testi ile) yeniden değerlendirmesidir. Eğer sonradan eklenen bir değişken (X5), daha önce eklenen bir değişkenle (X2) korelasyonluysa, X2'nin modeldeki benzersiz açıklayıcılık payı azalabilir ve önceden belirlenmiş çıkış kriterini (alpha_çıkış) aşarak anlamsızlaşabilir. Bu durumda algoritma o değişkeni modelden uzaklaştırır.

Adım Adım Çözüm

Değişkenlerin modele giriş mantığını analiz etme

X5'in modele girmesi, X5'in X2 ve X4 varken bile Y üzerinde istatistiksel olarak anlamlı bir marjinal katkısı olduğunu (p < alpha_giriş) gösterir.

Adımsal regresyonda yeni bir değişkenin eklenmesi, o değişkenin kısmi F istatistiğinin kritik değeri aşmasına bağlıdır.

Değişkenin modelden çıkma (silinme) nedenini tespit etme

X5 modele girdikten sonra, X2'nin marjinal katkısı yeniden hesaplanır. Eğer X2 ile X5 arasında korelasyon varsa, X2'nin daha önce açıkladığı varyansın bir kısmı X5 tarafından açıklanıyor olabilir.

Çoklu regresyonda katsayılar 'diğer değişkenler sabitken' yorumlanır. Yeni bir değişkenin girmesi, eski değişkenlerin kısmi açıklayıcılığını düşürebilir.

Algoritmanın karakteristik farkını belirleme

İleriye doğru seçim (forward selection) yönteminde X2 modelde kalmaya devam ederken, Adımsal (stepwise) yöntemde geriye dönük sınama yapıldığı için X2 elenir.

Adımsal regresyonun ayırt edici özelliği, giriş ve çıkış kriterlerini dinamik olarak birlikte kullanmasıdır.

Anahtar Kavram

Adımsal Regresyonda Değişken Seçim Mekanizması ve Kısmi Anlamlılık

Soru

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Konular

Bu konudan daha fazla soru