Bir araştırmacı, bağımlı değişken (Y) ile beş aday bağımsız değişken (X_1, X_2, X_3, X_4, … — KPSS İstatistik

Bir araştırmacı, bağımlı değişken ( $Y$ ) ile beş aday bağımsız değişken ( $X_1, X_2, X_3, X_4, X_5$ ) arasındaki ilişkiyi modellemek için "İleri Doğru Seçim (Forward Selection)" yöntemini kullanmaktadır. Modele giriş için anlamlılık düzeyi $\alpha_{giri\c{s}} = 0.05$ olarak belirlenmiştir.

Algoritmanın adımları şu şekilde ilerlemiştir:
1. Adım: Başlangıçta boş olan modele, $Y$ ile en yüksek kısmi korelasyona sahip olan ve $p$ -değeri $0.01$ olan $X_2$ değişkeni alınmıştır.
2. Adım: Modelde $X_2$ varken, kalan değişkenler arasından modele en yüksek katkıyı sağlayan $X_4$ değişkeni ( $p$ -değeri = $0.03$ ) modele dahil edilmiştir.

Ancak $X_4$ modele eklendikten sonra, $X_2$ ve $X_4$ arasındaki yüksek çoklu doğrusal bağlantı nedeniyle, başlangıçta modelde olan $X_2$ değişkeninin anlamlılığı bozulmuş ve kısmi $p$ -değeri $0.12$ 'ye yükselmiştir.

Bu durum karşısında, İleri Doğru Seçim algoritmasının üçüncü adıma geçerken uygulayacağı standart prosedür aşağıdakilerden hangisinde doğru ifade edilmiştir?

$X_2$ değişkeni modelde tutulmaya devam edilir ve algoritma sadece model dışındaki kalan değişkenler ( $X_1, X_3, X_5$ ) arasından modele girecek yeni bir aday aramayı sürdürür.Cevap
B
Algoritma, $p$ -değeri $0.05$ 'i aşan $X_2$ değişkenini modelden çıkarır ve analiz sürecine sadece $X_4$ 'ün yer aldığı model üzerinden devam eder.
C
Modele sonradan eklenen $X_4$ değişkeni eski değişkenin anlamlılığını bozduğu ve düzeltilmiş $R^2$ 'yi düşüreceği için, algoritma $X_4$ 'ü modelden geri çıkarır.
D
Değişkenlerin bireysel anlamlılıkları kaybolduğu için algoritma genel F-testine başvurur ve modelin genel anlamlılığı devam ediyorsa süreci o noktada sonlandırır.
E
Çoklu doğrusal bağlantı EKK tahmincilerinde sapmaya (bias) yol açacağı için, algoritma bu iki değişkeni aynı anda modelde tutmayı reddederek analizi tamamen durdurur.

Cevap

Algoritma, p-değeri bozulan ilk değişkeni modelde tutmaya devam eder ve kalan diğer değişkenler arasından yeni bir aday aramayı sürdürür.

İleri doğru seçim (forward selection) algoritmasının en belirgin özelliği tek yönlü olmasıdır. Bir değişken başlangıç kriterlerini sağlayarak modele bir kez dahil edildiğinde, sonraki adımlarda modele giren yeni değişkenlerle etkileşime girip (çoklu doğrusal bağlantı vb. nedenlerle) kısmi p-değeri sınırın üzerine çıksa dahi modelden çıkarılamaz. Bu durum algoritmanın bilinen bir zayıflığıdır ve tam da bu zayıflığı gidermek için her adımda eleme kontrolü yapan 'Adımsal Regresyon (Stepwise)' yöntemi geliştirilmiştir. Dolayısıyla algoritma

X_2

'yi modelde tutarak kalan değişkenlerle yola devam eder.

Adım Adım Çözüm

İleri Doğru Seçim (Forward Selection) yönteminin çalışma prensibini analiz et.

Yöntem, boş bir modelle başlar ve her adımda modele en yüksek katkıyı (en küçük p-değerini) sağlayan değişkeni ekler.

Model seçim algoritmalarının temel algoritmik yapısını hatırlamak.

Yöntemin esneklik kısıtını (değişken çıkarma kuralını) değerlendir.

İleri Doğru Seçim yönteminde, bir değişken modele bir kez dahil edildikten sonra kesinlikle modelden çıkarılamaz. Sonradan eklenen değişkenler çoklu bağlantı yaratarak eski değişkenleri anlamsızlaştırsa bile bu kural değişmez.

İleri Doğru Seçim ile Adımsal (Stepwise) Regresyon arasındaki temel farkı belirlemek.

Senaryodaki durumu bu kurala uygula.

X_2

değişkeni ilk adımda modele girmiş, ikinci adımda

X_4

eklenmiştir.

X_2

'nin p-değeri 0.12'ye çıksa da algoritma çıkarma işlemi yapamaz. Bu nedenle

X_2

modelde kalır ve 3. adıma geçilir.

Algoritmanın bir sonraki adımda ne yapacağını kesin olarak tahmin etmek.

Anahtar Kavram

İleri Doğru Seçim (Forward Selection) yönteminin algoritmik kısıtları ve Adımsal (Stepwise) regresyondan farkı.

Soru

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Konular

Bu konudan daha fazla soru