Bir ekonometrist, bağımlı değişken Y'yi açıklamak üzere 15 farklı aday bağımsız değişken (… — KPSS İstatistik

Bir ekonometrist, bağımlı değişken $Y$ 'yi açıklamak üzere 15 farklı aday bağımsız değişken ( $X_1, X_2, \dots, X_{15}$ ) ile çoklu doğrusal regresyon modeli kurmak için Adımsal Regresyon (Stepwise Regression) algoritmasını kullanmaktadır.

Algoritmanın işleyişi sırasında şu durum gözlemlenmiştir:
- 1. Adım: Tüm aday değişkenler içinde modele en yüksek katkıyı sağlayan $X_5$ değişkeni modele dahil edilmiştir.
- 2. Adım: $X_5$ modeldeyken, geriye kalanlar içinden modele katkısı en yüksek olan $X_2$ değişkeni modele dahil edilmiştir.
- 3. Adım: $X_5$ ve $X_2$ modeldeyken $X_8$ değişkeni modele dahil edilmiş; ancak $X_8$ modele girdikten hemen sonra gerçekleştirilen kontrolde algoritma $X_5$ değişkenini modelden çıkarmıştır.

Algoritmanın bu davranışı ve model seçim süreci dikkate alındığında, aşağıdaki ifadelerden hangisi kesinlikle doğrudur?

A
Eğer analizde İleriye Doğru Seçim (Forward Selection) yöntemi kullanılsaydı, $X_8$ modele girdikten sonra algoritma farklı bir iterasyon izlese de eninde sonunda $X_5$ modelden dışlanarak Adımsal Regresyon ile tamamen aynı nihai modele ulaşılacaktı.
B
$X_8$ 'in modele girmesi $X_5$ 'in parametre tahmininde güçlü bir çoklu doğrusal bağlantı yaratarak EKK tahmincisinin sapmalı (biased) hale gelmesine neden olmuş ve algoritma tahmincilerin sapmasızlığını korumak için $X_5$ 'i çıkarmıştır.
Modele $X_8$ dahil edildikten sonra $X_5$ 'in marjinal katkısını gösteren kısmi F-istatistiği çıkış sınırının ( $F_{out}$ ) altına düşmüştür ve sistemde sonsuz bir döngü yaşanmaması için modele giriş anlamlılık düzeyi ( $\alpha_{in}$ ) ile çıkış anlamlılık düzeyi ( $\alpha_{out}$ ) arasında $\alpha_{in} \leq \alpha_{out}$ ilişkisi olmalıdır.Cevap
D
$X_5$ 'in modelden çıkarılmasının temel nedeni, $X_8$ 'in eklenmesiyle modelin genel anlamlılığını ölçen ANOVA F-testi istatistiğinin kritik değerin altına düşmesidir; bireysel değişkenlerin katkıları bu aşamada değerlendirilmez.
E
$X_8$ değişkeni modele eklendiğinde düzeltilmiş belirleme katsayısı ( $\bar{R}^2$ ) matematiksel bir zorunluluk olarak azalacağından, algoritma modelin açıklayıcılığındaki bu düşüşü engellemek amacıyla $X_5$ 'i modelden dışlamıştır.

Cevap

Modele yeni bir değişken (

X_8

) eklendiğinde, daha önce eklenen bir değişkenin (

X_5

) kısmi F-istatistiği çıkış sınırının altına düşebilir ve bu durum değişkenin modelden çıkarılmasına yol açar. Ayrıca algoritmada kısır döngü oluşmaması için giriş anlamlılık düzeyi (

\alpha_{in}

), çıkış anlamlılık düzeyinden (

\alpha_{out}

) küçük veya ona eşit olmalıdır.

Adımsal regresyonda değişkenler modele kısmi F-istatistiği giriş kriterini (

F_{in}

) sağladığında girer, ancak yeni değişkenler eklendikçe çoklu doğrusal bağlantı sebebiyle mevcut değişkenlerin marjinal katkısı azalabilir. Eğer bir değişkenin kısmi F-istatistiği çıkış kriterinin (

F_{out}

) altına düşerse modelden atılır. Bu ekleme ve çıkarma kurallarının sistemde sonsuz bir kısır döngü (aynı değişkenin sürekli girip çıkması) yaratmaması için giriş şartı, çıkış şartından daha zorlayıcı veya ona eşit olmalıdır; matematiksel olarak bu

\alpha_{in} \leq \alpha_{out}

(veya

F_{in} \geq F_{out}

) şeklinde ifade edilir.

Adım Adım Çözüm

Adımsal Regresyon (Stepwise Regression) algoritmasının çalışma prensibini analiz etmek.

Bu yöntemde, modele her yeni değişken eklendiğinde, daha önce modele alınmış olan tüm değişkenlerin kısmi katkıları (kısmi F veya t istatistikleri) yeniden test edilir.

Modeldeki değişkenler arasındaki çoklu doğrusal bağlantılar nedeniyle, yeni bir değişken eklendiğinde eski bir değişkenin açıklayıcılık gücü istatistiksel olarak anlamsız hale gelebilir.

X_5

değişkeninin modelden neden çıkarıldığını istatistiksel olarak belirlemek.

X_8

modele eklendikten sonra,

X_5

'in marjinal katkısını ölçen kısmi F-istatistiği, modelden çıkarma kritik değerinin (

F_{out}

) altına düşmüştür.

Bir değişkenin modelde kalabilmesi için, diğer tüm değişkenler sabitken sağladığı ek katkının belirlenen çıkış anlamlılık düzeyini (

\alpha_{out}

) sürekli sağlaması gerekir.

Algoritmanın sonsuz döngüye girmemesini sağlayan matematiksel kısıtı değerlendirmek.

Giriş anlamlılık düzeyi (

\alpha_{in}

) ile çıkış anlamlılık düzeyi (

\alpha_{out}

) arasında

\alpha_{in} \leq \alpha_{out}

eşitsizliği olmalıdır.

Eğer

\alpha_{in} > \alpha_{out}

olsaydı (örneğin giriş için p<0.10, çıkış için p>0.05 kuralı konsaydı), p-değeri 0.08 olan bir değişken sürekli olarak modele girecek ve hemen ardından çıkış şartını sağlayamadığı için atılacak, sistem sonsuz bir döngüye girecekti.

Anahtar Kavram

Adımsal Regresyon Değişken Seçim Kriterleri ve Algoritmik Kararlılık

Tahmini Süre:2m 30s

Soru

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Konular

Bu konudan daha fazla soru