Soru

Zorluk: ZorPolinom Regresyon Modelleri

Bir üretim mühendisi, yeni geliştirilen bir kompozit malzemenin fırınlama sıcaklığı (XX) ile malzemenin kopma mukavemeti (YY) arasındaki ilişkiyi modellemek için n=45n=45 gözlemden oluşan bir veri seti kullanmaktadır. Mühendis sırasıyla karesel ve kübik polinom regresyon modellerini EKK (En Küçük Kareler) yöntemiyle tahmin etmiştir:

Karesel Model: Y^=β^0+β^1X+β^2X2\hat{Y} = \hat{\beta}_0 + \hat{\beta}_1 X + \hat{\beta}_2 X^2
Kübik Model: Y^=β^0+β^1X+β^2X2+β^3X3\hat{Y} = \hat{\beta}_0 + \hat{\beta}_1 X + \hat{\beta}_2 X^2 + \hat{\beta}_3 X^3

Kübik modelin tahmin sonuçları incelendiğinde şu bulgular elde edilmiştir:
I. Bağımsız değişkenler (X,X2,X3X, X^2, X^3) arasındaki VIF (Varyans Şişkinlik Faktörü) değerleri 60'ın üzerindedir.
II. En yüksek dereceli terime ait katsayının (β^3\hat{\beta}_3) t-testi istatistiği α=0,05\alpha = 0,05 anlamlılık düzeyinde anlamsız bulunmuştur.
III. Karesel modele kıyasla kübik modelin belirtme katsayısı (R2R^2) bir miktar artarken, düzeltilmiş belirtme katsayısı (Rˉ2\bar{R}^2) düşmüştür.

Bu bulgulara göre, model seçimi ve regresyon varsayımları bağlamında aşağıdakilerden hangisi istatistiksel olarak doğrudur?

  1. Kübik terimin modele eklenmesi serbestlik derecesi kaybını telafi edecek kadar hata varyansını düşürememiştir; bu nedenle karesel modele dönülmelidir ve polinom yapıdan kaynaklanan yüksek VIF değerleri tahmincilerin sapmasızlığını bozmaz.Cevap
  2. B
    Terimler arasındaki yapısal çoklu bağlantı nedeniyle VIF değerlerinin çok yüksek çıkması EKK tahmincilerinin sapmalı (biased) değerler almasına yol açmıştır; analiz derhal doğrusal model ile sınırlandırılmalıdır.
  3. C
    Kübik modele yeni bir açıklayıcı terim (X3X^3) eklendiği için düzeltilmiş R2R^2 (Rˉ2\bar{R}^2) değerinin matematiksel olarak her zaman artması gerekirdi; değerin düşmesi veri setinde ölçüm hatası olduğunu kanıtlar.
  4. D
    Kübik modelin genel anlamlılığını test eden F-testi sonucu anlamlıysa, en yüksek dereceli terim olan β3\beta_3'ün t-testi sonucunun anlamsız çıkması modelin derecesini düşürmek için geçerli bir istatistiksel kanıt sunmaz.
  5. E
    Kübik modelin hata varyansı hesaplanırken serbestlik derecesi n3n-3 alınması gerekirken yanlış serbestlik derecesi kullanılmış olabilir; t-testinin anlamsız çıkması doğrudan bu hesaplama hatasından kaynaklanmaktadır.

Cevap

Model seçimi için en yüksek dereceli terimin anlamlılığı test edilir. t-testi anlamsız çıktığı ve düzeltilmiş R² düştüğü için X³ terimi modelden çıkarılmalı, karesel modele dönülmelidir. Polinom regresyonda X, X² ve X³ gibi terimler doğal olarak birbiriyle yüksek korelasyon gösterir (yapısal çoklu bağlantı). Ancak bu yüksek VIF değerleri Gauss-Markov teoremi gereği EKK tahmincilerinin sapmasızlık özelliğini ihlal etmez.
Verilen bulgularda X3X^3 terimi istatistiksel olarak anlamsızdır ve düzeltilmiş R2R^2'yi düşürmüştür. Bu durum, modelin derecesinin karesel modele indirilmesi gerektiğine açıkça işaret eder. Ayrıca, X,X2X, X^2 ve X3X^3 değişkenleri arasındaki yüksek çoklu bağlantı (yapısal çoklu bağlantı) VIF değerlerini artırsa da, bu durum EKK tahmincilerinin sapmasızlık (unbiased) özelliğini hiçbir zaman bozmaz. Bu nedenle ifade istatistiksel olarak tamamen doğrudur.

Adım Adım Çözüm

1
Düzeltilmiş belirtme katsayısındaki (Rˉ2\bar{R}^2) düşüşü ve t-testi sonucunu yorumlama.
Kübik terime ait t-testi anlamsız bulunmuş ve Rˉ2\bar{R}^2 düşmüştür. Bu durum X3X^3 teriminin modele istatistiksel olarak anlamlı bir açıklayıcılık katmadığını gösterir.
Yeni bir terim eklendiğinde düzeltilmiş R2R^2'nin düşmesi, yeni terimin hata varyansını serbestlik derecesi kaybını karşılayacak kadar azaltamadığı anlamına gelir.
2
Modelin derecesine karar verme.
Hiyerarşik model oluşturma yaklaşımına göre en yüksek dereceli terim (kübik terim) anlamsız olduğundan modelden çıkarılarak karesel (p=2p=2) modele dönülmelidir.
Polinom regresyon modellerinde uygun derece, anlamsız çıkan en yüksek dereceli terimin adım adım elenmesiyle bulunur.
3
VIF ve Çoklu Bağlantı etkisini değerlendirme.
Yüksek VIF değerleri EKK tahmincilerinde sapmaya (bias) yol açmaz, sadece standart hataları şişirir. EKK tahmincileri sapmasız kalmaya devam eder.
Çoklu doğrusal bağlantı, Gauss-Markov varsayımlarından sapmasızlık (unbiasedness) özelliğini ihlal eden bir sorun değildir.

Anahtar Kavram

Polinom regresyon modellerinde derece seçimi, çoklu doğrusal bağlantının sapmasızlığa etkisi ve düzeltilmiş belirtme katsayısı.
Bu soruyu puanla