Model Seçimi ve Spesifikasyon Hataları

91 soru

Soru 1Soru

Doğru modelin Yi=β1+β2X2i+uiY_i = \beta_1 + \beta_2 X_{2i} + u_i olduğu bir durumda, araştırmacının modele teorik olarak bağımlı değişkenle ilişkisi olmayan gereksiz bir X3X_3 değişkenini ekleyerek Yi=β1+β2X2i+β3X3i+viY_i = \beta_1 + \beta_2 X_{2i} + \beta_3 X_{3i} + v_i modelini tahmin etmesi (aşırı belirleme) durumunda, En Küçük Kareler (EKK) tahmin edicileri hakkında aşağıdakilerden hangisi doğrudur?

Cevabı ve açıklamayı göster

Cevap: Tahmin ediciler sapmasız (unbiased) kalmaya devam eder ancak varyansları arttığı için etkinliklerini kaybederler.

Cevap

Tahmin ediciler sapmasız kalmaya devam eder ancak varyansları büyüdüğü için etkinliklerini kaybederler.
Modele gereksiz değişken eklenmesi (aşırı belirleme), tahmin edicilerin beklenen değerini değiştirmez, dolayısıyla tahmin ediciler sapmasız (unbiased) ve tutarlı (consistent) kalır. Ancak, modelde fazladan parametre tahmin edilmesi serbestlik derecesini azaltır ve gereksiz değişkenin diğer bağımsız değişkenlerle ilişkili olma ihtimali katsayı varyanslarını büyütür. Bu durum, tahmin edicilerin Gauss-Markov anlamında 'en iyi' (minimum varyanslı) olma özelliğini, yani etkinliğini yitirmesine neden olur.

Adım Adım Çözüm

1
Aşırı belirleme (overspecification) kavramının tanımlanması
Modele gerçek katsayısı sıfır olan (βj=0\beta_j = 0) bir değişkenin dahil edildiği anlaşılır.
Soruda gereksiz bir X3X_3 değişkeninin modele eklendiği belirtilmiştir.
2
EKK tahmin edicilerinin sapmasızlık özelliğinin kontrol edilmesi
E[β^]=βE[\hat{\beta}] = \beta koşulu sağlanmaya devam eder.
Gereksiz değişken eklenmesi, temel regresyon varsayımı olan hata teriminin beklenen değerinin sıfır olması koşulunu bozmaz.
3
Tahmin edicilerin varyans ve etkinlik durumunun analizi
Parametre tahmincilerinin varyansları (Var(β^)\text{Var}(\hat{\beta})) büyür.
Modele eklenen her değişken, serbestlik derecesini düşürür ve değişkenler arası çoklu doğrusal bağlantı riskini artırarak katsayıların standart hatalarını şişirir, bu da etkinlik kaybı demektir.

Anahtar Kavram

Aşırı belirleme durumunda EKK tahmin edicileri sapmasız ve tutarlı kalır, ancak etkin değildirler (etkinlik kaybı).

Daha Fazla Pratik

Eksik belirleme (gereksiz değişken dışlanması) durumunda katsayıların neden sapmalı hale geldiğini inceleyiniz.
Tahmini Süre:1m 30s
Soru 2Soru

Bir kamu kurumunda çalışanların performans puanlarını (YY) etkileyen faktörleri belirlemek amacıyla; hizmet süresi (X1X_1), eğitim düzeyi (X2X_2), tamamlanan sertifika sayısı (X3X_3) ve yaş (X4X_4) bağımsız değişkenleri kullanılarak bir regresyon analizi tasarlanmıştır. Araştırmacı, model seçimi için "Geriye Doğru Eleme" (Backward Elimination) yöntemini kullanmaya karar vermiştir. Tüm değişkenlerin modele dahil edildiği ilk aşama (başlangıç modeli) sonucunda katsayılara ilişkin elde edilen p-değerleri aşağıdaki tabloda sunulmuştur:

Bağımsız Değişkenp-değeri
X1X_1 (Hizmet Süresi)0,012
X2X_2 (Eğitim Düzeyi)0,485
X3X_3 (Sertifika Sayısı)0,004
X4X_4 (Yaş)0,110

Anlamlılık düzeyi α=0,05\alpha = 0,05 olarak belirlendiğine göre, geriye doğru eleme yöntemi algoritmasına göre atılması gereken bir sonraki adım aşağıdakilerden hangisidir?

Cevabı ve açıklamayı göster

Cevap: X2X_2 değişkeni modelden çıkarılır ve kalan değişkenlerle (X1,X3,X4X_1, X_3, X_4) model yeniden tahmin edilir.

Cevap

En yüksek p-değerine sahip olan (0,485) eğitim düzeyi (X2X_2) değişkeni modelden çıkarılmalı ve regresyon analizi kalan değişkenlerle tekrarlanmalıdır.
Geriye doğru eleme yöntemi, tüm potansiyel bağımsız değişkenlerin modele dahil edilmesiyle başlar. Her adımda, p-değeri önceden belirlenen anlamlılık düzeyinden (genellikle 0,05) büyük olan değişkenler incelenir. Bu değişkenler arasından p-değeri en yüksek olan (istatistiksel olarak en anlamsız olan) değişken modelden çıkarılır ve model kalan değişkenlerle yeniden tahmin edilir. Tabloda X2X_2 (0,485) ve X4X_4 (0,110) değerleri 0,05'ten büyüktür. En büyük değer X2X_2'ye ait olduğu için ilk olarak bu değişken elenmelidir.

Adım Adım Çözüm

1
Yöntemin başlangıç noktasını belirle.
Geriye Doğru Eleme tüm değişkenlerin (X1,X2,X3,X4X_1, X_2, X_3, X_4) olduğu modelle başlar.
Algoritma gereği eleme süreci tam modelden anlamsızları ayıklayarak ilerler.
2
Değişkenlerin p-değerlerini α=0,05\alpha = 0,05 ile karşılaştır.
X2X_2 (0,485 > 0,05) ve X4X_4 (0,110 > 0,05) anlamsızdır.
Anlamlılık düzeyinden büyük p-değerine sahip değişkenler modelden çıkarılma adayıdır.
3
Anlamsız değişkenler arasından en yüksek p-değerine sahip olanı seç.
X2X_2 (0,485) seçilir.
Modelden her adımda sadece bir değişken çıkarılır ve bu değişken modele en az katkı sağlayan (p-değeri en büyük) olmalıdır.

Anahtar Kavram

Geriye doğru eleme yöntemi (Backward Elimination) algoritmik adımları ve tekli eleme kuralı.
Soru 3Soru

Çoklu doğrusal regresyon analizinde, modele dahil edilecek en uygun bağımsız değişken alt kümesini belirlemek amacıyla kullanılan 'Adımsal Regresyon' (Stepwise Regression) yönteminin temel işleyiş mantığına ilişkin aşağıdaki ifadelerden hangisi doğrudur?

Cevabı ve açıklamayı göster

Cevap: Sürece değişken içermeyen bir modelle başlanır; her adımda modele yeni bir değişken eklenirken, daha önce girmiş olan değişkenlerin anlamlılıkları tekrar kontrol edilir ve kriteri sağlamayanlar modelden çıkarılır.

Cevap

Adımsal regresyon yöntemi, modele değişkenlerin tek tek eklendiği ancak her ekleme sonrası mevcut değişkenlerin anlamlılığının tekrar test edilerek gerekiyorsa çıkarıldığı iteratif bir süreçtir.
Adımsal regresyon yöntemini diğer otomatik seçim yöntemlerinden (ileri ve geri) ayıran temel fark, her adımda hem ekleme hem de çıkarma mantığının bir arada işletilmesidir. Bu sayede modeldeki değişkenlerin güncelliği her zaman korunur.

Adım Adım Çözüm

1
Başlangıç durumunun belirlenmesi
Genellikle sabit terim dışındaki tüm değişkenlerin dışarıda tutulduğu boş bir modelle başlanır.
Yöntem, değişkenleri birer birer ekleyerek en anlamlı katkıyı sağlayanları bulmayı hedefler.
2
Modele giriş (F-to-enter) kriterinin uygulanması
Henüz modelde olmayan değişkenler arasından, modele en yüksek kısmi F değerini sağlayan ve belirlenen eşik değerinden büyük olan değişken modele dahil edilir.
Bağımlı değişkeni en iyi açıklayan yeni adayın belirlenmesi gerekir.
3
Modelden çıkış (F-to-remove) kriterinin uygulanması
Yeni değişken eklendikten sonra, modeldeki tüm eski değişkenlerin kısmi F değerleri tekrar hesaplanır ve anlamlılık düzeyi eşik değerin altına düşen (anlamsızlaşan) değişkenler modelden atılır.
Yeni eklenen değişkenler, daha önce anlamlı olan değişkenlerin açıklayıcı gücünü azaltabilir veya onlarla ortak varyans paylaştığı için onları gereksiz kılabilir.
4
Sürecin durdurulması
Ne yeni bir değişken eklenebildiği ne de mevcutlardan birinin çıkarılabildiği noktada algoritma sona erer.
Optimum değişken kümesine ulaşıldığı varsayılır.

Anahtar Kavram

Adımsal regresyonun ayırt edici özelliği, değişkenlerin modele girme ve çıkma esnekliğine sahip olmasıdır.
Soru 4Soru

Çoklu doğrusal regresyon analizinde, modele dahil edilecek en uygun bağımsız değişken alt kümesini belirlemek amacıyla kullanılan adımsal regresyon (stepwise regression) yönteminin temel işleyiş mantığı ile ilgili aşağıdakilerden hangisi doğrudur?

Cevabı ve açıklamayı göster

Cevap: Sürece modelde hiç değişken yokken başlanır; her adımda modele en anlamlı katkıyı sağlayan değişken eklenirken, daha önce girmiş olan değişkenlerin anlamlılıklarını yitirip yitirmediği F-çıkış kriteri ile kontrol edilerek gerekirse modelden çıkarılır.

Cevap

Adımsal regresyon (stepwise regression), her adımda yeni bir değişkenin modele eklenmesini değerlendirirken aynı zamanda modeldeki mevcut değişkenlerin istatistiksel anlamlılıklarını koruyup korumadığını (F-çıkış kriteri) denetleyen ve anlamsızlaşanları çıkaran iteratif bir yöntemdir.
Doğru yanıt olan seçenek, yöntemin hem değişken ekleme (forward) hem de daha önce eklenenlerin anlamlılığını yitirmesi durumunda çıkarılabilmesi (backward) özelliklerini barındırdığını ifade etmektedir. Bu süreç 'F-giriş' ve 'F-çıkış' kriterleri üzerinden yürütülür.

Adım Adım Çözüm

1
Başlangıç modelinin belirlenmesi
Genellikle modelde hiçbir bağımsız değişken olmadan (sadece sabit terimle) sürece başlanır.
Yöntem, değişkenleri teker teker değerlendirerek modele dahil etme prensibine dayanır.
2
F-giriş (F-to-enter) kriterinin uygulanması
Model dışındaki değişkenler arasında kısmi F-istatistiği en yüksek olan ve belirlenen anlamlılık düzeyini (örn. α=0.05\alpha = 0.05) sağlayan değişken modele eklenir.
Modele en yüksek açıklayıcı gücü katan değişkenin seçilmesi amaçlanır.
3
F-çıkış (F-to-remove) kriterinin uygulanması
Yeni değişken eklendikten sonra, modeldeki diğer değişkenlerin kısmi F-istatistikleri tekrar hesaplanır; anlamlılık düzeyini yitiren (kalan değişkenlerin varlığında artık katkı sağlamayan) değişkenler çıkarılır.
Adımsal regresyonu ileriye doğru seçimden ayıran en kritik fark budur; değişkenler arası etkileşim ve çoklu bağlantı nedeniyle eski değişkenler anlamsızlaşabilir.
4
Durdurma kriterinin kontrolü
Modele eklenecek yeni anlamlı değişken kalmadığında ve mevcutlardan çıkarılacak biri bulunmadığında algoritma sona erer.
Optimal (veya istatistiksel olarak en makul) alt küme belirlenmiş olur.

Anahtar Kavram

İstatistikte model seçimi yöntemlerinden adımsal regresyon, ileriye doğru seçim (forward) ile geriye doğru eleme (backward) mantığını birleştirerek değişken ekleme ve çıkarma işlemlerini eş zamanlı yürüten dinamik bir algoritmadır.
Tahmini Süre:1m 30s
Soru 5Soru

Bir araştırmacı, bağımlı değişken YY ile temel bağımsız değişken X2X_2 arasındaki ilişkiyi incelerken, teorik olarak modelde yer almaması gereken ve YY üzerinde hiçbir etkisi bulunmayan X3X_3 değişkenini de modele dahil etmiştir. Bu durumda ortaya çıkan "aşırı belirleme" (overspecification) hatası sonucunda elde edilen En Küçük Kareler (EKK) tahmin edicileriyle ilgili aşağıdakilerden hangisi doğrudur?

Cevabı ve açıklamayı göster

Cevap: Tahmin ediciler sapmasızlık özelliğini korurlar ancak varyansları büyüdüğü için etkinliklerini kaybederler.

Cevap

Tahmin edicilerin sapmasız kalmaya devam ettiği ancak varyansları büyüdüğü için etkinliklerini kaybettiği ifade doğrudur.
Doğrusal regresyon modellerinde gereksiz bir değişkenin modele dahil edilmesi (aşırı belirleme), Gauss-Markov varsayımlarından biri olan sapmasızlık özelliğini bozmaz. Ancak bu durum, tahmin edilecek parametre sayısını artırarak serbestlik derecesini düşürür ve katsayıların varyanslarının şişmesine neden olur. Bu nedenle tahmin ediciler hala sapmasız olsalar da, artık en küçük varyanslı (etkin) değildirler.

Adım Adım Çözüm

1
Model hatasını tanımlama
Hata, modele ilgisiz bir değişkenin eklenmesi olan 'Aşırı Belirleme' (Overspecification) hatasıdır.
Soruda X3X_3 değişkeninin YY üzerinde etkisi olmadığı halde modele eklendiği belirtilmiştir.
2
Sapmasızlık (Unbiasedness) kontrolü
E[β^2]=β2E[\hat{\beta}_2] = \beta_2 eşitliği sağlanır.
EKK yönteminde modele gereksiz değişken eklenmesi, katsayı tahmin edicilerinin beklenen değerinin gerçek parametre değerine eşit olmasını engellemez.
3
Varyans ve Etkinlik (Efficiency) analizi
Var(β^2,asiri)Var(β^2,dogru)Var(\hat{\beta}_{2,asiri}) \geq Var(\hat{\beta}_{2,dogru})
Modele gereksiz bir değişken eklendiğinde, özellikle bu değişken diğer bağımsız değişkenlerle ilişkiliyse, katsayıların standart hataları büyür ve tahmin ediciler etkinliklerini kaybeder.

Anahtar Kavram

Aşırı belirleme durumunda EKK tahmin edicileri sapmasız ve tutarlıdır ancak etkin (minimum varyanslı) değildir.
Tahmini Süre:1m 30s
Soru 6Soru

Bir ekonometrik çalışmada bağımlı değişken YY ile bağımsız değişkenler X1X_1 ve X2X_2 arasındaki ilişki incelenmektedir. Gerçek model Y=β1+β2X1+β3X2+uY = \beta_1 + \beta_2 X_1 + \beta_3 X_2 + u formunda olmasına rağmen, araştırmacı veri kısıtı nedeniyle X2X_2 değişkenini modele dahil etmeyerek Y=α1+α2X1+vY = \alpha_1 + \alpha_2 X_1 + v modelini En Küçük Kareler (EKK) yöntemiyle tahmin etmiştir. X1X_1 ve X2X_2 değişkenleri arasında doğrusal bir ilişki (cov(X1,X2)0cov(X_1, X_2) \neq 0) olduğu bilindiğine göre, bu spesifikasyon hatasının (eksik belirleme) sonuçlarıyla ilgili aşağıdakilerden hangisi doğrudur?

Cevabı ve açıklamayı göster

Cevap: α2\alpha_2 parametre tahmin edicisi hem sapmalı (biased) hem de tutarsızdır (inconsistent).

Cevap

Dahil edilen bağımsız değişkenle ilişkili olan gerekli bir değişkenin modelden dışlanması durumunda, elde edilen parametre tahmin edicisi hem sapmalı hem de tutarsız olur.
Modelde bulunması gereken ve dahil edilen bağımsız değişkenle korelasyonu olan bir değişken dışlandığında, hata terimi ile bağımsız değişken arasında ilişki doğar. Bu durum Gauss-Markov varsayımlarından 'hata teriminin beklenen değerinin sıfır olması' varsayımını ihlal eder, sonuç olarak EKK tahmincileri hem sapmalı hem de tutarsız hale gelir.

Adım Adım Çözüm

1
Hata terimi yapısını analiz etme
v=β3X2+uv = \beta_3 X_2 + u
Gerçek modeldeki X2X_2 terimi tahmin edilen modelde hata teriminin (vv) içine girmiş olur.
2
Dışsallık varsayımını kontrol etme
E(vX1)=E(β3X2+uX1)=β3E(X2X1)0E(v|X_1) = E(\beta_3 X_2 + u | X_1) = \beta_3 E(X_2|X_1) \neq 0
X1X_1 ve X2X_2 arasında korelasyon olduğu için hata terimi bağımsız değişkenle ilişkili hale gelir.
3
EKK tahmincisinin özelliklerini değerlendirme
E(α^2)=β2+β3cov(X1,X2)var(X1)E(\hat{\alpha}_2) = \beta_2 + \beta_3 \frac{cov(X_1, X_2)}{var(X_1)}
Beklenen değer gerçek parametre değerinden sapma miktarı kadar farklıdır, bu da tahmincinin sapmalı ve tutarsız olduğunu kanıtlar.

Anahtar Kavram

Eksik Değişken Sapması (Omitted Variable Bias)
Soru 7Soru

Ekonometrik bir çalışmada, bağımlı değişken üzerinde gerçekte hiçbir etkisi olmayan (popülasyon katsayısı sıfır olan) gereksiz bir bağımsız değişkenin modele dahil edilmesiyle ortaya çıkan 'aşırı belirleme' (overspecification) durumu söz konusu olduğunda, En Küçük Kareler (EKK) tahmin edicilerinin özellikleri hakkında aşağıdakilerden hangisi doğrudur?

Cevabı ve açıklamayı göster

Cevap: Tahmin ediciler sapmasızlık özelliğini korurlar ancak varyansları arttığı için etkinliklerini kaybederler.

Cevap

Tahmin edicilerin sapmasız kaldığı ancak varyanslarının artması nedeniyle etkinliklerini kaybettiği ifade doğrudur.
Doğru olan ifade, tahmin edicilerin sapmasız kaldığı ancak varyansları arttığı için etkinliklerini kaybettiğidir. EKK tahmin edicileri, modele gereksiz değişken eklendiğinde hala gerçek parametre değerlerini ortalamada doğru tahmin ederler (E[β^]=βE[\hat{\beta}] = \beta). Ancak, serbestlik derecesindeki azalma ve değişkenler arasındaki olası çoklu doğrusal bağlantı riskinin artması, katsayıların varyanslarını büyüterek tahminlerin kesinliğini (hassasiyetini) azaltır. Bu durum, 'En İyi Doğrusal Sapmasız Tahmin Edici' (BLUE) olma özelliğinin 'En İyi' (minimum varyans) kısmının ihlal edilmesine yol açar.

Adım Adım Çözüm

1
Aşırı belirleme durumunda sapmasızlık (unbiasedness) özelliğini değerlendirin.
Sapmasızlık korunur.
Modele eklenen değişkenin gerçek katsayısı sıfır olduğunda (βk=0 \beta_k = 0 ), bu durum EKK tahmin edicilerinin beklenen değerinin gerçek parametre değerine eşit olmasını engellemez.
2
Tahmin edicilerin varyans ve etkinlik (efficiency) durumunu inceleyin.
Varyanslar artar, etkinlik kaybolur.
Modele eklenen her gereksiz değişken, tahmin edilecek parametre sayısını artırarak serbestlik derecesini azaltır ve genellikle bağımsız değişkenler arasındaki korelasyon nedeniyle standart hataları şişirir.
3
Belirtme katsayıları ve serbestlik derecesi üzerindeki etkileri kontrol edin.
R2R^2 artabilir veya sabit kalır, ancak serbestlik derecesi (nkn-k) azalır.
Model karmaşıklaştıkça açıklanan varyans azalamaz, ancak her yeni parametre veri setindeki bilgi miktarını (serbestlik derecesini) tüketir.

Anahtar Kavram

Aşırı belirleme durumunda Gauss-Markov özelliklerinden 'En Küçük Varyans' (Etkinlik) özelliği yitirilirken 'Sapmasızlık' özelliği korunur.
Tahmini Süre:1m 30s
Soru 8Soru

Çoklu doğrusal regresyon analizinde, modele dahil edilecek en uygun bağımsız değişken kümesini belirlemek amacıyla kullanılan "İleri Doğru Seçim Yöntemi" (Forward Selection) algoritmasının işleyişi ile ilgili aşağıdaki ifadelerden hangisi doğrudur?

Cevabı ve açıklamayı göster

Cevap: Sürece bağımsız değişken içermeyen boş bir modelle başlanır ve her adımda modele dahil edilme kriterini (en yüksek kısmi korelasyon veya en düşük pp-değeri) sağlayan değişken eklenerek ilerlenir.

Cevap

İleri Doğru Seçim Yöntemi, sürece değişken içermeyen boş bir modelle başlar ve her adımda en yüksek kısmi korelasyon veya en düşük p-değeri kriterine göre değişken ekleyerek devam eder.
İleri Doğru Seçim yöntemi, algoritma gereği modelde hiçbir bağımsız değişkenin olmadığı (sadece sabit terimli) bir durumla işe başlar. Her aşamada, henüz modele girmemiş olan aday değişkenler arasından bağımlı değişkenle en yüksek kısmi korelasyona (veya en yüksek FF istatistiğine/en düşük pp-değerine) sahip olan ve önceden belirlenen anlamlılık eşiğini geçen değişken modele eklenir.

Adım Adım Çözüm

1
Başlangıç durumunun belirlenmesi
Modelde hiçbir bağımsız değişken yoktur, sadece sabit terim (β0\beta_0) bulunur.
İleri doğru seçim algoritmasının ilk adımı boş bir modelle başlamaktır.
2
İlk değişkenin seçimi
Bağımlı değişken ile basit korelasyonu en yüksek olan ve belirlenen anlamlılık düzeyini (αgiris\c\alpha_{giriş}) sağlayan ilk değişken modele alınır.
Modele ilk girecek değişken, bağımlı değişkeni tek başına en iyi açıklayan değişkendir.
3
Kısmi korelasyon analizi ve durdurma
Model dışındaki değişkenlerin bağımlı değişkenle olan kısmi korelasyonları incelenir; en yüksek değere sahip olan ve kriteri sağlayan değişken eklenir. Hiçbir değişken kriteri sağlamadığında süreç durur.
Sürecin devamı, modeldeki mevcut değişkenlerin üzerine ek katkı sağlayan değişkenlerin belirlenmesine dayanır.

Anahtar Kavram

İleri Doğru Seçim Yöntemi (Forward Selection) algoritması
Tahmini Süre:1m 30s
Soru 9Soru

Çoklu doğrusal regresyon modellerinde değişken seçimi yapılırken kullanılan adımsal regresyon (stepwise regression) yönteminde, daha önce modele dahil edilmiş olan bir bağımsız değişkenin ilerleyen adımlarda modelden çıkarılabilmesinin temel nedeni aşağıdakilerden hangisidir?

Cevabı ve açıklamayı göster

Cevap: Modele yeni bir değişken eklendikten sonra, halihazırda modelde bulunan değişkenlerin kısmi anlamlılıklarının (F-to-remove) yeniden test edilmesi

Cevap

Modele yeni bir değişken eklendikten sonra, mevcut değişkenlerin kısmi anlamlılıklarının (F-to-remove) yeniden test edilmesi adımsal regresyonun ayırt edici özelliğidir.
Adımsal regresyon yöntemi, ileri doğru seçim (forward selection) yönteminin bir modifikasyonudur. Temel farkı, modele yeni bir değişken eklendikten sonra modelde halihazırda bulunan her bir değişkenin 'kısmi anlamlılığının' (partial F-test) tekrar kontrol edilmesidir. Eğer bir değişken, yeni eklenenlerin etkisiyle artık istatistiksel olarak anlamlı bir katkı sağlamıyorsa (F değeri kritik değerin altına düşerse) modelden çıkarılır.

Adım Adım Çözüm

1
Yöntemin başlangıç aşamasını belirle
Yöntem genellikle 'İleri Doğru Seçim' gibi başlar ve en anlamlı değişkeni modele alır.
Algoritmanın ilk adımı modeli oluşturmaya başlamaktır.
2
İteratif süreci analiz et
Her yeni değişken eklendiğinde, modeldeki diğer değişkenlerin katkısı değişebilir.
Değişkenler arası ilişkiler, bir değişkenin açıklayıcı gücünü diğerleri varken azaltabilir.
3
Çıkarma kriterini (F-to-remove) uygula
Eğer bir değişkenin kısmi F değeri, önceden belirlenen eşik değerin altına düşerse modelden çıkarılır.
Bu adım, adımsal regresyonu sadece ekleme yapan ileri seçim yönteminden ayıran temel farktır.

Anahtar Kavram

Adımsal regresyon, değişkenlerin hem eklenebildiği hem de çıkarılabildiği dinamik ve iteratif bir model seçimi algoritmasıdır.

Daha Fazla Pratik

İleri doğru seçim, geriye doğru eleme ve adımsal regresyon yöntemlerinin varsayımları ve hangi durumlarda farklı sonuçlar verebileceğini karşılaştıran tabloları inceleyiniz.
Tahmini Süre:1m 30s
Soru 10Soru

Bir araştırmacı, hanehalkının aylık gıda harcamalarını (YY); aylık gelir (X1X_1), ailedeki birey sayısı (X2X_2), yaşanılan bölge (X3X_3) ve eğitim düzeyi (X4X_4) değişkenleriyle açıklayan bir çoklu regresyon modeli kurmuştur. Başlangıçta tüm değişkenlerin yer aldığı tam model tahmin edilmiş ve katsayılara ilişkin elde edilen pp-değerleri aşağıdaki tabloda sunulmuştur:

Değişkenpp-değeri
Sabit (B0B_0)0,0010,001
Aylık Gelir (X1X_1)0,0020,002
Birey Sayısı (X2X_2)0,0410,041
Yaşanılan Bölge (X3X_3)0,6400,640
Eğitim Düzeyi (X4X_4)0,1800,180

Anlamlılık düzeyi α=0,05\alpha = 0,05 kabul edildiğine göre, "Geriye Doğru Eleme" (Backward Elimination) yöntemi uygulandığında ilk aşamada modelden çıkarılması gereken değişken aşağıdakilerden hangisidir?

Cevabı ve açıklamayı göster

Cevap: Yaşanılan Bölge (X3X_3)

Cevap

Modelden ilk aşamada çıkarılması gereken değişken Yaşanılan Bölge (X3X_3) değişkenidir.
Geriye doğru eleme yöntemi, tüm bağımsız değişkenlerin modele dahil edildiği tam modelle başlar. Her adımda, pp-değeri belirlenen sınır değerden (genellikle 0,050,05) büyük olan değişkenler incelenir ve bu değişkenler arasında en yüksek pp-değerine sahip olan (yani istatistiksel olarak en az anlamlı olan) tek bir değişken modelden çıkarılır. Tabloda Yaşanılan Bölge (X3X_3) değişkeni 0,6400,640 değeri ile hem sınır değerden büyüktür hem de diğer tüm değişkenler arasında en yüksek pp-değerine sahiptir.

Adım Adım Çözüm

1
Katsayıların pp-değerlerini anlamlılık düzeyi (α=0,05\alpha = 0,05) ile karşılaştırmak.
X3X_3 (0,6400,640) ve X4X_4 (0,1800,180) değişkenleri α=0,05\alpha=0,05 değerinden büyük pp-değerine sahiptir.
Geriye doğru eleme yöntemi, istatistiksel olarak anlamlı olmayan (p>αp > \alpha) değişkenlerin modelden uzaklaştırılması ilkesine dayanır.
2
Anlamsız olan değişkenler arasından en yüksek pp-değerine sahip olanı belirlemek.
X3X_3 değişkeninin pp-değeri (0,6400,640), X4X_4 değişkeninden (0,1800,180) daha büyüktür.
Algoritma gereği, modele katkısı en az olan (en yüksek pp-değerine sahip) değişken ilk olarak seçilir.
3
Belirlenen değişkeni modelden çıkarmak.
X3X_3 değişkeni modelden çıkarılır ve kalan değişkenlerle model yeniden tahmin edilir.
Değişken çıkarıldıktan sonra diğer değişkenlerin pp-değerleri değişebileceği için süreç adım adım ilerlemelidir.

Anahtar Kavram

Geriye Doğru Eleme (Backward Elimination) algoritması

Daha Fazla Pratik

Değişken çıkarıldıktan sonra modelin R² ve Düzeltilmiş R² değerlerindeki değişimi inceleyen bir soru çözebilirsiniz.
Tahmini Süre:1m 30s
Soru 11Soru

Bir kamu iktisadi teşebbüsünün yıllık üretim miktarını (YY) tahmin etmek amacıyla kurulan çoklu doğrusal regresyon modelinde; hammadde kullanımı (X1X_1), çalışan sayısı (X2X_2), enerji tüketimi (X3X_3) ve makine yaşı (X4X_4) bağımsız değişkenler olarak modele dahil edilmiştir. Tüm değişkenlerin yer aldığı başlangıç modeline ait pp-değerleri ve ilk değişken çıkarıldıktan sonraki güncel değerler aşağıda verilmiştir:

Bağımsız DeğişkenBaşlangıç pp-değeriX2X_2 Çıkarıldıktan Sonraki pp-değeri
Hammadde Kullanımı (X1X_1)0,020,020,010,01
Çalışan Sayısı (X2X_2)0,450,45-
Enerji Tüketimi (X3X_3)0,070,070,040,04
Makine Yaşı (X4X_4)0,120,120,090,09

Anlamlılık düzeyinin α=0,05\alpha = 0,05 olduğu ve geriye doğru eleme (backward elimination) yönteminin kullanıldığı bu analiz süreci tamamlandığında, nihai modelde yer alacak bağımsız değişkenler aşağıdakilerin hangisinde doğru verilmiştir?

Cevabı ve açıklamayı göster

Cevap: X1X_1 ve X3X_3

Cevap

Nihai modelde hammadde kullanımı (X1X_1) ve enerji tüketimi (X3X_3) değişkenleri yer almalıdır.
Hammadde kullanımı (X1X_1) ve enerji tüketimi (X3X_3) değişkenleri nihai modelde kalır; çünkü çalışan sayısı (X2X_2) ilk adımda elenmiş, makine yaşının (X4X_4) güncellenmiş p-değeri (0,090,09) ise hala 0,05 olan eşik değerin üzerindedir. Enerji tüketimi (X3X_3) başlangıçta anlamlı görünmese de güncelleme sonrası anlamlı hale geldiği için korunmuştur.

Adım Adım Çözüm

1
Başlangıç modelindeki en yüksek p-değerine sahip değişkeni belirle.
X2X_2 değişkeni 0,45>0,050,45 > 0,05 ile en yüksek p-değerine sahiptir.
Geriye doğru eleme yöntemi, tüm değişkenlerin olduğu modelden başlayarak en az anlamlı değişkeni elemeyi gerektirir.
2
X2X_2 değişkenini modelden çıkar ve kalan değişkenlerin p-değerlerini kontrol et.
X1=0,01X_1 = 0,01; X3=0,04X_3 = 0,04; X4=0,09X_4 = 0,09.
Bir değişken çıkarıldığında modeldeki çoklu bağlantı etkileri değişebileceğinden p-değerleri yeniden hesaplanmalıdır.
3
Kalan değişkenlerden anlamlı olmayan (p>0,05p > 0,05) en yüksek değerli olanı ele.
X4X_4 değişkeni (0,09>0,050,09 > 0,05) modelden çıkarılır.
Eşitlik sağlanana kadar p-değeri alfa değerinden büyük olan tüm değişkenler sırayla atılmalıdır.
4
Geriye kalan değişkenlerin anlamlılığını doğrula.
X1X_1 (0,010,01) ve X3X_3 (0,040,04) değerleri 0,050,05'den küçüktür.
Tüm değişkenler anlamlı hale geldiğinde algoritma durur.

Anahtar Kavram

Geriye doğru eleme (backward elimination), tüm bağımsız değişkenlerin modele dahil edilmesiyle başlayan ve her adımda en az anlamlı değişkenin çıkarılarak p-değerlerinin güncellendiği adımsal bir model seçim yöntemidir.
Soru 12Soru

Bağımsız değişkenlerin modele dahil edilme ve modelden çıkarılma süreçlerini dinamik bir şekilde yürüten Adımsal Regresyon (Stepwise Regression) yönteminin işleyiş mekanizması hakkında aşağıdakilerden hangisi doğrudur?

Cevabı ve açıklamayı göster

Cevap: Modele dahil edilen bir değişken, sonraki adımlarda hesaplanan kısmi FF istatistiği "modelden çıkarma" (F-to-remove) eşik değerinin altına düşerse modelden dışlanabilir.

Cevap

Adımsal regresyon yönteminde, modele daha önce girmiş bir değişkenin anlamlılığını yitirmesi durumunda modelden çıkarılabilmesi mümkündür.
Adımsal regresyon yönteminde (Stepwise), her yeni değişken ekleme adımından sonra mevcut tüm değişkenler için bir eleme testi yapılır. Eğer bir değişkenin kısmi FF değeri, modelden çıkarma kriteri olan eşik değerin altına düşerse, bu değişken modelden uzaklaştırılır. Bu özellik yöntemi 'İleri Doğru Seçim'den ayıran temel farktır.

Adım Adım Çözüm

1
Başlangıç Durumu
Modelde başlangıçta genellikle hiçbir bağımsız değişken bulunmaz.
Algoritma boş bir modelle başlayarak en anlamlı değişkeni arar.
2
Modele Giriş Kontrolü
En yüksek kısmi FF değerine sahip ve belirlenen giriş eşiğinden (FinF_{in}) büyük olan değişken modele eklenir.
Modelin açıklayıcılık gücünü en çok artıran değişkeni seçmek.
3
Modelden Çıkarma Kontrolü
Her ekleme sonrası modeldeki tüm değişkenlerin anlamlılığı tekrar test edilir.
Yeni eklenen değişkenler, daha önce anlamlı olan diğer değişkenlerin etkisini azaltarak onları anlamsız hale getirebilir.
4
Döngü ve Durma
Modele eklenecek veya modelden çıkarılacak değişken kalmayana kadar süreç tekrarlanır.
En optimize ve anlamlı bağımsız değişken alt kümesine ulaşmak.

Anahtar Kavram

Adımsal regresyon, 'İleri Doğru Seçim' ve 'Geriye Doğru Eleme' yöntemlerinin bir kombinasyonudur; en önemli farkı modelden çıkarma (deletion) adımına sahip olmasıdır.

İpuçları

1
Adımsal regresyon hem ekleme hem de çıkarma yapabilen hibrit bir algoritmadır.
2
Bir değişkenin modele girmesi için FF-to-enter, modelden çıkması için FF-to-remove kriterleri kullanılır.

Daha Fazla Pratik

İleri doğru seçim ve geriye doğru eleme yöntemlerinin hangi durumlarda aynı sonuçları verip vermeyeceğini inceleyin.
Tahmini Süre:1m 15s
Soru 13Soru

Bir iktisatçı, bir bölgedeki konut fiyatlarını (YY); konutun büyüklüğü (X1X_1), konutun yaşı (X2X_2), şehir merkezine uzaklığı (X3X_3) ve oda sayısı (X4X_4) bağımsız değişkenleri ile tahmin etmek istemektedir. Tüm değişkenlerin modele dahil edildiği tam model aşamasında, α=0,05\alpha = 0,05 anlamlılık düzeyinde yapılan t-testleri sonucunda katsayılara ilişkin p-değerleri aşağıda sunulmuştur:

Değişkenp-değeri
X1X_10,0040,004
X2X_20,5800,580
X3X_30,0250,025
X4X_40,0900,090

Geriye doğru eleme yöntemi (backward elimination) kullanılarak model seçimi yapıldığı düşünüldüğünde, algoritmanın bu aşamasındaki uygulamasıyla ilgili aşağıdakilerden hangisi doğrudur?

Cevabı ve açıklamayı göster

Cevap: X2X_2 değişkeni modelden çıkarılmalı ve kalan değişkenlerle regresyon denklemi yeniden tahmin edilmelidir.

Cevap

P-değeri belirlenen anlamlılık düzeyinden büyük olan değişkenler arasında en yüksek p-değerine sahip olan değişken (X2X_2) modelden çıkarılmalı ve süreç devam etmelidir.
Geriye doğru eleme yönteminin temel kuralı, modeldeki tüm bağımsız değişkenlerle başlayıp, her adımda istatistiksel olarak en anlamsız (en yüksek p-değerine sahip) olan değişkeni tek başına modelden çıkarmaktır. Verilen tabloda X2X_2 değişkeninin p-değeri (0,5800,580), 0,050,05 eşik değerinden büyüktür ve anlamsız değişkenler arasındaki en yüksek değerdir. Bu nedenle ilk olarak bu değişkenin çıkarılması gerekir.

Adım Adım Çözüm

1
Anlamlılık düzeyinin kontrol edilmesi
X2X_2 (p=0,580p=0,580) ve X4X_4 (p=0,090p=0,090) değişkenlerinin α=0,05\alpha=0,05 düzeyinde istatistiksel olarak anlamsız olduğu belirlenir.
P-değeri α\alpha değerinden büyük olan değişkenler modelden çıkarılma adayıdır.
2
Elenme kriterine göre değişkenin seçilmesi
P-değeri en yüksek olan (en az anlamlı) X2X_2 değişkeni ilk olarak elenmek üzere seçilir.
Geriye doğru eleme algoritması, her adımda sadece bir değişkenin çıkarılmasını öngörür.
3
Modelin güncellenmesi
X2X_2 dışlanarak X1,X3X_1, X_3 ve X4X_4 ile yeni bir regresyon modeli tahmin edilir.
Değişkenlerin çıkarılması, kalan değişkenlerin kısmi regresyon katsayılarını ve dolayısıyla p-değerlerini değiştirebilir (örneğin X4X_4 bir sonraki adımda anlamlı hale gelebilir).

Anahtar Kavram

Geriye Doğru Eleme Algoritması
Soru 14Soru

Bir araştırmacı, bağımlı değişken YY ile bağımsız değişken X2X_2 arasındaki ilişkiyi tahmin etmek amacıyla kurduğu modele, teorik olarak modelde yer almaması gereken ve YY üzerinde hiçbir sistematik etkisi bulunmayan X3X_3 değişkenini de ekleyerek "aşırı belirlenmiş" (over-specified) bir model tahmin etmiştir. Bu durumda elde edilen En Küçük Kareler (EKK) tahmin edicilerinin özellikleri hakkında aşağıdakilerden hangisi doğrudur?

Cevabı ve açıklamayı göster

Cevap: Tahmin ediciler sapmasızlık özelliğini korurlar ancak varyansları arttığı için etkinliklerini kaybeder ve daha geniş güven aralıkları üretirler.

Cevap

Tahmin ediciler sapmasızlık özelliğini korurlar ancak varyansları arttığı için etkinliklerini kaybeder ve daha geniş güven aralıkları üretirler.
Aşırı belirleme (over-specification) hatasında, modelde bulunmaması gereken bir değişkenin eklenmesi, tahmin edilecek parametre sayısını gereksiz yere artırır. Bu durum serbestlik derecesini düşürür ve bağımsız değişkenler arasındaki korelasyon yapısını karmaşıklaştırarak katsayıların varyanslarının büyümesine (şişmesine) yol açar. Sonuç olarak tahmin ediciler sapmasız kalsa da, artık en küçük varyansa sahip olmadıkları için etkinliklerini kaybederler ve istatistiksel olarak daha az kesin sonuçlar üretirler.

Adım Adım Çözüm

1
Modelin yapısını tanımla.
Doğru model Y=β1+β2X2+uY = \beta_1 + \beta_2 X_2 + u iken tahmin edilen model Y=β1+β2X2+β3X3+vY = \beta_1 + \beta_2 X_2 + \beta_3 X_3 + v şeklindedir (burada β3=0\beta_3 = 0).
Aşırı belirleme hatasının matematiksel çerçevesini oluşturmak için.
2
Sapmasızlık (Unbiasedness) özelliğini kontrol et.
E[β^2]=β2E[\hat{\beta}_2] = \beta_2 eşitliği hala geçerlidir.
Gereksiz değişken eklemek modelin beklenen değerini bozmaz, bu nedenle tahmin ediciler sapmasız kalır.
3
Varyans ve Etkinlik (Efficiency) durumunu incele.
Var(β^2,as¸ırı)>Var(β^2,dog˘ru)Var(\hat{\beta}_{2, \text{aşırı}}) > Var(\hat{\beta}_{2, \text{doğru}}) olduğu görülür.
Modele eklenen her bağımsız değişken (ilgili değişkenlerle korelasyonu olmasa bile) çoklu doğrusal bağlantı riskini artırır ve serbestlik derecesini azaltarak varyansın şişmesine (efficiency loss) neden olur.
4
Güven aralıkları ve hipotez testleri üzerindeki etkiyi belirle.
Varyans arttığı için standart hatalar büyür, t-istatistikleri küçülür ve güven aralıkları genişler.
Varyanstaki artışın istatistiksel çıkarımlar üzerindeki doğrudan sonucudur.

Anahtar Kavram

Aşırı belirleme (overspecification) durumunda OLS tahmin edicileri sapmasız (unbiased) ve tutarlıdır (consistent), ancak etkin (efficient) değillerdir.

Daha Fazla Pratik

Eksik belirleme (omitted variable bias) durumunda sapmasızlık ve varyans özelliklerinin nasıl değiştiğini inceleyerek iki hatayı karşılaştırınız.
Tahmini Süre:1m 30s
Soru 15Soru

Çoklu doğrusal regresyon analizinde, modele dahil edilecek en uygun bağımsız değişken kümesini belirlemek amacıyla kullanılan 'İleri Doğru Seçim' (Forward Selection) yönteminin uygulama adımları ve değişken kabul kriterleri düşünüldüğünde, algoritmanın işleyişi hakkında aşağıdakilerden hangisi söylenebilir?

Cevabı ve açıklamayı göster

Cevap: Analize hiçbir bağımsız değişken içermeyen boş bir modelle başlanır ve her adımda modele dahil edilmemiş değişkenler arasından bağımlı değişkenle en yüksek kısmi korelasyona sahip olan anlamlı değişken eklenerek ilerlenir.

Cevap

İleri doğru seçim yöntemi, modelde hiç değişken yokken başlar ve her adımda anlamlılık kriterini (en yüksek kısmi korelasyon veya en düşük pp değeri) sağlayan değişkenleri ekleyerek ilerler.
İleri doğru seçim (Forward Selection) algoritması, modele hiçbir değişken almadan (sadece kesim noktasıyla) başlar. Her adımda, modelde olmayan değişkenlerden bağımlı değişkenle en yüksek kısmi korelasyona sahip olan (ve dolayısıyla modele en çok katkıyı sağlayan) değişken, eğer belirlenen istatistiksel anlamlılık düzeyini (p<αp < \alpha) sağlıyorsa modele eklenir. Bu süreç, eklenecek anlamlı değişken kalmayana kadar devam eder.

Adım Adım Çözüm

1
Başlangıç modelinin belirlenmesi
Modelde sadece sabit terim bulunur, bağımsız değişken yoktur.
İleri doğru seçim yönteminin temel çalışma prensibi boş modelle başlamaktır.
2
Değişkenlerin adaylık kriterine göre değerlendirilmesi
Dışarıdaki değişkenler arasından bağımlı değişkenle en yüksek kısmi korelasyona sahip olan belirlenir.
Modele en çok katkı sağlayacak değişkenin ilk sırada girmesi hedeflenir.
3
Anlamlılık testi
Seçilen değişkenin kısmi FF istatistiği önceden belirlenen kritik değerden büyükse (veya pp değeri anlamlılık düzeyinden küçükse) modele dahil edilir.
İstatistiksel olarak anlamlı olmayan değişkenlerin modele girmesi engellenir.

Anahtar Kavram

İleri Doğru Seçim Algoritması
Tahmini Süre:1m 30s
Soru 16Soru

Bir kamu ekonomisti, merkezi yönetim vergi gelirlerini (YY); GSYH (X1X_1), enflasyon oranı (X2X_2), işsizlik oranı (X3X_3) ve bütçe açığı (X4X_4) değişkenlerini kullanarak modellemektedir. Araştırmacı, en uygun bağımsız değişken setini belirlemek amacıyla α=0,05\alpha = 0,05 anlamlılık düzeyinde "Geriye Doğru Eleme" (Backward Elimination) yöntemini kullanmaktadır. Başlangıç aşamasında tüm bağımsız değişkenlerin modele dahil edildiği regresyon sonuçlarına göre katsayıların pp-değerleri aşağıdaki tabloda verilmiştir:

Değişkenpp-değeri
X1X_10,0080,008
X2X_20,0950,095
X3X_30,0220,022
X4X_40,4100,410

Buna göre, geriye doğru eleme algoritmasının işleyişi doğrultusunda atılması gereken bir sonraki adım aşağıdakilerden hangisidir?

Cevabı ve açıklamayı göster

Cevap: pp-değeri en yüksek olan ve 0,050,05 eşik değerinden büyük olan X4X_4 değişkeni modelden çıkarılarak analiz tekrarlanır.

Cevap

Modelden p-değeri en yüksek ve anlamlılık eşiğinden büyük olan değişkenin (bu senaryoda bütçe açığı değişkeni) çıkarılarak analize devam edildiği seçenek doğrudur.
Geriye Doğru Eleme yöntemi, tüm bağımsız değişkenlerin dahil edildiği tam modelle analize başlar. Her adımda, belirlenen anlamlılık düzeyinden (genellikle 0,05) daha büyük p-değerine sahip olan değişkenler arasından p-değeri en yüksek olan (istatistiksel olarak en az anlamlı olan) tek bir değişken modelden çıkarılır. Senaryoda X4X_4 değişkeni 0,410 p-değeri ile bu kriteri sağladığı için bir sonraki adımda modelden atılmalıdır.

Adım Adım Çözüm

1
Modelin başlangıç durumunu kontrol et.
Geriye doğru eleme yönteminde tüm değişkenler (X1,X2,X3,X4X_1, X_2, X_3, X_4) başlangıçta modeldedir.
Bu yöntem 'tam model' (full model) yaklaşımıyla çalışır.
2
Anlamlılık düzeyini (α=0,05\alpha=0,05) kullanarak değişkenlerin p-değerlerini karşılaştır.
X2X_2 (0,095) ve X4X_4 (0,410) değişkenleri α=0,05\alpha=0,05 değerinden büyüktür ve istatistiksel olarak anlamsızdır.
Anlamsız değişkenler modelden çıkarılma adaylarıdır.
3
En az anlamlı (en yüksek p-değerine sahip) değişkeni belirle ve çıkar.
X4X_4 değişkeni 0,410 p-değeri ile en yüksek değere sahiptir ve ilk olarak bu değişken çıkarılır.
Algoritma, modelin açıklama gücünü en az etkileyen (en yüksek p-değerli) değişkeni tek tek eleme prensibiyle çalışır.

Anahtar Kavram

Geriye Doğru Eleme (Backward Elimination) Algoritması
Soru 17Soru

Ekonometrik bir regresyon modelinin kurulması sürecinde; kuramsal açıdan önemli olan bir değişkenin model dışında bırakılması (eksik belirleme), modelle ilgisi olmayan bir değişkenin modele dahil edilmesi (aşırı belirleme) veya yanlış fonksiyonel formun (örneğin; log-doğrusal yerine doğrusal form) seçilmesi gibi durumlar spesifikasyon hatası olarak tanımlanır.

Bu hataların katsayı tahmin edicileri üzerindeki etkileri ve tespiti ile ilgili aşağıdaki ifadelerden hangisi doğrudur?

Cevabı ve açıklamayı göster

Cevap: Modele dahil edilmesi gereken anlamlı bir değişkenin dışlanması, katsayı tahminlerinin sapmalı ve tutarsız olmasına yol açarken; gereksiz bir değişkenin modele eklenmesi tahminlerin sapmasız kalmasını sağlar ancak varyanslarını büyüterek etkinliklerini azaltır.

Cevap

Modelde bulunması gereken bir değişkenin dışlanması tahmin edicileri sapmalı ve tutarsız yaparken, gereksiz bir değişkenin eklenmesi tahmin edicileri sapmasız bırakır ancak varyanslarını artırarak etkinliği bozar.
Doğru olan seçenek, ekonometrideki 'eksik belirleme' ve 'aşırı belirleme' hatalarının katsayılar üzerindeki temel asimetrik etkisini açıklamaktadır. Eksik belirleme (omitted variable), modelin temel varsayımlarını bozarak katsayıların hem sapmalı (gerçek değerden uzak) hem de tutarsız olmasına neden olur. Öte yandan aşırı belirleme (irrelevant variable) durumunda tahmin ediciler yine de sapmasız kalır; ancak modelin açıklama gücü gereksiz yere bölündüğü ve serbestlik derecesi azaldığı için standart hatalar büyür (etkinlik kaybı).

Adım Adım Çözüm

1
Eksik belirleme (omitted variable) hatasının etkisini analiz et.
Dışlanan değişken ile modeldeki değişkenler arasında korelasyon varsa, hata terimi bağımsız değişkenlerle ilişkili hale gelir ve E[β^]βE[\hat{\beta}] \neq \beta olur.
Regresyon modelinin temel varsayımlarından biri olan hata terimi ile bağımsız değişkenlerin ilişkisizliği varsayımı ihlal edilir, bu da sapmaya ve tutarsızlığa yol açar.
2
Aşırı belirleme (irrelevant variable) hatasının etkisini analiz et.
Modele gereksiz değişken eklenmesi sapmaya yol açmaz (E[β^]=βE[\hat{\beta}] = \beta), ancak serbestlik derecesi düştüğü için varyanslar büyür.
Fazladan parametre tahmini yapmak modelin hassasiyetini azaltır; tahmin ediciler sapmasızdır ancak 'en küçük varyanslı' (etkin) değildir.
3
Ramsey RESET testinin hipotez yapısını değerlendir.
H0H_0: Model spesifikasyonu doğrudur; H1H_1: Modelde spesifikasyon hatası vardır.
Test sonucunda H0H_0 reddedilirse modelin fonksiyonel kalıbının yanlış olduğu veya önemli bir değişkenin dışlandığı sonucuna varılır.

Anahtar Kavram

Spesifikasyon Hatalarının Asimetrik Sonuçları

Daha Fazla Pratik

Ramsey RESET testinin nasıl uygulandığını ve yardımcı regresyon modelinde kullanılan bağımlı değişkenin tahmini değerlerinin kuvvetlerini (Y^2,Y^3 \hat{Y}^2, \hat{Y}^3 ) inceleyebilirsiniz.
Tahmini Süre:1m 30s
Soru 18Soru

Çoklu doğrusal regresyon analizinde en uygun bağımsız değişken alt kümesini belirlemek için kullanılan "Adımsal Regresyon" (Stepwise Regression) yöntemini, "İleriye Doğru Seçim" (Forward Selection) yönteminden ayıran en temel algoritmik özellik aşağıdakilerden hangisidir?

Cevabı ve açıklamayı göster

Cevap: Modele eklenen her yeni değişkenden sonra, daha önce girmiş olan değişkenlerin anlamlılığının tekrar test edilerek gerekirse modelden çıkarılması.

Cevap

Adımsal regresyonu ayıran temel özellik, modele eklenen her yeni değişkenden sonra içerideki değişkenlerin anlamlılığının tekrar değerlendirilerek gerekirse çıkarılmasıdır.
Adımsal Regresyon yöntemi, İleriye Doğru Seçim algoritmasına ek olarak bir 'eleme' adımı barındırır. Her yeni değişken modele dahil edildikten sonra, mevcut değişkenlerin kısmi F istatistikleri (veya p-değerleri) tekrar kontrol edilir. Eğer bir değişken, modeldeki diğer değişkenlerin varlığında artık anlamlı değilse modelden çıkarılır. Bu özellik, yöntemi sadece ekleme yapan İleriye Doğru Seçim'den ayırır.

Adım Adım Çözüm

1
Yöntemin başlangıç noktasını belirleme
Adımsal regresyon boş bir modelle başlar ve değişkenleri teker teker ekler.
Algoritmanın yönünü tayin etmek için başlangıç durumu bilinmelidir.
2
Ekleme ve çıkarma adımlarını karşılaştırma
İleriye Doğru Seçim sadece ekleme yaparken, Adımsal regresyon hem ekleme hem de çıkarma yapar.
İki yöntem arasındaki fark, değişkenlerin modelde kalıcı olup olmamasıdır.
3
F-çıkış (F-to-remove) kriterini analiz etme
Yeni bir değişken girdiğinde, eski değişkenlerin kısmi F değerleri düşebilir; Adımsal yöntem bu değişkenleri eler.
Çoklu doğrusal bağlantı veya değişkenlerin birbirini ikame etmesi durumu bu şekilde yönetilir.

Anahtar Kavram

Adımsal Regresyonun Dinamik Yapısı

Daha Fazla Pratik

Adımsal regresyonda sonsuz döngüleri önlemek için giriş ve çıkış anlamlılık düzeylerinin (alpha_in ve alpha_out) nasıl ayarlanması gerektiğini inceleyebilirsiniz.
Tahmini Süre:1m 30s
Soru 19Soru

Bir araştırmacı, bağımlı değişken ile dört bağımsız değişken (X1,X2,X3,X4X_1, X_2, X_3, X_4) arasındaki ilişkiyi incelemek için "Geriye Doğru Eleme" (Backward Elimination) yöntemini kullanmaktadır. Tüm değişkenlerin modelde olduğu başlangıç aşamasında elde edilen p-değerleri aşağıdaki tabloda sunulmuştur:

Bağımsız Değişkenp-değeri
X1X_10,012
X2X_20,340
X3X_30,085
X4X_40,042

Anlamlılık düzeyi α=0,05\alpha = 0,05 olarak belirlendiğine göre, bu yöntemin ilk adımında uygulanması gereken işlem aşağıdakilerden hangisidir?

Cevabı ve açıklamayı göster

Cevap: p-değeri anlamlılık düzeyinden büyük ve en yüksek olan X2X_2 değişkeni modelden çıkarılmalıdır.

Cevap

p-değeri anlamlılık düzeyinden büyük ve en yüksek olan değişkenin modelden çıkarılması gerekir.
Geriye doğru eleme yöntemi, tüm bağımsız değişkenlerin modele dahil edilmesiyle başlar. Her adımda, istatistiksel olarak anlamlı olmayan (p > α\alpha) değişkenler incelenir ve bunlar arasında en yüksek p-değerine sahip olan değişken modelden çıkarılır. Verilen tabloda X2X_2 (0,340) ve X3X_3 (0,085) değişkenleri 0,05 düzeyinde anlamsızdır. Bunlar içinde en büyük p-değeri 0,340 ile X2X_2 değişkenine ait olduğu için ilk adımda bu değişken elenmelidir.

Adım Adım Çözüm

1
Yöntemin başlangıç noktasını belirle.
Geriye Doğru Eleme yöntemi, tüm bağımsız değişkenlerin (X1,X2,X3,X4X_1, X_2, X_3, X_4) modelde yer aldığı tam modelle başlar.
Yöntemin çalışma prensibi gereği elenecek değişkenleri belirlemek için tam modelden başlanması zorunludur.
2
Değişkenlerin p-değerlerini α=0,05\alpha = 0,05 anlamlılık düzeyi ile karşılaştır.
X1X_1 (0,012 < 0,05), X2X_2 (0,340 > 0,05), X3X_3 (0,085 > 0,05), X4X_4 (0,042 < 0,05).
Anlamlı olmayan değişkenleri (p > 0,05) tespit etmek için karşılaştırma yapılır.
3
Çıkarma kriterini uygula.
Anlamlı olmayan değişkenler arasında (X2X_2 ve X3X_3) p-değeri en yüksek olan X2X_2 (0,340) değişkenidir.
Algoritma gereği, modelin açıklayıcılığını en az etkileyen (anlamlılığı en düşük) değişken ilk olarak elenir.

Anahtar Kavram

Geriye Doğru Eleme Yöntemi (Backward Elimination) algoritması
Tahmini Süre:45s
Soru 20Soru

Bir araştırmacı, belediyelerin altyapı harcamalarını (YY) etkileyen faktörleri belirlemek amacıyla; nüfus (X1X_1), kişi başına düşen gelir (X2X_2), belediye personel sayısı (X3X_3) ve yüzölçümü (X4X_4) değişkenlerini içeren bir çoklu doğrusal regresyon modeli kurmuştur. Araştırmacı, en uygun modelin belirlenmesi için α=0,05\alpha = 0,05 anlamlılık düzeyinde "Geriye Doğru Eleme" (Backward Elimination) yöntemini uygulamıştır. Analiz sürecinin ilk iki adımına ait bağımsız değişkenlerin pp-değerleri aşağıdaki tabloda verilmiştir:

Bağımsız Değişken1. Adım (pp-değeri)2. Adım (pp-değeri)
X1X_10,0020,001
X2X_20,0450,030
X3X_30,620-
X4X_40,0800,040

Buna göre, geriye doğru eleme algoritması tamamlandığında nihai modelde yer alan bağımsız değişkenler aşağıdakilerden hangisidir?

Cevabı ve açıklamayı göster

Cevap: X1,X2X_1, X_2 ve X4X_4

Cevap

Nihai modelde X1,X2X_1, X_2 ve X4X_4 bağımsız değişkenleri yer almaktadır.
Analizin ilk adımında, en yüksek pp-değerine sahip olan X3X_3 (0,620) değişkeni, belirlenen 0,05 anlamlılık düzeyinden büyük olduğu için modelden elenmiştir. İkinci adımda X3X_3 olmaksızın model yeniden tahmin edildiğinde; başlangıçta anlamsız görünen X4X_4 değişkeninin pp-değeri 0,080'den 0,040'a düşerek anlamlı hale gelmiştir. Bu aşamada kalan tüm değişkenler (X1,X2,X4X_1, X_2, X_4) α=0,05\alpha = 0,05 düzeyinde anlamlı olduğu için eleme işlemi sona erer.

Adım Adım Çözüm

1
Başlangıç modelini ve anlamlılık kriterini belirle.
Başlangıçta tüm değişkenler (X1,X2,X3,X4X_1, X_2, X_3, X_4) modeldedir. α=0,05\alpha = 0,05 kritik değerdir.
Geriye doğru eleme yöntemi tam model ile başlar.
2
İlk adımdaki en yüksek pp-değerini kontrol et ve karşılaştır.
X3X_3 değişkeninin pp-değeri 0,620'dir. 0,620>0,050,620 > 0,05 olduğu için X3X_3 modelden çıkarılır.
Anlamlılık düzeyinden büyük olan en yüksek pp-değerine sahip değişken ilk elenendir.
3
İkinci adımda kalan değişkenlerin pp-değerlerini yeniden değerlendir.
X1X_1 (0,001), X2X_2 (0,030) ve X4X_4 (0,040) değerlerinin tamamı 0,05'ten küçüktür.
Bir değişkenin çıkarılması, modele bağlı olan diğer değişkenlerin hata terimlerini ve dolayısıyla anlamlılıklarını değiştirebilir.
4
Algoritmayı sonlandır.
Nihai değişken seti: X1,X2,X4X_1, X_2, X_4.
Modelde anlamsız (p>0,05p > 0,05) değişken kalmadığında süreç durdurulur.

Anahtar Kavram

Geriye doğru eleme yöntemi, anlamsız bağımsız değişkenleri her adımda tek tek çıkararak ve kalanların anlamlılığını yeniden hesaplayarak en uygun değişken setini belirler.

Alternatif Yöntem

Eğer tablo yerine model çıktıları (SSE, MSE) verilseydi, Kısmi F testi kullanılarak da değişkenlerin katkısı sırayla test edilebilirdi.
Tahmini Süre:1m 40s
Sayfa 1 / 5Sonraki