Çoklu Doğrusal Regresyon Analizi

126 soru

Soru 121Soru

Bir çevre bilimci, belirli bir bölgedeki Hava Kalitesi İndeksini (YY) tahmin etmek amacıyla; ortalama sıcaklık (X1X_1), bağıl nem (X2X_2), rüzgâr hızı (X3X_3) ve trafik yoğunluğu (X4X_4) değişkenlerini kullanarak sabit terim içeren çoklu doğrusal regresyon modelini En Küçük Kareler (EKK) yöntemiyle tahmin etmiştir.

Elde edilen ANOVA (Varyans Analizi) tablosuna ilişkin bazı bilgiler şu şekildedir:
- Genel Kareler Toplamı (GKTGKT) = 15001500
- Modelin belirtme katsayısı (R2R^2) = 0,600,60
- Hata Kareler Ortalaması (HKOHKO) = 1515

Buna göre, tahmin edilen modelin örneklem hacmi (nn) ve modelin genel anlamlılık testi ile ilgili aşağıdaki ifadelerden hangisi doğrudur?

Cevabı ve açıklamayı göster

Cevap: Örneklem hacmi n=45n = 45'tir ve modelin genel anlamlılığı H0:β1=β2=β3=β4=0H_0: \beta_1 = \beta_2 = \beta_3 = \beta_4 = 0 hipotezi kurularak F=15F = 15 test istatistiği ile sınanır.

Cevap

Örneklem hacmi n=45n = 45'tir ve modelin genel anlamlılığı H0:β1=β2=β3=β4=0H_0: \beta_1 = \beta_2 = \beta_3 = \beta_4 = 0 hipotezi kurularak F=15F = 15 test istatistiği ile sınanır.
Soruda verilenlere göre k=4k=4 bağımsız değişken vardır. R2=0,60R^2 = 0,60 ve GKT=1500GKT = 1500 değerlerinden yola çıkarak Regresyon Kareler Toplamı RKT=0,60×1500=900RKT = 0,60 \times 1500 = 900 ve Hata Kareler Toplamı HKT=1500900=600HKT = 1500 - 900 = 600 hesaplanır. Hata Kareler Ortalaması HKO=HKT/(nk1)HKO = HKT / (n - k - 1) eşitliğinde yerine konduğunda 15=600/(n5)    n5=40    n=4515 = 600 / (n - 5) \implies n - 5 = 40 \implies n = 45 bulunur. Regresyon Kareler Ortalaması RKO=RKT/k=900/4=225RKO = RKT / k = 900 / 4 = 225'tir. Son olarak test istatistiği F=RKO/HKO=225/15=15F = RKO / HKO = 225 / 15 = 15 olarak hesaplanır. Modelin genel anlamlılığını sınayan doğru yokluk hipotezi tüm eğim parametrelerinin sıfıra eşit olduğu H0:β1=β2=β3=β4=0H_0: \beta_1 = \beta_2 = \beta_3 = \beta_4 = 0 hipotezidir.

Adım Adım Çözüm

1
Regresyon Kareler Toplamı (RKT) ve Hata Kareler Toplamını (HKT) hesapla
RKT=900RKT = 900 ve HKT=600HKT = 600
R2=RKT/GKTR^2 = RKT / GKT eşitliğinden RKT=0,60×1500=900RKT = 0,60 \times 1500 = 900 bulunur. GKT=RKT+HKTGKT = RKT + HKT olduğundan HKT=1500900=600HKT = 1500 - 900 = 600 olur.
2
Hata serbestlik derecesi üzerinden örneklem hacmini (nn) bul
n=45n = 45
Modelde k=4k = 4 adet bağımsız değişken vardır. HKO=HKT/(nk1)HKO = HKT / (n - k - 1) formülünde bilinenler yerine konulduğunda 15=600/(n41)15 = 600 / (n - 4 - 1) eşitliğinden n5=40n - 5 = 40 ve buradan n=45n = 45 elde edilir.
3
F test istatistiğini ve genel anlamlılık hipotezini belirle
F=15F = 15 ve H0:β1=β2=β3=β4=0H_0: \beta_1 = \beta_2 = \beta_3 = \beta_4 = 0
Regresyon Kareler Ortalaması RKO=RKT/k=900/4=225RKO = RKT / k = 900 / 4 = 225'tir. F=RKO/HKO=225/15=15F = RKO / HKO = 225 / 15 = 15 olarak hesaplanır. F testi, tüm eğim katsayılarının aynı anda sıfıra eşit olduğunu savunan yokluk hipotezini sınar.

Anahtar Kavram

Çoklu Doğrusal Regresyonda Varyans Analizi (ANOVA) ve F Testi
Soru 122Soru

Bir lojistik firmasının veri analisti, dağıtım kamyonlarının günlük yakıt tüketimini (YY, litre) açıklamak için aşağıdaki çoklu doğrusal regresyon modelini En Küçük Kareler (EKK) yöntemiyle tahmin etmiştir:

Y^=15.2+0.18X1+2.4X20.5X3\hat{Y} = 15.2 + 0.18 X_1 + 2.4 X_2 - 0.5 X_3

Burada X1X_1 günlük gidilen toplam mesafeyi (km), X2X_2 taşınan ortalama yük miktarını (ton) ve X3X_3 aracın ortalama hızını (km/saat) temsil etmektedir.

Kısmi regresyon katsayılarının istatistiksel özellikleri dikkate alındığında, modeldeki β^2=2.4\hat{\beta}_2 = 2.4 katsayısının en doğru yorumu aşağıdakilerden hangisidir?

Cevabı ve açıklamayı göster

Cevap: Günlük mesafe (X1X_1) ve ortalama hız (X3X_3) değişkenleri sabit tutulduğunda, taşınan yük miktarındaki 1 tonluk artışın günlük yakıt tüketiminin beklenen değerinde meydana getireceği ortalama 2.4 litrelik artıştır.

Cevap

Çoklu regresyon denklemindeki bir eğim katsayısı, modeldeki diğer bağımsız değişkenler sabit tutulduğunda (ceteris paribus), ilgili bağımsız değişkendeki 1 birimlik artışın bağımlı değişkenin ortalamasında yaratacağı istatistiksel değişimi ifade eden seçenektir.
Çoklu doğrusal regresyon modelinde hesaplanan eğim katsayıları 'kısmi' katsayılardır. Bu katsayılar, modele dahil edilen diğer tüm bağımsız değişkenlerin değerleri sabit tutulduğunda (ceteris paribus), ilgili bağımsız değişkendeki 1 birimlik artışın bağımlı değişkenin beklenen değerinde (ortalamasında) yaratacağı istatistiksel değişimi ifade eder.

Adım Adım Çözüm

1
Modelin fonksiyonel formunun belirlenmesi.
Modeldeki değişkenlerin logaritması alınmadığı için model doğrusal (lin-lin) yapıdadır.
Fonksiyonel form, katsayıların marjinal etki mi yoksa esneklik mi olarak yorumlanacağını belirler. Doğrusal modellerde yorum doğrudan birimseldir (marjinal etki).
2
Çoklu regresyonda eğim katsayısının (kısmi regresyon katsayısının) teorik tanımının hatırlanması.
β^2=2.4\hat{\beta}_2 = 2.4 katsayısı, X1X_1 ve X3X_3 değişkenlerinin etkileri kontrol edildiğinde (sabit varsayıldığında) X2X_2'nin YY üzerindeki kısmi etkisidir.
Çoklu regresyonun amacı, bağımsız değişkenler arasındaki olası korelasyonları arındırarak her bir değişkenin 'net' etkisini bulmaktır.
3
Doğru istatistiksel ifadenin (stokastik yapı) seçilmesi.
Yorum yapılırken etkinin 'kesin' (deterministik) olmadığı, 'beklenen değer' veya 'ortalama' üzerinden gerçekleştiği vurgulanmalıdır.
Regresyon modelleri daima bir hata terimi içerir; ilişkiler mutlak matematiksel kurallar değildir.

Anahtar Kavram

Kısmi Regresyon Katsayısı Yorumu ve Ceteris Paribus Varsayımı
Soru 123Soru

Bir finansal analist, şirketlerin hisse senedi getirilerini (YY) açıklamak amacıyla kk adet makroekonomik bağımsız değişken ve bir sabit terim (β0\beta_0) içeren çoklu doğrusal regresyon modeli kurmuştur. Toplam n=65n=65 şirkete ait verilerle tahmin edilen modelin varyans analizi (ANOVA) tablosunda; Regresyon Kareler Toplamı'nın serbestlik derecesi 44, Hata Kareler Ortalaması (HKO) ise 88 olarak elde edilmiştir.

Modelin belirtme katsayısı (R2R^2) 0,750,75 olduğuna göre, modelin genel anlamlılığını test etmek için kurulması gereken doğru hipotezler ve hesaplanan FF test istatistiği aşağıdakilerin hangisinde birlikte verilmiştir?

Cevabı ve açıklamayı göster

Cevap: H0:β1=β2=β3=β4=0H_0: \beta_1 = \beta_2 = \beta_3 = \beta_4 = 0 ; H1:En az bir βi0H_1: \text{En az bir } \beta_i \neq 0 ; F=45F = 45

Cevap

Doğru cevap, sıfır hipotezinin tüm eğim katsayılarını eş anlı sıfır yaptığı, alternatif hipotezin 'En az bir eğim katsayısı sıfırdan farklıdır' şeklinde olduğu ve F istatistiğinin 45 olarak hesaplandığı seçenektir.
Çoklu doğrusal regresyon modelinin genel anlamlılık testi, H0:β1=β2=β3=β4=0H_0: \beta_1 = \beta_2 = \beta_3 = \beta_4 = 0 hipotezine karşı H1:En az bir βi0H_1: \text{En az bir } \beta_i \neq 0 hipotezini sınar. Soruda verilen bilgilere göre k=4k=4 (Regresyon sd) ve hata serbestlik derecesi nk1=6541=60n-k-1 = 65-4-1 = 60'tır. F istatistiği doğrudan R² ile hesaplandığında F=0,75/40,25/60=45F = \frac{0,75 / 4}{0,25 / 60} = 45 bulunur. ANOVA üzerinden gidildiğinde ise HKT = 8 × 60 = 480 ve R² = 1 - (480/GKT) = 0,75 eşitliğinden GKT = 1920, RKT = 1440 bulunur; RKO = 1440 / 4 = 360 olup F=360/8=45F = 360 / 8 = 45 değeri doğrulanır.

Adım Adım Çözüm

1
Varyans analizi tablosundaki değerlerden yararlanarak serbestlik derecelerini belirlemek.
Regresyon serbestlik derecesi k=4k=4'tür. Hata serbestlik derecesi ise nk1=6541=60n - k - 1 = 65 - 4 - 1 = 60'tır.
F test istatistiği hesaplanırken ve ANOVA tablosu oluşturulurken bağımsız değişken sayısına (kk) ve uygun serbestlik derecelerine ihtiyaç duyulur.
2
Modelin genel anlamlılık testine ait sıfır ve alternatif hipotezleri kurmak.
H0:β1=β2=β3=β4=0H_0: \beta_1 = \beta_2 = \beta_3 = \beta_4 = 0 ve H1:En az bir βi0H_1: \text{En az bir } \beta_i \neq 0
Genel F testi, modele alınan bağımsız değişkenlerin bir bütün olarak bağımlı değişkeni açıklamada anlamlı bir katkı sağlayıp sağlamadığını test eder. Bu test sabit terimi (β0\beta_0) kapsamaz.
3
Belirtme katsayısı (R2R^2) ve serbestlik derecelerini kullanarak F test istatistiğini hesaplamak.
F=R2/k(1R2)/(nk1)=0,75/4(10,75)/60=0,18750,25/60=0,18750,004167=45F = \frac{R^2 / k}{(1 - R^2) / (n - k - 1)} = \frac{0,75 / 4}{(1 - 0,75) / 60} = \frac{0,1875}{0,25 / 60} = \frac{0,1875}{0,004167} = 45
F istatistiği, Kareler Ortalamalarının birbirine oranı (RKO/HKO) şeklinde hesaplanabileceği gibi doğrudan R² ve serbestlik dereceleri ilişkisi üzerinden de hatasız biçimde bulunabilir.

Anahtar Kavram

Modelin Genel Anlamlılık Testi (F Testi) ve Belirtme Katsayısı İlişkisi

Alternatif Yöntem

F istatistiği, tablodaki HKO bilgisi kullanılarak tersten de elde edilebilir: Hata serbestlik derecesi 6060 olduğundan, HKT=HKO×60=8×60=480HKT = HKO \times 60 = 8 \times 60 = 480 bulunur. R2=1(HKT/GKT)R^2 = 1 - (HKT / GKT) ilişkisi kullanılarak 0,75=1(480/GKT)0,75 = 1 - (480 / GKT) eşitliği kurulur. Buradan GKT=1920GKT = 1920 ve RKT=1920480=1440RKT = 1920 - 480 = 1440 elde edilir. Regresyon Kareler Ortalaması RKO=1440/4=360RKO = 1440 / 4 = 360 olur. Nihayetinde F=RKO/HKO=360/8=45F = RKO / HKO = 360 / 8 = 45 şeklinde alternatif ve sağlamalı bir hesaplama yapılabilir.
Tahmini Süre:2m 0s
Soru 124Soru

Çoklu doğrusal regresyon modelinde (Y=Xβ+ϵY = X\beta + \epsilon), En Küçük Kareler (EKK) yöntemiyle normal denklemlerden türetilen parametre tahmin edicileri ve bu tahmin edicilerin matrisel özellikleri ile ilgili aşağıdakilerden hangisi doğrudur?

Cevabı ve açıklamayı göster

Cevap: Parametre tahmin vektörü β^\hat{\beta}, (XX)1XY(X'X)^{-1}X'Y matris çarpımı ile hesaplanır.

Cevap

Parametre tahmin vektörü β^\hat{\beta}, (XX)1XY(X'X)^{-1}X'Y matris çarpımı ile hesaplanır.
Çoklu doğrusal regresyonda EKK tahmin edicisi, normal denklemler sisteminin matris tersi yardımıyla çözülmesiyle elde edilen β^=(XX)1XY\hat{\beta} = (X'X)^{-1}X'Y ifadesidir. Bu ifade modelin temel matrisel çözümünü temsil eder.

Adım Adım Çözüm

1
Modelin matris formunda tanımlanması
Y=Xβ+ϵY = X\beta + \epsilon
Çoklu regresyon analizinde matris gösterimi işlemleri kolaylaştırır.
2
Hata kareler toplamının (eee'e) minimizasyonu ve türev alınması
Normal denklemler: (XX)β^=XY(X'X)\hat{\beta} = X'Y
EKK yönteminin temel amacı hataların karelerini minimize eden parametre değerlerini bulmaktır.
3
Normal denklemlerin β^\hat{\beta} için çözülmesi
β^=(XX)1XY\hat{\beta} = (X'X)^{-1}X'Y
Eşitliğin her iki tarafı soldan (XX)1(X'X)^{-1} ile çarpılarak katsayı vektörü yalnız bırakılır.

Anahtar Kavram

EKK Matris Çözümü ve BLUE Özellikleri

İpuçları

1
EKK tahmin edicisinin matrisel formülü, normal denklemlerin çözümüyle elde edilir.
2
Matris çarpımında boyut uyumu kuralını ve ters matrisin konumunu düşünün.

Daha Fazla Pratik

Varyans-kovaryans matrisinin σ2(XX)1\sigma^2(X'X)^{-1} formülünü ve buradaki diyagonal elemanların anlamını inceleyebilirsiniz.
Tahmini Süre:1m 30s
Soru 125Soru

Bir kamu yönetimi uzmanı, memurların 'yıllık performans puanı' (YY) üzerindeki etkileri incelemek için En Küçük Kareler (EKK) yöntemiyle iki farklı regresyon modeli tahmin etmiştir.

Model 1 (Basit Doğrusal Regresyon): Performans puanı (YY), sadece son bir yılda alınan hizmet içi eğitim saati (X1X_1) üzerine regrese edilmiş ve X1X_1'in eğim katsayısı 1,41,4 olarak bulunmuştur.

Model 2 (Çoklu Doğrusal Regresyon): Modele kamu hizmetindeki tecrübe yılı (X2X_2) ve çalışılan farklı birim sayısı (X3X_3) eklenerek tahmin yapıldığında, eğitim saatinin (X1X_1) kısmi regresyon katsayısı 0,60,6 olarak elde edilmiştir.

Veri setinde eğitim saati (X1X_1) ile tecrübe yılı (X2X_2) arasında yüksek pozitif yönlü bir korelasyon olduğu bilinmektedir.

Bu bilgilere göre, X1X_1 değişkeninin katsayısındaki belirgin düşüşün temel istatistiksel nedeni ve çoklu modeldeki 0,60,6 değerinin doğru yorumu aşağıdakilerin hangisinde birlikte verilmiştir?

Cevabı ve açıklamayı göster

Cevap: Düşüşün nedeni, basit modelde dışlanan ve YY üzerinde etkisi olan X2X_2 değişkeninin yarattığı pozitif sapmanın çoklu modelde giderilmesidir; 0,60,6 değeri, X2X_2 ve X3X_3 sabit tutulduğunda X1X_1'deki bir birimlik artışın YY'de yaratacağı ortalama değişimi ifade eder.

Cevap

Katsayıdaki düşüşün nedeni dışlanan değişken sapmasının (omitted variable bias) çoklu modelde düzeltilmesidir; 0,60,6 değeri ise diğer bağımsız değişkenler sabitken eğitim saatinin performans üzerindeki ortalama etkisini gösterir.
Basit doğrusal regresyonda, modele dâhil edilmeyen ancak hem bağımlı değişkenle hem de modeldeki bağımsız değişkenle ilişkili olan değişkenler (örneğin tecrübe yılı), dâhil edilen değişkenin katsayısında 'dışlanan değişken sapmasına' (omitted variable bias) neden olur. X1X_1 ve X2X_2 arasında pozitif korelasyon olduğundan, X1X_1'in katsayısı basit modelde yukarı yönlü sapmalı (gerçekten büyük) bulunmuştur. Çoklu modele X2X_2 eklendiğinde bu sapma giderilmiş ve katsayı düşmüştür. Çoklu doğrusal regresyonda kısmi eğim katsayısı (0,60,6), modeldeki diğer bağımsız değişkenler (X2X_2 ve X3X_3) sabit tutulduğunda, ilgili değişkendeki (X1X_1) 1 birimlik artışın bağımlı değişkende (YY) yaratacağı ortalama değişimi gösterir.

Adım Adım Çözüm

1
Basit regresyondaki katsayı ile çoklu regresyondaki katsayı arasındaki farkın istatistiksel nedenini tespit etme.
Basit modelde ilgili bir değişkenin (X2X_2) dışlanması sapmaya yol açar.
Birbiriyle ilişkili olan iki bağımsız değişkenden biri modelden dışlandığında, modelde kalan değişkenin katsayısı dışlanan değişkenin etkisini de üstlenir (Dışlanan Değişken Sapması).
2
Kısmi regresyon katsayısının (α^1=0,6\hat{\alpha}_1 = 0,6) kavramsal tanımını uygulama.
Bu değer, modeldeki diğer tüm bağımsız değişkenler sabit tutulduğunda (ceteris paribus) eğitim saatindeki bir birimlik değişimin performanstaki ortalama değişimidir.
Çoklu regresyonda her bir katsayı, diğer değişkenlerin etkisinden arındırılmış 'kısmi' etkiyi ölçer.

Anahtar Kavram

Kısmi Regresyon Katsayılarının Yorumlanması ve Dışlanan Değişken Sapması
Soru 126Soru

Bir ekonometri araştırmacısı, kurduğu çoklu doğrusal regresyon modelinin (Y=Xβ+uY = X\beta + u) klasik varsayımlarını test etmiş ve modelin yapısına ilişkin şu üç temel bulguya ulaşmıştır:

I. Bağımsız değişkenler ile hata terimleri arasında korelasyon bulunmamaktadır (E(uX)=0E(u|X) = 0).
II. Bağımsız değişkenler arasında yüksek dereceli (fakat tam olmayan) bir doğrusal ilişki mevcuttur.
III. Hata terimlerinin varyansı tüm gözlemler için sabit olmasına (Var(uX)=σ2Var(u|X) = \sigma^2) rağmen, ardışık hata terimleri arasında istatistiksel olarak anlamlı bir ilişki (otokorelasyon) bulunmaktadır.

Bu bulgular ışığında, modelin parametrelerini tahmin etmek için kullanılan En Küçük Kareler (EKK) tahmin edicilerinin istatistiksel özellikleri hakkında aşağıdakilerden hangisi kesinlikle doğrudur?

Cevabı ve açıklamayı göster

Cevap: Tahmin ediciler sapmasız olma özelliğini korur; ancak ardışık bağımlılıktan (otokorelasyon) dolayı artık en küçük varyanslı (etkin) değillerdir.

Cevap

Tahmin edicilerin sapmasız olma özelliğini koruduğunu, ancak otokorelasyon nedeniyle etkin (minimum varyanslı) olmadıklarını belirten ifade doğrudur.
EKK tahmin edicilerinin sapmasız olabilmesi için temel şart, hata terimlerinin bağımsız değişkenlerle ilişkisiz olmasıdır (E(uX)=0E(u|X)=0). Sorudaki modelde bu şart sağlandığı ve sadece tam olmayan çoklu bağlantı bulunduğu için tahmin ediciler sapmasızlık özelliğini korur. Ancak Gauss-Markov teoremine göre tahmin edicilerin etkin (minimum varyanslı) olabilmesi için hata terimleri arasında ardışık bağımlılık (otokorelasyon) kesinlikle olmamalıdır. Modelde otokorelasyon tespit edildiği için EKK tahmin edicileri sapmasız kalsalar da etkinliklerini (BLUE özelliğindeki 'Best' kısmını) kaybederler.

Adım Adım Çözüm

1
I. bulgunun (E(uX)=0E(u|X) = 0) etkisini analiz et.
Hata terimlerinin koşullu beklenen değerinin sıfır olması, EKK tahmin edicilerinin sapmasız (E(β^)=βE(\hat{\beta}) = \beta) olmasını sağlayan temel teorik şarttır.
Model dışsallık (exogeneity) varsayımını sağladığı için parametre tahminleri ortalamada gerçek popülasyon değerlerine eşittir.
2
II. bulgunun (Tam olmayan yüksek çoklu bağlantı) etkisini değerlendir.
Tam olmayan çoklu bağlantı EKK tahmin edicilerinin sapmasızlık özelliğini bozmaz, sadece varyanslarını artırır.
Matris tersinin alınabilmesi için tam doğrusal bağlantı olmaması yeterlidir; yüksek bağlantı sadece standart hataları şişirir.
3
III. bulgunun (Otokorelasyon varlığı) etkisini Gauss-Markov teoremi bağlamında incele.
Sabit varyans varsayımı sağlansa bile, ardışık hata terimleri arasında ilişki (otokorelasyon) bulunması EKK tahmin edicilerinin etkinliğini (minimum varyanslı olma özelliğini) ortadan kaldırır.
Gauss-Markov teoremine göre En İyi (Best/Etkin) Doğrusal Sapmasız Tahmin Edici olabilmek için hem homoskedastisite hem de otokorelasyonsuzluk varsayımlarının aynı anda sağlanması zorunludur.
4
Tüm bulguları sentezleyerek nihai sonuca ulaş.
Modeldeki tahmin ediciler sapmasızlık özelliğine sahip olmaya devam ederken, otokorelasyon sebebiyle en küçük varyanslı (etkin) olma özelliklerini yitirmişlerdir.
Sapmasızlık korunmuş, etkinlik kaybedilmiştir.

Anahtar Kavram

Çoklu Doğrusal Regresyon Modeli ve Varsayımları (Gauss-Markov Teoremi, Otokorelasyon ve Çoklu Bağlantının Etkileri)
ÖncekiSayfa 7 / 7
Çoklu Doğrusal Regresyon Analizi Alıştırma Soruları — KPSS İstatistik — Sayfa 7 | Examkin