Examkin

Soru

Zorluk: OrtaEn Küçük Kareler Yöntemi (Least Squares Estimation)

Standart varsayımların geçerli olduğu iki değişkenli (basit) doğrusal regresyon modelinde (Yi=β0+β1Xi+ϵiY_i = \beta_0 + \beta_1 X_i + \epsilon_i), parametreler En Küçük Kareler (EKK) yöntemi kullanılarak tahmin edilmiştir. Bu tahminleme işlemi sonucunda elde edilen kalıntılar (artıklar) eie_i ve bağımlı değişkene ait tahmin değerleri Y^i\hat{Y}_i olarak ifade edilmiştir.

EKK yönteminin normal denklemleri ve kalıntıların cebirsel özellikleri dikkate alındığında, aşağıdaki eşitliklerden hangisi genel olarak sıfıra eşit olmaz?

  1. A
    ∑i=1nei\sum_{i=1}^n e_i
  2. B
    ∑i=1nXiei\sum_{i=1}^n X_i e_i
  3. C
    ∑i=1nY^iei\sum_{i=1}^n \hat{Y}_i e_i
  4. ∑i=1nYiei\sum_{i=1}^n Y_i e_iCevap
  5. E
    ∑i=1n(Y^i−Yˉ)ei\sum_{i=1}^n (\hat{Y}_i - \bar{Y}) e_i

Cevap

∑i=1nYiei\sum_{i=1}^n Y_i e_i ifadesi genel olarak sıfıra eşit değildir, hata kareler toplamına (SSE) eşittir.
Doğrusal regresyonda gözlemlenen bağımlı değişken değerleri (YiY_i) ile kalıntıların (eie_i) çarpımlarının toplamı, hata kareler toplamına (SSESSE) eşittir. Matematiksel olarak ∑Yiei=∑(Y^i+ei)ei=∑Y^iei+∑ei2\sum Y_i e_i = \sum (\hat{Y}_i + e_i) e_i = \sum \hat{Y}_i e_i + \sum e_i^2 şeklinde ifade edilir. Burada ∑Y^iei=0\sum \hat{Y}_i e_i = 0 olduğundan sonuç ∑ei2\sum e_i^2 (SSE) olur. Model veriye kusursuz bir şekilde uymadığı sürece SSE>0SSE > 0'dır ve bu ifade sıfıra eşit olmaz.

Adım Adım Çözüm

1
En küçük kareler yönteminin normal denklemlerinin sonuçlarını belirle.
Hata kareler toplamının β0\beta_0 ve β1\beta_1'e göre türevlerinin sıfıra eşitlenmesiyle ∑ei=0\sum e_i = 0 ve ∑Xiei=0\sum X_i e_i = 0 eşitlikleri elde edilir.
Bu iki eşitlik, modelin parametrelerinin EKK ile tahmin edilmesinin doğrudan sonucudur.
2
Tahmin değerleri (Y^i\hat{Y}_i) ile kalıntılar (eie_i) arasındaki cebirsel ilişkiyi analiz et.
Y^i=β^0+β^1Xi\hat{Y}_i = \hat{\beta}_0 + \hat{\beta}_1 X_i olduğundan, ∑Y^iei=β^0∑ei+β^1∑Xiei\sum \hat{Y}_i e_i = \hat{\beta}_0 \sum e_i + \hat{\beta}_1 \sum X_i e_i yazılır. Her iki toplam da sıfır olduğu için ∑Y^iei=0\sum \hat{Y}_i e_i = 0 olur.
Tahmin vektörü ile kalıntı vektörü veri uzayında birbirine diktir (ortogonaldir).
3
Gözlenen YiY_i değerleri ile kalıntıların çarpımını incele.
Yi=Y^i+eiY_i = \hat{Y}_i + e_i formülünü kullanarak, hedeflenen ifadeyi ∑Yiei=∑(Y^i+ei)ei\sum Y_i e_i = \sum (\hat{Y}_i + e_i)e_i şeklinde genişlet.
Gerçek değerler, tahmin edilen değerler ile kalıntıların toplamından oluşur.
4
Çarpım toplamını basitleştirerek sonucu değerlendir.
∑Y^iei+∑ei2=0+∑ei2=SSE\sum \hat{Y}_i e_i + \sum e_i^2 = 0 + \sum e_i^2 = SSE (Hata Kareler Toplamı). EKK'da SSE>0SSE > 0 olacağından bu ifade sıfıra eşit olmaz.
Ortogonalite kuralı YiY_i'nin kendisi için değil, sadece regresörler ve tahmin değerleri (Y^i\hat{Y}_i) için geçerlidir.

Anahtar Kavram

En Küçük Kareler Tahmin Edicilerinin Cebirsel Özellikleri ve Ortogonalite

Alternatif Yöntem

Vektörel (Matris) yaklaşımı kullanarak ispat: EKK'da tahminler Y^=HY\hat{Y} = HY ve kalıntılar e=(I−H)Ye = (I-H)Y olarak yazılır (H = Hat matrisi). Y′e=Y′(I−H)Y=e′e=SSEY'e = Y'(I-H)Y = e'e = SSE sonucuna doğrudan ulaşılır ve bu değerin sıfır olmadığı açıkça görülür.
Tahmini Süre:1m 15s
Bu soruyu puanla

Konular

En Küçük Kareler Yöntemi (Least Squares Estimation)

Bu konudan daha fazla soru