Question

Difficulty: MediumEn Küçük Kareler Yöntemi (Least Squares Estimation)

Standart varsayımların geçerli olduğu iki değişkenli (basit) doğrusal regresyon modelinde (Yi=β0+β1Xi+ϵiY_i = \beta_0 + \beta_1 X_i + \epsilon_i), parametreler En Küçük Kareler (EKK) yöntemi kullanılarak tahmin edilmiştir. Bu tahminleme işlemi sonucunda elde edilen kalıntılar (artıklar) eie_i ve bağımlı değişkene ait tahmin değerleri Y^i\hat{Y}_i olarak ifade edilmiştir.

EKK yönteminin normal denklemleri ve kalıntıların cebirsel özellikleri dikkate alındığında, aşağıdaki eşitliklerden hangisi genel olarak sıfıra eşit olmaz?

  1. A
    i=1nei\sum_{i=1}^n e_i
  2. B
    i=1nXiei\sum_{i=1}^n X_i e_i
  3. C
    i=1nY^iei\sum_{i=1}^n \hat{Y}_i e_i
  4. i=1nYiei\sum_{i=1}^n Y_i e_iAnswer
  5. E
    i=1n(Y^iYˉ)ei\sum_{i=1}^n (\hat{Y}_i - \bar{Y}) e_i

Answer

i=1nYiei\sum_{i=1}^n Y_i e_i ifadesi genel olarak sıfıra eşit değildir, hata kareler toplamına (SSE) eşittir.
Doğrusal regresyonda gözlemlenen bağımlı değişken değerleri (YiY_i) ile kalıntıların (eie_i) çarpımlarının toplamı, hata kareler toplamına (SSESSE) eşittir. Matematiksel olarak Yiei=(Y^i+ei)ei=Y^iei+ei2\sum Y_i e_i = \sum (\hat{Y}_i + e_i) e_i = \sum \hat{Y}_i e_i + \sum e_i^2 şeklinde ifade edilir. Burada Y^iei=0\sum \hat{Y}_i e_i = 0 olduğundan sonuç ei2\sum e_i^2 (SSE) olur. Model veriye kusursuz bir şekilde uymadığı sürece SSE>0SSE > 0'dır ve bu ifade sıfıra eşit olmaz.

Step-by-Step Solution

1
En küçük kareler yönteminin normal denklemlerinin sonuçlarını belirle.
Hata kareler toplamının β0\beta_0 ve β1\beta_1'e göre türevlerinin sıfıra eşitlenmesiyle ei=0\sum e_i = 0 ve Xiei=0\sum X_i e_i = 0 eşitlikleri elde edilir.
Bu iki eşitlik, modelin parametrelerinin EKK ile tahmin edilmesinin doğrudan sonucudur.
2
Tahmin değerleri (Y^i\hat{Y}_i) ile kalıntılar (eie_i) arasındaki cebirsel ilişkiyi analiz et.
Y^i=β^0+β^1Xi\hat{Y}_i = \hat{\beta}_0 + \hat{\beta}_1 X_i olduğundan, Y^iei=β^0ei+β^1Xiei\sum \hat{Y}_i e_i = \hat{\beta}_0 \sum e_i + \hat{\beta}_1 \sum X_i e_i yazılır. Her iki toplam da sıfır olduğu için Y^iei=0\sum \hat{Y}_i e_i = 0 olur.
Tahmin vektörü ile kalıntı vektörü veri uzayında birbirine diktir (ortogonaldir).
3
Gözlenen YiY_i değerleri ile kalıntıların çarpımını incele.
Yi=Y^i+eiY_i = \hat{Y}_i + e_i formülünü kullanarak, hedeflenen ifadeyi Yiei=(Y^i+ei)ei\sum Y_i e_i = \sum (\hat{Y}_i + e_i)e_i şeklinde genişlet.
Gerçek değerler, tahmin edilen değerler ile kalıntıların toplamından oluşur.
4
Çarpım toplamını basitleştirerek sonucu değerlendir.
Y^iei+ei2=0+ei2=SSE\sum \hat{Y}_i e_i + \sum e_i^2 = 0 + \sum e_i^2 = SSE (Hata Kareler Toplamı). EKK'da SSE>0SSE > 0 olacağından bu ifade sıfıra eşit olmaz.
Ortogonalite kuralı YiY_i'nin kendisi için değil, sadece regresörler ve tahmin değerleri (Y^i\hat{Y}_i) için geçerlidir.

Key Concept

En Küçük Kareler Tahmin Edicilerinin Cebirsel Özellikleri ve Ortogonalite

Alternative Method

Vektörel (Matris) yaklaşımı kullanarak ispat: EKK'da tahminler Y^=HY\hat{Y} = HY ve kalıntılar e=(IH)Ye = (I-H)Y olarak yazılır (H = Hat matrisi). Ye=Y(IH)Y=ee=SSEY'e = Y'(I-H)Y = e'e = SSE sonucuna doğrudan ulaşılır ve bu değerin sıfır olmadığı açıkça görülür.
Estimated Time:1m 15s
Rate this question