Question

Difficulty: MediumEn Küçük Kareler Yöntemi (Least Squares Estimation)

Orijinden geçen basit doğrusal regresyon modelinde (Yi=βXi+ϵiY_i = \beta X_i + \epsilon_i), β\beta parametresinin tahmini için En Küçük Kareler (EKK) yöntemi uygulanmıştır. Bu yöntemle elde edilen kalıntılar ei=YiY^ie_i = Y_i - \hat{Y}_i (i=1,2,,ni = 1, 2, \dots, n) şeklinde tanımlandığına göre, normal denklemlerin bir sonucu olarak aşağıdakilerden hangisi her zaman doğrudur?

  1. A
    Kalıntıların toplamı sıfıra eşittir (i=1nei=0\sum_{i=1}^{n} e_i = 0).
  2. B
    Tahmin edilen regresyon doğrusu mutlaka değişkenlerin ortalamasından (Xˉ,Yˉ\bar{X}, \bar{Y}) geçer.
  3. Bağımsız değişken değerleri ile kalıntıların çarpımlarının toplamı sıfıra eşittir (i=1nXiei=0\sum_{i=1}^{n} X_i e_i = 0).Answer
  4. D
    Kalıntıların toplamı, bağımsız değişken değerlerinin toplamına eşittir (ei=Xi\sum e_i = \sum X_i).
  5. E
    Kalıntıların varyansı her zaman hata terimlerinin varyansından büyüktür.

Answer

Bağımsız değişken değerleri ile kalıntıların çarpımlarının toplamı sıfıra eşittir (Xiei=0\sum X_i e_i = 0)
En Küçük Kareler yöntemi, hata kareler toplamının (SS) parametrelere göre kısmi türevlerinin alınması ve sıfıra eşitlenmesi prensibine dayanır. Yi=βXi+ϵiY_i = \beta X_i + \epsilon_i modelinde sadece β\beta parametresi bulunduğundan, dSdβ=0\frac{dS}{d\beta} = 0 koşulu 2(YiβXi)Xi=0-2\sum(Y_i - \beta X_i)X_i = 0 denklemini verir. Bu denklemde Yiβ^XiY_i - \hat{\beta}X_i ifadesi kalıntıyı (eie_i) temsil ettiğinden, doğrudan Xiei=0\sum X_i e_i = 0 sonucuna ulaşılır. Bu, bağımsız değişken ile kalıntıların ortogonal (dik) olduğunu gösteren temel bir cebirsel özelliktir.

Step-by-Step Solution

1
Minimize edilecek olan hata kareler toplamı fonksiyonunu (S) tanımla.
S(β)=i=1n(YiβXi)2S(\beta) = \sum_{i=1}^{n} (Y_i - \beta X_i)^2
En Küçük Kareler yöntemi, gözlenen değerler ile tahmin edilen değerler arasındaki farkların karelerinin toplamını minimize eder.
2
Fonksiyonun β\beta parametresine göre türevini al ve sıfıra eşitle.
dSdβ=2i=1n(YiβXi)Xi=0\frac{dS}{d\beta} = -2 \sum_{i=1}^{n} (Y_i - \beta X_i) X_i = 0
Bir fonksiyonun minimum noktasında birinci türev sıfıra eşittir.
3
Elde edilen denklemi kalıntılar (eie_i) cinsinden yeniden düzenle.
i=1nXi(Yiβ^Xi)=0i=1nXiei=0\sum_{i=1}^{n} X_i (Y_i - \hat{\beta} X_i) = 0 \Rightarrow \sum_{i=1}^{n} X_i e_i = 0
ei=Yiβ^Xie_i = Y_i - \hat{\beta} X_i olduğu için parantez içi kalıntı değerini ifade eder ve sonuç sıfır olur.

Key Concept

Normal denklemlerin türetilmesi ve cebirsel özellikleri
Rate this question