Examkin

Soru

Zorluk: ZorEn Küçük Kareler Yöntemi (Least Squares Estimation)

Bir araştırmacı, il bazında kişi başına düşen sağlık harcamalarını (YY), ilgili ilin ortalama yaş seviyesi (XX) ile açıklamak amacıyla, sabit terim içermeyen (orijinden geçen) Yi=βXi+ϵiY_i = \beta X_i + \epsilon_i modelini kurmuştur.

Araştırmacı, modeldeki hata terimlerinin varyansının XiX_i ile orantılı olduğunu (Var(ϵi)=σ2XiVar(\epsilon_i) = \sigma^2 X_i) varsayarak, standart en küçük kareler yöntemi yerine ağırlıklı bir minimizasyon problemi çözmeye karar vermiştir. Bu doğrultuda, katsayı tahminini aşağıdaki ağırlıklandırılmış hata kareler toplamı fonksiyonunu minimize ederek yapacaktır:

S(β)=∑i=1n1Xi(Yi−βXi)2S(\beta) = \sum_{i=1}^{n} \frac{1}{X_i} (Y_i - \beta X_i)^2

Buna göre, araştırmacının bu minimizasyon problemi sonucunda elde edeceği β\beta parametresinin En Küçük Kareler tahmin edicisi (β^\hat{\beta}) aşağıdakilerden hangisidir?

  1. A
    ∑i=1nXiYi∑i=1nXi2\frac{\sum_{i=1}^{n} X_i Y_i}{\sum_{i=1}^{n} X_i^2}
  2. ∑i=1nYi∑i=1nXi\frac{\sum_{i=1}^{n} Y_i}{\sum_{i=1}^{n} X_i}Cevap
  3. C
    1n∑i=1n(YiXi)\frac{1}{n} \sum_{i=1}^{n} \left(\frac{Y_i}{X_i}\right)
  4. D
    ∑i=1n(Xi−Xˉ)(Yi−Yˉ)∑i=1n(Xi−Xˉ)2\frac{\sum_{i=1}^{n} (X_i - \bar{X})(Y_i - \bar{Y})}{\sum_{i=1}^{n} (X_i - \bar{X})^2}
  5. E
    ∑i=1nXi2Yi∑i=1nXi3\frac{\sum_{i=1}^{n} X_i^2 Y_i}{\sum_{i=1}^{n} X_i^3}

Cevap

Minimizasyon problemi çözüldüğünde elde edilen doğru tahmin edici, gözlemlerin toplamlarının birbirine oranını ifade eden ∑i=1nYi∑i=1nXi\frac{\sum_{i=1}^{n} Y_i}{\sum_{i=1}^{n} X_i} değeridir.
Doğru cevap, ağırlıklandırılmış hata kareler toplamı fonksiyonunun β\beta'ya göre birinci türevinin alınıp sıfıra eşitlenmesiyle türetilir. Türev işlemi sırasında zincir kuralı gereği parantez içinin türevi olan −Xi-X_i katsayısı ile baştaki ağırlık katsayısı olan 1/Xi1/X_i birbirini sadeleştirir. Geriye kalan ∑(Yi−βXi)=0\sum (Y_i - \beta X_i) = 0 denklemi çözüldüğünde tahmin edicinin ∑Yi∑Xi\frac{\sum Y_i}{\sum X_i} oranına eşit olduğu açıkça görülmektedir.

Adım Adım Çözüm

1
Minimize edilecek olan ağırlıklandırılmış hata kareler toplamı fonksiyonunu belirleyin.
S(β)=∑i=1n1Xi(Yi−βXi)2S(\beta) = \sum_{i=1}^{n} \frac{1}{X_i} (Y_i - \beta X_i)^2
En Küçük Kareler yöntemi, hata terimlerinin karesel toplamını en aza indiren parametre değerini bulmayı amaçlar.
2
S(β)S(\beta) fonksiyonunun β\beta'ya göre birinci türevini alın.
dS(β)dβ=∑i=1n1Xi⋅2(Yi−βXi)⋅(−Xi)\frac{dS(\beta)}{d\beta} = \sum_{i=1}^{n} \frac{1}{X_i} \cdot 2(Y_i - \beta X_i) \cdot (-X_i)
Bir fonksiyonun minimum noktasını bulmak için fonksiyona göre birinci türev alınır.
3
Türev ifadesini sıfıra eşitleyerek gerekli sadeleştirmeleri yapın.
−2∑i=1n[XiXi(Yi−βXi)]=0  ⟹  −2∑i=1n(Yi−βXi)=0-2 \sum_{i=1}^{n} \left[ \frac{X_i}{X_i} (Y_i - \beta X_i) \right] = 0 \implies -2 \sum_{i=1}^{n} (Y_i - \beta X_i) = 0
Türevi sıfıra eşitlemek normal denklemleri elde etmemizi sağlar. Ağırlık teriminin paydasındaki XiX_i ile zincir kuralından gelen −Xi-X_i birbirini götürür.
4
Elde edilen normal denklemi β\beta için çözerek tahmin ediciyi (β^\hat{\beta}) yalnız bırakın.
∑i=1nYi−β^∑i=1nXi=0  ⟹  β^∑i=1nXi=∑i=1nYi  ⟹  β^=∑i=1nYi∑i=1nXi\sum_{i=1}^{n} Y_i - \hat{\beta} \sum_{i=1}^{n} X_i = 0 \implies \hat{\beta} \sum_{i=1}^{n} X_i = \sum_{i=1}^{n} Y_i \implies \hat{\beta} = \frac{\sum_{i=1}^{n} Y_i}{\sum_{i=1}^{n} X_i}
Denklem çözüldüğünde en küçük kareler tahmin edicisi parametre formu elde edilmiş olur.

Anahtar Kavram

Ağırlıklı En Küçük Kareler Yönteminde (WLS) Normal Denklemlerin Türetilmesi

Alternatif Yöntem

Matematiksel beklentiler ve momentler kullanılarak, WLS (Ağırlıklı En Küçük Kareler) tahmininde ağırlıklandırılmış değişkenler oluşturulabilir: Yi∗=Yi/XiY_i^* = Y_i / \sqrt{X_i} ve Xi∗=Xi/Xi=XiX_i^* = X_i / \sqrt{X_i} = \sqrt{X_i}. Bu yeni değişkenler ile orijinden geçen regresyon yapıldığında β^=∑Xi∗Yi∗∑(Xi∗)2=∑Xi(Yi/Xi)∑(Xi)2=∑Yi∑Xi\hat{\beta} = \frac{\sum X_i^* Y_i^*}{\sum (X_i^*)^2} = \frac{\sum \sqrt{X_i} (Y_i / \sqrt{X_i})}{\sum (\sqrt{X_i})^2} = \frac{\sum Y_i}{\sum X_i} sonucu yine elde edilir.
Tahmini Süre:2m 0s
Bu soruyu puanla

Konular

En Küçük Kareler Yöntemi (Least Squares Estimation)

Bu konudan daha fazla soru