Question

Difficulty: Very hardEn Küçük Kareler Yöntemi (Least Squares Estimation)

Bir araştırmacı, nn birimlik bir örneklem üzerinden bağımsız değişken (XX) ile bağımlı değişken (YY) arasındaki ilişkiyi basit doğrusal regresyon modeli ile incelemektedir. Kuramsal bir kısıt gereği, modelin regresyon denklemi Yi=β0+β1Xi+ϵiY_i = \beta_0 + \beta_1 X_i + \epsilon_i olarak tanımlanmış olup, y-eksenini kestiği nokta olan β0\beta_0 parametresinin, eğim parametresi olan β1\beta_1'in tam 33 katına eşit olduğu (β0=3β1\beta_0 = 3\beta_1) kesin olarak bilinmektedir.

Hata terimlerinin (ϵi\epsilon_i) sıfır ortalamalı ve sabit varyanslı olduğu varsayımı altında, β1\beta_1 parametresinin En Küçük Kareler (EKK) tahmin edicisi aşağıdakilerden hangisidir?

  1. i=1n(Xi+3)Yii=1n(Xi+3)2\frac{\sum_{i=1}^n (X_i + 3)Y_i}{\sum_{i=1}^n (X_i + 3)^2}Answer
  2. B
    i=1nYii=1n(Xi+3)\frac{\sum_{i=1}^n Y_i}{\sum_{i=1}^n (X_i + 3)}
  3. C
    i=1n(Xi+3)Yii=1nXi2+9n\frac{\sum_{i=1}^n (X_i + 3)Y_i}{\sum_{i=1}^n X_i^2 + 9n}
  4. D
    i=1n(XiXˉ)(YiYˉ)i=1n(XiXˉ)2\frac{\sum_{i=1}^n (X_i - \bar{X})(Y_i - \bar{Y})}{\sum_{i=1}^n (X_i - \bar{X})^2}
  5. E
    i=1nXiYii=1nXi2\frac{\sum_{i=1}^n X_i Y_i}{\sum_{i=1}^n X_i^2}

Answer

Modeldeki kısıt dikkate alınarak hata kareler toplamının türevi alındığında elde edilen i=1n(Xi+3)Yii=1n(Xi+3)2\frac{\sum_{i=1}^n (X_i + 3)Y_i}{\sum_{i=1}^n (X_i + 3)^2} formülü doğru tahmindir.
En Küçük Kareler yöntemi, hata terimlerinin kareleri toplamını minimize eden parametre değerlerini bulur. Model kısıtı β0=3β1\beta_0 = 3\beta_1 yerine konulduğunda model Yi=β1(Xi+3)+ϵiY_i = \beta_1(X_i + 3) + \epsilon_i şekline dönüşür. Geometrik olarak bu, tüm regresyon doğrularının (3,0)(-3, 0) noktasından geçmek zorunda olduğu bir aileyi temsil eder. Bu yeni fonksiyon üzerinden (Yiβ1(Xi+3))2\sum (Y_i - \beta_1(X_i + 3))^2 minimize edildiğinde, türevin sıfıra eşitlenmesiyle elde edilen tahmin edici doğru seçenekteki formüldür.

Step-by-Step Solution

1
Verilen kısıtı (β0=3β1\beta_0 = 3\beta_1) regresyon modelinde yerine koymak.
Yi=3β1+β1Xi+ϵiY_i = 3\beta_1 + \beta_1 X_i + \epsilon_i \Rightarrow Yi=β1(Xi+3)+ϵiY_i = \beta_1(X_i + 3) + \epsilon_i
Tahmin edilecek parametre sayısını teke düşürerek EKK optimizasyonunu kısıt altında çözülebilir hale getirmek.
2
Kısıtlı model için Hata Kareler Toplamı (SSE) fonksiyonunu oluşturmak.
S(β1)=i=1nϵi2=i=1n(Yiβ1(Xi+3))2S(\beta_1) = \sum_{i=1}^n \epsilon_i^2 = \sum_{i=1}^n (Y_i - \beta_1(X_i + 3))^2
En Küçük Kareler yönteminin temel prensibi olan minimize edilecek amaç fonksiyonunu tanımlamak.
3
S(β1)S(\beta_1) fonksiyonunun β1\beta_1'e göre birinci türevini almak ve sıfıra eşitlemek.
dSdβ1=2i=1n(Xi+3)(Yiβ1(Xi+3))=0\frac{dS}{d\beta_1} = -2 \sum_{i=1}^n (X_i + 3)(Y_i - \beta_1(X_i + 3)) = 0
Bir fonksiyonun minimum noktasını bulmak için birinci türevinin kökünü hesaplamak.
4
Elde edilen normal denklemi düzenleyerek β1\beta_1 parametresini yalnız bırakmak.
i=1n(Xi+3)Yi=β1i=1n(Xi+3)2\sum_{i=1}^n (X_i + 3)Y_i = \beta_1 \sum_{i=1}^n (X_i + 3)^2 \Rightarrow β^1=i=1n(Xi+3)Yii=1n(Xi+3)2\hat{\beta}_1 = \frac{\sum_{i=1}^n (X_i + 3)Y_i}{\sum_{i=1}^n (X_i + 3)^2}
Bilinmeyen parametrenin örneklem istatistikleri cinsinden tahmin edicisini nihai olarak elde etmek.

Key Concept

Kısıtlı regresyon modellerinde (Constrained Least Squares) En Küçük Kareler yönteminin analitik optimizasyon süreciyle sıfırdan türetilmesi.
Rate this question