Examkin

Question

Difficulty: HardEn Küçük Kareler Yöntemi (Least Squares Estimation)

Bir istatistikçi, (X1,Y1),(X2,Y2),…,(Xn,Yn)(X_1, Y_1), (X_2, Y_2), \dots, (X_n, Y_n) biçimindeki nn adet bağımsız gözlem çiftinden oluşan bir veri seti için aşağıdaki doğrusal regresyon modelini En Küçük Kareler (EKK) yöntemiyle tahmin etmektedir:

Yi=α+β(Xi−Xˉ)+ϵi,i=1,2,…,nY_i = \alpha + \beta (X_i - \bar{X}) + \epsilon_i, \quad i = 1, 2, \dots, n

Bu modelde Xˉ\bar{X}, bağımsız değişkenin örneklem ortalamasını göstermektedir. Hata terimleri ϵi\epsilon_i'lerin birbirinden bağımsız, beklenen değerlerinin sıfır (E(ϵi)=0E(\epsilon_i) = 0) ve varyanslarının sabit (V(ϵi)=σ2V(\epsilon_i) = \sigma^2) olduğu varsayılmaktadır.

Buna göre, bu modelden elde edilen EKK tahmin edicileri α^\hat{\alpha} ve β^\hat{\beta} arasındaki kovaryans, yani Cov(α^,β^)Cov(\hat{\alpha}, \hat{\beta}) aşağıdakilerden hangisine eşittir?

  1. A
    −Xˉσ2∑i=1n(Xi−Xˉ)2-\frac{\bar{X} \sigma^2}{\sum_{i=1}^n (X_i - \bar{X})^2}
  2. B
    σ2n\frac{\sigma^2}{n}
  3. 00Answer
  4. D
    σ2∑i=1n(Xi−Xˉ)2\frac{\sigma^2}{\sum_{i=1}^n (X_i - \bar{X})^2}
  5. E
    σ2(1n+Xˉ2∑i=1n(Xi−Xˉ)2)\sigma^2 \left( \frac{1}{n} + \frac{\bar{X}^2}{\sum_{i=1}^n (X_i - \bar{X})^2} \right)

Answer

Doğru cevap 00'dır.
Merkezileştirilmiş bir doğrusal regresyon modelinde, bağımsız değişken sütunu ile kesme parametresine ait birlik sütunu birbirine dik (ortogonal) hale gelir. Cebirsel olarak α^=Yˉ\hat{\alpha} = \bar{Y} ve β^=∑wiYi\hat{\beta} = \sum w_i Y_i şeklinde yazılıp iki doğrusal kombinasyonun kovaryansı alındığında, formülün payında beliren ∑i=1n(Xi−Xˉ)\sum_{i=1}^n (X_i - \bar{X}) çarpanı matematiksel olarak sıfır olduğundan tahmin ediciler arasındaki kovaryans sıfıra eşit çıkar.

Step-by-Step Solution

1
EKK tahmin edicilerini veriye dayalı formüllerle tanımlamak.
Merkezileştirilmiş modelde tahmin ediciler α^=Yˉ\hat{\alpha} = \bar{Y} ve β^=∑(Xi−Xˉ)Yi∑(Xi−Xˉ)2\hat{\beta} = \frac{\sum (X_i - \bar{X})Y_i}{\sum (X_i - \bar{X})^2} olarak bulunur.
Kovaryans hesaplamasına geçebilmek için tahmin edicilerin gözlemler (YiY_i) cinsinden bağımsız değişkenlerle nasıl ağırlıklandırıldığını açıkça yazmak gerekir.
2
Tahmin ediciler için doğrusal kombinasyon kovaryans denklemini kurmak.
Cov(α^,β^)=Cov(1n∑i=1nYi,∑j=1nwjYj)Cov(\hat{\alpha}, \hat{\beta}) = Cov\left( \frac{1}{n}\sum_{i=1}^n Y_i, \sum_{j=1}^n w_j Y_j \right) ifadesi oluşturulur. Burada hesaplama kolaylığı için wj=Xj−Xˉ∑(Xk−Xˉ)2w_j = \frac{X_j - \bar{X}}{\sum (X_k - \bar{X})^2} şeklinde tanımlanır.
Her iki tahmin edici de YiY_i değişkenlerinin birer doğrusal fonksiyonudur. YiY_i'ler bağımsız olduğundan toplamların kovaryansı doğrudan varyanslar üzerinden hesaplanabilir.
3
Bağımsızlık varsayımı ile ifadeyi sadeleştirip matematiksel sonucu bulmak.
Çapraz terimler sıfır olduğu için ifade 1n∑wiV(Yi)=σ2n∑(Xk−Xˉ)2∑i=1n(Xi−Xˉ)\frac{1}{n} \sum w_i V(Y_i) = \frac{\sigma^2}{n \sum (X_k - \bar{X})^2} \sum_{i=1}^n (X_i - \bar{X}) halini alır. Örneklemde ∑i=1n(Xi−Xˉ)=0\sum_{i=1}^n (X_i - \bar{X}) = 0 eşitliği geçerli olduğundan sonuç doğrudan 00 çıkar.
Değişkenlerin kendi örneklem ortalaması etrafındaki sapmalarının toplamı sıfır olmak zorundadır.

Key Concept

Merkezileştirilmiş Regresyon Modellerinde Tahmin Edicilerin Bağımsızlığı

Alternative Method

Matris gösterimiyle ispat yapmak daha pratiktir. Modelin tasarım matrisi XX'in ilk sütunu 11'lerden, ikinci sütunu (Xi−Xˉ)(X_i - \bar{X})'lerden oluşur. XTXX^T X çarpımı hesaplandığında köşegen dışı (off-diagonal) elemanlar ∑i=1n1⋅(Xi−Xˉ)=0\sum_{i=1}^n 1 \cdot (X_i - \bar{X}) = 0 olur. XTXX^T X matrisi tamamen köşegen (diagonal) olduğu için tersi olan (XTX)−1(X^T X)^{-1} matrisi de köşegendir. Bu da varyans-kovaryans matrisindeki çapraz elemanların (kovaryansların) sıfır olduğunu doğrudan kanıtlar.
Estimated Time:2m 0s
Rate this question

Topics

En Küçük Kareler Yöntemi (Least Squares Estimation)

More questions from this topic