Examkin

Soru

Zorluk: ZorKayıp Fonksiyonları, Risk ve Minimax Tahmin Ediciler

Bir istatistik uzmanı, ortalaması θ\theta ve varyansı 11 olan normal dağılıma sahip bir kitleden alınan tek bir XX gözlemi ile θ\theta parametresini tahmin etmek istemektedir. Geçmiş çalışmalardan ve fiziksel kısıtlardan dolayı parametre uzayının θ∈[−2,2]\theta \in [-2, 2] aralığı ile sınırlı olduğu bilinmektedir.

Uzman, karesel hata kayıp fonksiyonu L(θ,d)=(d−θ)2L(\theta, d) = (d - \theta)^2 altında sadece θ^c=cX(0≤c≤1)\hat{\theta}_c = cX \quad (0 \le c \le 1) formundaki tahmin edicileri dikkate almaktadır.

Buna göre, bu sınıf içindeki tahmin ediciler arasında minimax olan tahmin edici aşağıdakilerden hangisidir?

  1. A
    XX
  2. B
    23X\frac{2}{3}X
  3. 45X\frac{4}{5}XCevap
  4. D
    12X\frac{1}{2}X
  5. E
    15X\frac{1}{5}X

Cevap

45X\frac{4}{5}X formundaki tahmin edici
Minimax tahmin edici, maksimum riski en küçük (minimize) yapan tahmin edicidir. Karesel hata kayıp fonksiyonu altında θ^c=cX\hat{\theta}_c = cX tahmin edicisinin riski (MSE) hesaplandığında R(θ,cX)=c2+θ2(1−c)2R(\theta, cX) = c^2 + \theta^2(1-c)^2 elde edilir. Parametre uzayı θ∈[−2,2]\theta \in [-2, 2] ile sınırlı olduğundan, bu risk fonksiyonu θ2=4\theta^2 = 4 noktasında en büyük değerini alır. Maksimum risk fonksiyonu g(c)=c2+4(1−c)2=5c2−8c+4g(c) = c^2 + 4(1-c)^2 = 5c^2 - 8c + 4 olarak yazılır. Bu ifadenin cc'ye göre birinci türevi alınıp sıfıra eşitlendiğinde (10c−8=010c - 8 = 0), maksimum riski minimize eden katsayı c=45c = \frac{4}{5} olarak bulunur.

Adım Adım Çözüm

1
Tahmin edici sınıfının risk fonksiyonunu R(θ,θ^c)=E[(cX−θ)2]R(\theta, \hat{\theta}_c) = E[(cX - \theta)^2] kuralına göre hesapla.
R(θ,cX)=Var(cX)+[Yan(cX)]2=c2Var(X)+(cθ−θ)2=c2(1)+θ2(c−1)2=c2+θ2(1−c)2R(\theta, cX) = \text{Var}(cX) + [\text{Yan}(cX)]^2 = c^2\text{Var}(X) + (c\theta - \theta)^2 = c^2(1) + \theta^2(c-1)^2 = c^2 + \theta^2(1-c)^2
Karesel hata kayıp fonksiyonu altında risk, Hata Kareler Ortalamasına (MSE) eşittir ve MSE her zaman varyans ile yanlılığın karesinin toplamıdır.
2
Verilen parametre aralığında (θ∈[−2,2]\theta \in [-2, 2]) hesaplanan risk fonksiyonunun alabileceği maksimum değeri bul.
0≤c≤10 \le c \le 1 olduğundan (1−c)2≥0(1-c)^2 \ge 0'dır ve risk fonksiyonu θ2\theta^2'nin artan bir fonksiyonudur. θ∈[−2,2]\theta \in [-2, 2] için max⁡(θ2)=4\max(\theta^2) = 4 olacağından, Maksimum Risk =c2+4(1−c)2= c^2 + 4(1-c)^2 elde edilir.
Minimax kuralı, önce her bir tahmin edici (cc değeri) için parametre uzayındaki 'en kötü durumu' (maksimum riski) bulmayı gerektirir.
3
Maksimum risk fonksiyonunu cc'ye göre minimize eden değeri türev yardımıyla bul.
g(c)=c2+4(1−c)2=5c2−8c+4g(c) = c^2 + 4(1-c)^2 = 5c^2 - 8c + 4. Türev alınarak: g′(c)=10c−8=0  ⟹  c=810=45g'(c) = 10c - 8 = 0 \implies c = \frac{8}{10} = \frac{4}{5} bulunur.
Minimax tahmin edici, maksimum riski en küçük yapan tahmin edicidir.

Anahtar Kavram

Sınırlı Parametre Uzayında Minimax Tahmin
Bu soruyu puanla

Konular

Kayıp Fonksiyonları, Risk ve Minimax Tahmin Ediciler

Bu konudan daha fazla soru