Examkin

Soru

Zorluk: Çok zorBayes Tahmin Yöntemi ve Sonsal (Posterior) Dağılım

Bir sistemin bozulma süresi XX, θ>0\theta > 0 parametreli üstel dağılıma sahip olup, olasılık yoğunluk fonksiyonu

f(x∣θ)=θe−θx,x>0f(x|\theta) = \theta e^{-\theta x}, \quad x > 0

şeklinde verilmiştir.

θ\theta parametresinin önsel (prior) dağılımı, α>1\alpha > 1 ve β>0\beta > 0 parametreli Gamma dağılımıdır:

π(θ)=βαΓ(α)θα−1e−βθ,θ>0\pi(\theta) = \frac{\beta^\alpha}{\Gamma(\alpha)} \theta^{\alpha-1} e^{-\beta \theta}, \quad \theta > 0

Sistemden nn hacimli bağımsız bir rastgele örneklem alınmış ve örneklem ortalaması Xˉ\bar{X} olarak hesaplanmıştır.

θ\theta parametresini tahmin etmek için, aşağıda verilen ağırlıklı karesel kayıp (weighted squared error loss) fonksiyonu kullanılacaktır:

L(θ,θ^)=(θ−θ^)2θL(\theta, \hat{\theta}) = \frac{(\theta - \hat{\theta})^2}{\theta}

Buna göre, θ\theta'nın Bayes tahmin edicisi aşağıdakilerden hangisidir?

  1. A
    n+αβ+nXˉ\frac{n+\alpha}{\beta + n\bar{X}}
  2. B
    n+α+1β+nXˉ\frac{n+\alpha+1}{\beta + n\bar{X}}
  3. C
    1Xˉ\frac{1}{\bar{X}}
  4. n+α−1β+nXˉ\frac{n+\alpha-1}{\beta + n\bar{X}}Cevap
  5. E
    n+αβ+Xˉ\frac{n+\alpha}{\beta + \bar{X}}

Cevap

Bayes tahmin edicisi, sonsal beklentiyi minimize eden n+α−1β+nXˉ\frac{n+\alpha-1}{\beta + n\bar{X}} ifadesidir.
Bayes tahmin edicisi, sonsal risk fonksiyonunu (beklenen kaybı) minimize eden değerdir. Verilen kayıp fonksiyonu L(θ,θ^)=θ−2θ^+θ^2θL(\theta, \hat{\theta}) = \theta - 2\hat{\theta} + \frac{\hat{\theta}^2}{\theta} olarak yazılabilir. Bu ifadenin sonsal beklenen değeri alınıp θ^\hat{\theta}'ya göre türevi sıfıra eşitlendiğinde Bayes tahmin edicisi θ^B=1/E[θ−1∣x]\hat{\theta}_{B} = 1 / E[\theta^{-1}|\mathbf{x}] olarak bulunur. Üstel dağılımdan elde edilen olabilirlik fonksiyonu ile Gamma önsel dağılımı çarpıldığında, sonsal dağılım Gamma(n+α,β+nXˉ)\text{Gamma}(n+\alpha, \beta+n\bar{X}) olarak elde edilir. Bir Gamma dağılımı için θ−1\theta^{-1}'in beklenen değeri λ/(k−1)\lambda / (k-1) olduğundan, k=n+αk=n+\alpha ve λ=β+nXˉ\lambda=\beta+n\bar{X} yerine yazıldığında doğru yanıt n+α−1β+nXˉ\frac{n+\alpha-1}{\beta+n\bar{X}} elde edilir.

Adım Adım Çözüm

1
Olabilirlik fonksiyonunu ve önsel dağılımı çarparak sonsal (posterior) dağılımı belirle.
L(θ∣x)=θne−θnXˉL(\theta|\mathbf{x}) = \theta^n e^{-\theta n\bar{X}} ve π(θ)∝θα−1e−βθ\pi(\theta) \propto \theta^{\alpha-1} e^{-\beta \theta} olduğundan, π(θ∣x)∝θn+α−1e−θ(β+nXˉ)\pi(\theta|\mathbf{x}) \propto \theta^{n+\alpha-1} e^{-\theta(\beta + n\bar{X})}. Sonsal dağılım Gamma(n+α,β+nXˉ)\text{Gamma}(n+\alpha, \beta+n\bar{X}) bulunur.
Bayes teoremine göre sonsal dağılım, olabilirlik fonksiyonu ile önsel dağılımın çarpımıyla orantılıdır.
2
Verilen kayıp fonksiyonunun sonsal riskini (beklenen değerini) yaz.
E[L(θ,θ^)∣x]=E[θ−2θ^+θ^2θ∣x]=E[θ∣x]−2θ^+θ^2E[θ−1∣x]E[L(\theta, \hat{\theta})|\mathbf{x}] = E\left[\theta - 2\hat{\theta} + \frac{\hat{\theta}^2}{\theta} \Big| \mathbf{x}\right] = E[\theta|\mathbf{x}] - 2\hat{\theta} + \hat{\theta}^2 E[\theta^{-1}|\mathbf{x}]
Bayes tahmin edicisi, sonsal risk fonksiyonunu minimize eden değer olarak tanımlanır.
3
Sonsal riski θ^\hat{\theta}'ya göre minimize et.
Türev alınıp sıfıra eşitlendiğinde: −2+2θ^E[θ−1∣x]=0  ⟹  θ^B=1E[θ−1∣x]-2 + 2\hat{\theta} E[\theta^{-1}|\mathbf{x}] = 0 \implies \hat{\theta}_B = \frac{1}{E[\theta^{-1}|\mathbf{x}]}
Minimum noktası, birinci türevin sıfır olduğu değerdir.
4
E[θ−1∣x]E[\theta^{-1}|\mathbf{x}] değerini hesapla ve Bayes tahmin edicisini bul.
Bir Gamma(k,λ)\text{Gamma}(k, \lambda) dağılımında E[θ−1]=λk−1E[\theta^{-1}] = \frac{\lambda}{k-1}'dir. Formülde k=n+αk=n+\alpha ve λ=β+nXˉ\lambda=\beta+n\bar{X} yazıldığında sonuç n+α−1β+nXˉ\frac{n+\alpha-1}{\beta+n\bar{X}} olarak bulunur.
Bulunan ters beklenen değer (inverse moment), minimizasyon sonucu elde edilen formülde yerine yazılır.

Anahtar Kavram

Bayes Risk Minimizasyonu ve Sonsal Dağılım Momentleri
Bu soruyu puanla

Konular

Bayes Tahmin Yöntemi ve Sonsal (Posterior) Dağılım

Bu konudan daha fazla soru