Question

Difficulty: Very hardBayes Tahmin Yöntemi ve Sonsal (Posterior) Dağılım

Bir sistemde belirli bir zaman aralığında gerçekleşen olay sayısı, parametresi θ\theta olan Poisson dağılımına uymaktadır. θ\theta parametresinin önsel (prior) dağılımı, α,β>0\alpha, \beta > 0 olmak üzere aşağıdaki olasılık yoğunluk fonksiyonuna sahip Gamma dağılımı olarak verilmiştir:

π(θ)=βαΓ(α)θα1eβθ,θ>0 \pi(\theta) = \frac{\beta^\alpha}{\Gamma(\alpha)} \theta^{\alpha-1} e^{-\beta\theta}, \quad \theta > 0

Bu sistemden nn birimlik rastgele bir örneklem alınmış (X1,X2,,XnX_1, X_2, \dots, X_n) ve örneklem değerlerinin toplamı i=1nXi=y\sum_{i=1}^n X_i = y olarak elde edilmiştir.

Tahmin edici δ\delta olmak üzere, θ\theta parametresi için belirlenen kayıp fonksiyonu L(θ,δ)=θ(θδ)2L(\theta, \delta) = \theta (\theta - \delta)^2 şeklindedir.

Buna göre, verilen kayıp fonksiyonu altında θ\theta parametresinin Bayes tahmin edicisi aşağıdakilerden hangisidir?

  1. A
    α+yβ+n\frac{\alpha + y}{\beta + n}
  2. B
    α+y1β+n\frac{\alpha + y - 1}{\beta + n}
  3. C
    (α+y)(α+y+1)(β+n)2\frac{(\alpha + y)(\alpha + y + 1)}{(\beta + n)^2}
  4. α+y+1β+n\frac{\alpha + y + 1}{\beta + n}Answer
  5. E
    α+y+1β+1\frac{\alpha + y + 1}{\beta + 1}

Answer

α+y+1β+n\frac{\alpha + y + 1}{\beta + n}
Bayes tahmin edicisi, sonsal beklenen riski (E[L(θ,δ)X]E[L(\theta, \delta)|X]) minimize eden δ\delta değeridir. Verilen L(θ,δ)=θ(θδ)2L(\theta, \delta) = \theta(\theta - \delta)^2 kayıp fonksiyonu için riskin türevi alınıp sıfıra eşitlendiğinde optimum tahmin edici δ=E[θ2X]E[θX]\delta = \frac{E[\theta^2|X]}{E[\theta|X]} olarak bulunur. Poisson olabilirlik fonksiyonu ve Gamma önsel dağılımı çarpıldığında sonsal dağılım Gamma (α+y,β+n)(\alpha+y, \beta+n) olur. Bu dağılımın teorik momentleri formülde yerine konulduğunda, Bayes tahmin edicisi (α+y)(α+y+1)/(β+n)2(α+y)/(β+n)=α+y+1β+n\frac{(\alpha+y)(\alpha+y+1)/(\beta+n)^2}{(\alpha+y)/(\beta+n)} = \frac{\alpha+y+1}{\beta+n} olarak elde edilir.

Step-by-Step Solution

1
Olabilirlik fonksiyonu ile önsel dağılımı çarparak sonsal (posterior) dağılımı elde edin.
Poisson olabilirlik fonksiyonu L(θx)enθθxi=enθθyL(\theta|x) \propto e^{-n\theta} \theta^{\sum x_i} = e^{-n\theta} \theta^y ve Gamma önsel dağılımı π(θ)θα1eβθ\pi(\theta) \propto \theta^{\alpha-1} e^{-\beta\theta} çarpıldığında sonsal dağılım π(θx)θα+y1e(β+n)θ\pi(\theta|x) \propto \theta^{\alpha+y-1} e^{-(\beta+n)\theta} olur. Bu, Gamma (α+y,β+n)(\alpha+y, \beta+n) dağılımıdır.
Bayes teoremine göre sonsal dağılım, önsel dağılım ve olabilirlik fonksiyonunun çarpımıyla orantılıdır.
2
Verilen kayıp fonksiyonu için beklenen risk (expected risk) denklemini yazın.
Beklenen risk R(δ)=E[L(θ,δ)X]=E[θ(θδ)2X]=E[θ32δθ2+δ2θX]R(\delta) = E[L(\theta, \delta)|X] = E[\theta(\theta - \delta)^2 | X] = E[\theta^3 - 2\delta\theta^2 + \delta^2\theta | X] şeklindedir. Doğrusallık özelliğiyle: R(δ)=E[θ3X]2δE[θ2X]+δ2E[θX]R(\delta) = E[\theta^3|X] - 2\delta E[\theta^2|X] + \delta^2 E[\theta|X].
Bayes tahmin edicisi, seçilen kayıp fonksiyonunun sonsal dağılım altındaki beklenen değerini minimize eden δ\delta değeridir.
3
Risk fonksiyonunu δ\delta'ya göre minimize edin.
Risk fonksiyonunun δ\delta'ya göre birinci türevi alınıp sıfıra eşitlenir: dRdδ=2E[θ2X]+2δE[θX]=0\frac{d R}{d \delta} = -2E[\theta^2|X] + 2\delta E[\theta|X] = 0. Buradan optimum tahmin edici δ=E[θ2X]E[θX]\delta = \frac{E[\theta^2|X]}{E[\theta|X]} olarak bulunur.
Optimum değeri bulmak için fonksiyonun türevi alınıp kökleri incelenmelidir. İkinci türev 2E[θX]>02E[\theta|X] > 0 olduğundan bu nokta bir minimumdur.
4
Sonsal dağılımın momentlerini hesaplayarak tahmin ediciyi son haline getirin.
Gamma (α+y,β+n)(\alpha+y, \beta+n) dağılımı için E[θX]=α+yβ+nE[\theta|X] = \frac{\alpha+y}{\beta+n} ve E[θ2X]=(α+y)(α+y+1)(β+n)2E[\theta^2|X] = \frac{(\alpha+y)(\alpha+y+1)}{(\beta+n)^2} değerleri yerine yazıldığında; δ=(α+y)(α+y+1)/(β+n)2(α+y)/(β+n)=α+y+1β+n\delta = \frac{(\alpha+y)(\alpha+y+1)/(\beta+n)^2}{(\alpha+y)/(\beta+n)} = \frac{\alpha+y+1}{\beta+n} elde edilir.
Risk minimizasyonundan elde edilen oran, sonsal Gamma dağılımının bilinen moment özelliklerinin uygulanmasıyla analitik çözüme ulaştırır.

Key Concept

Özel Kayıp Fonksiyonları Altında Bayes Tahmin Edicisi ve Sonsal Risk Minimizasyonu
Rate this question