Examkin

Soru

Zorluk: OrtaBayes Tahmin Yöntemi ve Sonsal (Posterior) Dağılım
Bir büyükşehir belediyesi ulaşım planlama birimi, belirli bir bulvar üzerindeki ardışık iki trafik kazası arasındaki süreyi (hafta cinsinden) analiz etmektedir. Bu süre, θ\theta oran (rate) parametreli Üstel dağılıma uymakta olup, olasılık yoğunluk fonksiyonu şu şekildedir:
f(x∣θ)=θe−θx,x>0f(x|\theta) = \theta e^{-\theta x}, \quad x > 0
Planlama uzmanları geçmiş verilere dayanarak, bilinmeyen θ\theta parametresinin önsel (prior) dağılımını aşağıdaki olasılık yoğunluk fonksiyonu ile modellemiştir:
π(θ)=4θ2e−2θ,θ>0\pi(\theta) = 4\theta^2 e^{-2\theta}, \quad \theta > 0

Yapılan son gözlemlerde ardışık kazalar arasındaki süreler rastgele seçilen n=3n=3 durum için sırasıyla 22, 44 ve 33 hafta olarak ölçülmüştür.

Buna göre, karesel hata kayıp fonksiyonu (squared error loss) kullanıldığında θ\theta parametresinin Bayes tahmini aşağıdakilerden hangisidir?

  1. A
    13\frac{1}{3}
  2. B
    511\frac{5}{11}
  3. 611\frac{6}{11}Cevap
  4. D
    32\frac{3}{2}
  5. E
    116\frac{11}{6}

Cevap

Doğru cevap 611\frac{6}{11}'dir. Karesel hata kayıp fonksiyonunda tahmini değer, sonsal dağılımın ortalamasına eşittir.
Bayesyen parametre tahmininde önsel (prior) dağılım ve olabilirlik (likelihood) fonksiyonu çarpılarak sonsal (posterior) dağılım elde edilir. Önsel dağılım Gamma(3,2)Gamma(3, 2) ve 3 adet gözlemin toplamı 9 olan olabilirlik fonksiyonu birleştirildiğinde, sonsal dağılım parametreleri α′=3+3=6\alpha' = 3 + 3 = 6 ve β′=2+9=11\beta' = 2 + 9 = 11 olan Gamma(6,11)Gamma(6, 11) dağılımına dönüşür. Soru kökünde 'karesel hata kayıp fonksiyonu' istendiği için, bu dağılımın beklenen değeri (ortalaması) alınır: E[θ∣x]=α′β′=611E[\theta|\mathbf{x}] = \frac{\alpha'}{\beta'} = \frac{6}{11}.

Adım Adım Çözüm

1
Önsel (prior) dağılımın parametrelerini belirlemek.
Önsel dağılım π(θ)proptoθ2e−2θ\pi(\theta) propto \theta^2 e^{-2\theta} şeklindedir. Bu durum, α=3\alpha = 3 ve β=2\beta = 2 oran parametreli bir Gama dağılımına (Gamma(3,2)Gamma(3, 2)) karşılık gelir.
Gama dağılımının yoğunluk fonksiyonu f(θ)proptoθα−1e−βθf(\theta) propto \theta^{\alpha-1} e^{-\beta\theta} formatındadır. Buradan α−1=2⇒α=3\alpha-1=2 \Rightarrow \alpha=3 ve β=2\beta=2 elde edilir.
2
Örneklem verilerinden olabilirlik (likelihood) fonksiyonunu oluşturmak.
Gözlemler x1=2,x2=4,x3=3x_1=2, x_2=4, x_3=3 ve toplam ∑xi=9\sum x_i = 9 olmak üzere; L(θ∣x)=∏i=13θe−θxi=θ3e−9θL(\theta|\mathbf{x}) = \prod_{i=1}^3 \theta e^{-\theta x_i} = \theta^3 e^{-9\theta} bulunur.
Bağımsız üstel dağılımlı örneklemlerin ortak yoğunluk fonksiyonu, tekil olasılıkların çarpımıdır.
3
Bayes teoremini kullanarak sonsal (posterior) dağılımı türetmek.
Sonsal Dağılım ∝O¨nsel×Olabilirlik⇒(θ2e−2θ)×(θ3e−9θ)=θ5e−11θ\propto \text{Önsel} \times \text{Olabilirlik} \Rightarrow (\theta^2 e^{-2\theta}) \times (\theta^3 e^{-9\theta}) = \theta^5 e^{-11\theta}. Bu da α′=6\alpha' = 6 ve β′=11\beta' = 11 parametreli yeni bir Gama dağılımıdır.
Eşlenik (conjugate) önsel kullanıldığında sonsal dağılım da aynı aileden (Gama ailesinden) olur. Parametreler α′=α+n\alpha' = \alpha + n ve β′=β+∑xi\beta' = \beta + \sum x_i şeklinde güncellenir.
4
Kayıp fonksiyonuna uygun Bayes tahmin edicisini hesaplamak.
Karesel hata kayıp fonksiyonu için Bayes tahmini, sonsal dağılımın ortalamasıdır: E[θ∣x]=α′β′=611E[\theta|\mathbf{x}] = \frac{\alpha'}{\beta'} = \frac{6}{11}.
Karesel hatayı (MSE) minimize eden tahmin edici her zaman sonsal dağılımın beklenen değeridir (ortalamasıdır).

Anahtar Kavram

Bayes Tahmini ve Eşlenik Gama-Üstel Dağılımları

Alternatif Yöntem

Sonsal dağılım parametrelerini doğrudan formülle ezberlemek yerine her defasında f(θ∣x)∝π(θ)L(θ∣x)f(\theta|x) \propto \pi(\theta)L(\theta|x) bağıntısından eşleştirme yapmak, katsayı hatalarını önler.
Tahmini Süre:2m 0s
Bu soruyu puanla

Konular

Bayes Tahmin Yöntemi ve Sonsal (Posterior) Dağılım

Bu konudan daha fazla soru