Bayes Tahmin Yöntemi ve Sonsal (Posterior) Dağılım Practice Questions — KPSS İstatistik

Question 1Question →

Bir malzeme bilimcisi, yeni üretilen sentetik bir elyafın çekme mukavemetini ölçmektedir. Çekme mukavemeti değerlerinin ( $X$ ), ortalaması bilinmeyen $\theta$ ve varyansı $\sigma^2 = 16$ olan normal dağılıma sahip olduğu varsayılmaktadır.

Benzer elyaflar üzerinde yapılan önceki çalışmalara dayanarak, $\theta$ parametresinin önsel (prior) dağılımının, ortalaması $\mu = 10$ ve varyansı $\tau^2 = 4$ olan bir normal dağılım olduğu modellenmiştir.

Bilim insanı, yeni elyaftan rastgele seçilen $n = 5$ adet numuneyi test etmiş ve örneklem ortalamasını $\bar{x} = 28$ olarak hesaplamıştır.

Buna göre, karesel hata kayıp fonksiyonu (squared error loss) altında $\theta$ parametresinin Bayes tahmini aşağıdakilerden hangisidir?

13,6

18

19

20

28

Show answer & explanation

Answer: 20

Answer

Doğru yanıt 20 değerini gösteren seçenektir.

Karesel hata kayıp fonksiyonunda Bayes tahmini, sonsal (posterior) dağılımın beklenen değeridir. Verilen Normal-Normal modelinde hassasiyet ağırlıklı formül kullanıldığında,

(5 \cdot 4 \cdot 28 + 16 \cdot 10) / (5 \cdot 4 + 16) = 720 / 36 = 20

sonucu doğru yanıttır.

Step-by-Step Solution

1

Kayıp fonksiyonuna göre Bayes tahmin edicisinin formunu belirlemek.

Karesel hata kayıp fonksiyonu kullanıldığında Bayes tahmini, sonsal (posterior) dağılımın beklenen değeridir (

E[\theta | x]

).

Sonsal risk fonksiyonunu minimize eden tahmin edici, karesel kayıp için sonsal dağılımın ortalamasıdır.

2

Normal-Normal eşlenik (conjugate) modeli için sonsal beklenen değer formülünü belirlemek.

Sonsal beklenen değer formülü:

\mu_{post} = \frac{n \tau^2 \bar{x} + \sigma^2 \mu}{n \tau^2 + \sigma^2}

Varyansı bilinen normal kitle ve normal önsel dağılım varsayımı altında, sonsal dağılım da normaldir ve beklenen değeri (ortalaması) bu şekilde hesaplanır.

3

Verilen parametreleri formülde yerine koyarak matematiksel işlemi tamamlamak.

\mu_{post} = \frac{5 \cdot 4 \cdot 28 + 16 \cdot 10}{5 \cdot 4 + 16} = \frac{560 + 160}{36} = \frac{720}{36} = 20

Değerlerin formüle yerleştirilmesiyle nihai Bayes tahminine ulaşılır.

Key Concept

Normal-Normal Eşlenik Modelinde Sonsal Beklenen Değer

Question 2Question →

Bir üretim sürecinde belirli bir makinenin hatalı ürün üretme olasılığı $\theta$ olarak tanımlanmıştır. Geçmiş tecrübelere dayanarak, $\theta$ parametresinin önsel (prior) dağılımının $\alpha=2$ ve $\beta=2$ parametreli Beta dağılımı olduğu varsayılmaktadır.

Bu makinenin ürettiği ürünler arasından rastgele seçilen 6 üründen 1 tanesinin hatalı olduğu gözlemlenmiştir.

Buna göre, karesel hata kayıp fonksiyonu (squared error loss) kullanıldığında $\theta$ parametresi için Bayes tahmin edicisinin değeri aşağıdakilerden hangisidir?

\frac{3}{10}

\frac{1}{6}

\frac{1}{4}

\frac{7}{10}

\frac{1}{2}

Show answer & explanation

Answer: $\frac{3}{10}$

Answer

Bayes tahmin edicisi, karesel hata kayıp fonksiyonu altında sonsal dağılımın beklenen değerine eşit olduğundan

\frac{3}{10}

olarak bulunur.

Karesel hata kayıp (squared error loss) fonksiyonu altında parametrenin Bayes tahmin edicisi, sonsal (posterior) dağılımın beklenen değerine (ortalamasına) eşittir. Önsel dağılım

Beta(2, 2)

ve olabilirlik fonksiyonu

Binomial(n=6, x=1)

olduğunda, sonsal dağılım Beta-Binom eşleniği (conjugate) özelliğinden dolayı

Beta(2+1, 2+6-1) = Beta(3, 7)

olarak güncellenir.

Beta(a, b)

dağılımının beklenen değeri

a / (a+b)

'dir. Bu nedenle

\theta

için Bayes tahmin edicisi

\frac{3}{3+7} = \frac{3}{10}

olarak hesaplanır.

Step-by-Step Solution

1

Önsel (prior) dağılımı ve parametrelerini belirle.

\theta \sim Beta(\alpha=2, \beta=2)

Sonsal dağılımı bulmak için başlangıç parametrelerine ihtiyaç vardır.

2

Olabilirlik (likelihood) fonksiyonu için örneklem bilgisini özetle.

n=6

denemede

x=1

başarılı (hatalı) ürün gözlemlenmiştir. Dağılım Binom'dur.

Örneklem verisi önsel dağılımı güncellemek için kullanılacaktır.

3

Sonsal (posterior) dağılımı hesapla.

Beta-Binom eşleniği özelliğinden sonsal dağılım

Beta(\alpha+x, \beta+n-x) = Beta(2+1, 2+6-1) = Beta(3, 7)

olur.

Bayes tahmin edicisi sonsal dağılım üzerinden elde edilir.

4

Kayıp fonksiyonuna uygun istatistiği belirle ve hesapla.

Karesel hata kayıp fonksiyonu, sonsal dağılımın beklenen değerini (ortalama) gerektirir.

E(\theta|X) = \frac{\alpha^*}{\alpha^* + \beta^*} = \frac{3}{3+7} = \frac{3}{10}

.

Karesel hata kayıplarında riski minimize eden tahmin edici sonsal ortalamadır.

Key Concept

Bayes Tahmin Yöntemi ve Karesel Hata Kayıp Fonksiyonu

Question 3Question →

Bir çağrı merkezine belirli bir saat diliminde gelen müşteri şikayetlerinin sayısı, $\theta$ parametreli Poisson dağılımına uymaktadır. Çağrı merkezi yöneticisi, $\theta$ parametresinin önsel (prior) dağılımının olasılık yoğunluk fonksiyonunu;

f(\theta) = \frac{2^3}{\Gamma(3)} \theta^{3-1} e^{-2\theta}, \quad \theta > 0

olarak belirlemiştir. Rastgele seçilen 3 farklı günde söz konusu saat diliminde sırasıyla 2, 4 ve 3 şikayet gelmiştir.

Yönetici, $\theta$ parametresini tahmin etmek için aşağıdaki ağırlıklandırılmış karesel hata kayıp fonksiyonunu kullanmaktadır:

L(\theta, \delta) = \theta (\theta - \delta)^2

Buna göre, $\theta$ parametresinin Bayes tahmini aşağıdakilerden hangisidir?

\frac{11}{5}

\frac{12}{5}

\frac{13}{5}

\frac{14}{5}

3

Show answer & explanation

Answer: $\frac{13}{5}$

Answer

Ağırlıklı karesel hata kayıp fonksiyonunu minimize eden Bayes tahmini

\frac{13}{5}

olarak bulunur.

Verilen ağırlıklı karesel hata kayıp fonksiyonu

L(\theta, \delta) = \theta (\theta - \delta)^2

, riski minimize etmek için beklenen değeri alındığında

\delta

değişkenine göre türevi sıfıra eşitlenen bir yapı oluşturur. Türev alındığında

\delta = E[\theta^2|X] / E[\theta|X]

denklemi ortaya çıkar.

\theta \sim Gamma(12, 5)

sonsal dağılımı için bu oran

(156/25) / (12/5) = 13/5

olarak hesaplanır ve doğru tahmini verir.

Step-by-Step Solution

1

Önsel (prior) dağılımın ve örneklem bilgisinin (olabilirlik) tanımlanması.

Önsel dağılım:

\theta \sim Gamma(\alpha=3, \beta=2)

. Örneklem:

n=3

ve toplam gözlem

S = \sum x_i = 2 + 4 + 3 = 9

.

Poisson dağılımı için Gamma dağılımı eşlenik (conjugate) önsel dağılımdır.

2

Sonsal (posterior) dağılımın parametrelerinin hesaplanması.

Sonsal dağılım:

\theta|X \sim Gamma(\alpha + S, \beta + n) \implies Gamma(3+9, 2+3) = Gamma(12, 5)

.

Eşlenik dağılım kuralına göre önsel parametreleri örneklem istatistikleriyle güncellenir.

3

Verilen kayıp fonksiyonuna göre Bayes riskinin minimize edilmesi.

E[L(\theta, \delta)|X] = E[\theta^3 - 2\delta\theta^2 + \delta^2\theta | X]

fonksiyonunun

\delta

'ya göre türevi alınıp sıfıra eşitlenir:

-2E[\theta^2|X] + 2\delta E[\theta|X] = 0 \implies \delta^* = \frac{E[\theta^2|X]}{E[\theta|X]}

.

Bayes tahmin edicisi, beklenen sonsal kaybı (risk fonksiyonunu) minimize eden değerdir.

4

Sonsal dağılımın momentleri kullanılarak oranın hesaplanması.

Gamma(A, B)

için

E[\theta] = \frac{A}{B}

ve

E[\theta^2] = \frac{A(A+1)}{B^2}

formülleriyle

\delta^* = \frac{12 \times 13 / 25}{12 / 5} = \frac{13}{5}

bulunur.

Beklenen değerleri yerine koyarak matematiksel işlemi sonuçlandırmak.

Key Concept

Bayes Nokta Tahmini ve Risk Fonksiyonunun Optimizasyonu

Question 4Question →

Bir kamu kurumunda sunulan belirli bir elektronik hizmetin tamamlanma süresi (gün olarak) $U(0, \theta)$ sürekli birörnek (üniform) dağılımına uymaktadır. Kurum, bu hizmete ait rastgele seçilmiş $n$ adet işlemden oluşan $X_1, X_2, \dots, X_n$ örneklemine sahiptir.

Hizmet süresinin teorik üst sınırı olan $\theta$ parametresi bilinmemekte olup, uzman görüşleri doğrultusunda $\theta$ 'nın önsel (prior) dağılımı aşağıdaki olasılık yoğunluk fonksiyonuna sahip Pareto dağılımı olarak modellenmiştir:

\pi(\theta) = \frac{\alpha x_0^\alpha}{\theta^{\alpha+1}}, \quad \theta \ge x_0 > 0

Buna göre, karesel hata kayıp fonksiyonu (squared error loss) kullanıldığında $\theta$ parametresinin Bayes tahmin edicisi aşağıdakilerden hangisidir?
(Not: $X_{(n)} = \max(X_1, X_2, \dots, X_n)$ örneklem maksimumunu göstermektedir ve $\alpha + n > 1$ varsayılacaktır.)

\frac{\alpha + n}{\alpha + n - 1} \max(x_0, X_{(n)})

\frac{\alpha + n - 1}{\alpha + n} \max(x_0, X_{(n)})

\frac{\alpha}{\alpha - 1} \max(x_0, X_{(n)})

\frac{\alpha + n + 1}{\alpha + n} \max(x_0, X_{(n)})

\frac{\alpha + n}{\alpha + n - 1} X_{(n)}

Show answer & explanation

Answer: $\frac{\alpha + n}{\alpha + n - 1} \max(x_0, X_{(n)})$

Answer

Karesel hata kayıp fonksiyonu altında Bayes tahmin edicisi sonsal dağılımın beklenen değerine eşittir ve bu değer

\frac{\alpha + n}{\alpha + n - 1} \max(x_0, X_{(n)})

olarak bulunur.

Karesel hata kayıp fonksiyonu (squared error loss) altında Bayes tahmin edicisi, sonsal (posterior) dağılımın beklenen değeridir.

U(0, \theta)

dağılımı için olabilirlik fonksiyonu

L(\theta|X) \propto \theta^{-n} I(\theta \ge X_{(n)})

şeklindedir. Önsel dağılım olan Pareto dağılımı

\pi(\theta) \propto \theta^{-(\alpha+1)} I(\theta \ge x_0)

ile çarpıldığında sonsal dağılım

\pi(\theta|X) \propto \theta^{-(n+\alpha+1)} I(\theta \ge \max(x_0, X_{(n)}))

elde edilir. Bu ifade, şekil parametresi

\alpha + n

ve alt sınır parametresi

\max(x_0, X_{(n)})

olan yeni bir Pareto dağılımını belirtir. Pareto

(\alpha^*, y)

dağılımının beklenen değeri

\frac{\alpha^*}{\alpha^* - 1} y

olduğundan, doğru cevap

\frac{\alpha + n}{\alpha + n - 1} \max(x_0, X_{(n)})

olarak bulunur.

Step-by-Step Solution

1

Olabilirlik (likelihood) fonksiyonunu oluşturmak.

L(\theta|X) = \frac{1}{\theta^n} I(\theta \ge X_{(n)})

Uniform dağılımda

n

hacimli örneklemin ortak olasılık yoğunluk fonksiyonu, örneklem maksimumunun

\theta

'dan küçük veya eşit olması koşuluna bağlıdır.

2

Sonsal (posterior) dağılımı elde etmek için önsel dağılım ile olabilirlik fonksiyonunu çarpmak.

\pi(\theta|X) \propto \frac{1}{\theta^n} I(\theta \ge X_{(n)}) \cdot \frac{\alpha x_0^\alpha}{\theta^{\alpha+1}} I(\theta \ge x_0) \propto \frac{1}{\theta^{n+\alpha+1}} I(\theta \ge \max(x_0, X_{(n)}))

Bayes teoremine göre sonsal dağılım, olabilirlik fonksiyonu ile önsel dağılımın çarpımı ile orantılıdır. İki alt sınır koşulu birleşerek

\max(x_0, X_{(n)})

sınırını oluşturur.

3

Sonsal dağılımın türünü ve parametrelerini belirlemek.

Sonsal dağılım, şekil parametresi

\alpha^* = \alpha + n

ve ölçek (alt sınır) parametresi

y = \max(x_0, X_{(n)})

olan Pareto dağılımıdır.

Elde edilen ifade, Pareto(

\alpha^*, y

) dağılımının olasılık yoğunluk fonksiyonu yapısına birebir uymaktadır.

4

Karesel hata kayıp fonksiyonu için Bayes tahmin edicisini hesaplamak.

E[\theta|X] = \frac{\alpha^*}{\alpha^* - 1} y = \frac{\alpha + n}{\alpha + n - 1} \max(x_0, X_{(n)})

Karesel hata kayıp fonksiyonu (squared error loss) altında Bayes tahmin edicisi, sonsal dağılımın beklenen değeridir.

Key Concept

Pareto Önsel Dağılımı ile Uniform Dağılımın Sonsal Dağılımı ve Bayes Tahmin Edicisi

Question 5Question →

Bir gümrük müdürlüğünde incelenen belirli bir ürün grubuna ait beyannamelerdeki hata oranı $\theta$ parametresi ile ifade edilmektedir. Uzmanlar, geçmiş verilere dayanarak $\theta$ parametresinin önsel (prior) dağılımının $\alpha=2$ ve $\beta=2$ parametreli Beta dağılımına uyduğunu varsaymaktadır.

Rastgele seçilen $4$ beyanname incelendiğinde, sadece $1$ beyannamede hata tespit edilmiştir. Kurum, hata sürecindeki belirsizliği ölçmek amacıyla $g(\theta) = \theta(1-\theta)$ fonksiyonunun karesel hata (squared error) kayıp fonksiyonu altındaki Bayes tahmin edicisini elde etmek istemektedir.

Buna göre, $g(\theta)$ fonksiyonunun Bayes tahmini aşağıdakilerden hangisidir?

\frac{15}{64}

\frac{2}{9}

\frac{5}{24}

\frac{3}{16}

\frac{1}{4}

Show answer & explanation

Answer: $\frac{5}{24}$

Answer

Bayes tahmini, karesel hata kayıp fonksiyonu altında parametrenin sonsal (posterior) beklenen değerine eşittir. Sonuç

\frac{5}{24}

olarak bulunur.

Karesel hata (squared error) kayıp fonksiyonu kullanıldığında, herhangi bir

g(\theta)

fonksiyonunun Bayes tahmini, o fonksiyonun sonsal dağılım altındaki beklenen değeridir (

E[g(\theta)|X]

). Beta(2,2) önsel dağılımı ve 4 denemede 1 başarı veren Binom olabilirlik fonksiyonu birleştirildiğinde sonsal dağılım Beta(3,5) olur. Bu dağılım altında

E[\theta(1-\theta)|X]

değeri, Beta dağılımının moment özellikleri gereği

\frac{3 \times 5}{(3+5)(3+5+1)} = \frac{15}{72} = \frac{5}{24}

olarak hesaplanır.

Step-by-Step Solution

1

Önsel dağılım ve olabilirlik fonksiyonunu belirle.

Önsel dağılım

\theta \sim Beta(2,2)

'dir.

n=4

denemede

x=1

başarı gözlendiği için olabilirlik fonksiyonu

L(\theta) \propto \theta^1 (1-\theta)^3

şeklindedir.

Sonsal dağılımı bulmak için Bayes teoremi gereği önsel dağılım ile olabilirlik fonksiyonu çarpılmalıdır.

2

Sonsal (posterior) dağılımı elde et.

f(\theta|X) \propto \theta^{2-1}(1-\theta)^{2-1} \cdot \theta^1(1-\theta)^3 = \theta^{3-1}(1-\theta)^{5-1}

. Buradan sonsal dağılımın

Beta(3, 5)

olduğu görülür.

Eşlenik (conjugate) önsel kullanıldığından,

Beta(\alpha, \beta)

ile Binom çarpımı

Beta(\alpha+x, \beta+n-x)

dağılımını verir.

3

Karesel hata kayıp fonksiyonu için Bayes tahmin edicisinin kuralını uygula.

Karesel hata kayıp fonksiyonu altında

g(\theta)

fonksiyonunun Bayes tahmin edicisi,

g(\theta)

'nın sonsal beklenen değeridir:

\hat{g}_{Bayes} = E[\theta(1-\theta)|X]

.

Parametrenin kendisinin değil, lineer olmayan bir fonksiyonunun (

g(\theta)

) tahmini istenmektedir.

E[g(\theta)] \neq g(E[\theta])

eşitsizliği dikkate alınmalıdır.

4

Beta(3,5)

dağılımı altında beklenen değeri hesapla.

E[\theta(1-\theta)|X] = \int_0^1 \theta(1-\theta) \frac{\theta^{3-1}(1-\theta)^{5-1}}{B(3,5)} d\theta = \frac{B(4,6)}{B(3,5)} = \frac{\Gamma(4)\Gamma(6)/\Gamma(10)}{\Gamma(3)\Gamma(5)/\Gamma(8)} = \frac{3 \times 5}{8 \times 9} = \frac{15}{72} = \frac{5}{24}

.

Beta(\alpha^*, \beta^*)

dağılımında

E[\theta(1-\theta)] = \frac{\alpha^* \beta^*}{(\alpha^*+\beta^*)(\alpha^*+\beta^*+1)}

formülüyle integral doğrudan çözülebilir.

Key Concept

Bayes Tahmin Yöntemi (Karesel Hata Kayıp Fonksiyonu ve Parametrik Fonksiyonların Tahmini)

Question 6Question →

Bir üretim hattında üretilen elektronik parçaların kalite kontrol sürecinde, ilk kusurlu parça bulunana kadar incelenen toplam parça sayısı

X

rassal değişkeni ile modellenmektedir.

X

değişkeninin, kusurlu parça bulma olasılığı

p

olan Geometrik dağılıma sahip olduğu bilinmektedir:

f(x|p) = p(1-p)^{x-1}, \quad x = 1, 2, 3, \dots

Kalite kontrol uzmanı, $p$ parametresi için $\alpha=2$ ve $\beta=3$ parametreli Beta dağılımını önsel (prior) dağılım olarak belirlemiştir.
Rastgele seçilen 4 farklı denetim sürecinde, ilk kusurlu parça bulunana kadar sırasıyla 3, 5, 4 ve 2 adet parça incelenmiştir.

Uzman, $p$ parametresini tahmin etmek için $L(p, \hat{p}) = \frac{(p - \hat{p})^2}{p}$ biçimindeki ağırlıklı karesel hata kayıp fonksiyonunu kullanmaktadır.

Buna göre, $p$ parametresinin Bayes tahmin edicisi aşağıdakilerden hangisidir?

\frac{6}{19}

\frac{2}{7}

\frac{5}{18}

\frac{5}{22}

\frac{7}{20}

Show answer & explanation

Answer: $\frac{5}{18}$

Answer

Doğru yanıt

\frac{5}{18}

'dir.

Verilen Geometrik dağılım ve Beta önseli için sonsal dağılım

\text{Beta}(6, 13)

olarak elde edilir. Kullanılan ağırlıklı karesel hata kayıp fonksiyonu

L(p, \hat{p}) = p^{-1}(p - \hat{p})^2

formunda olduğundan, riski minimize eden Bayes tahmin edicisi

\hat{p}_B = \frac{E[p \cdot p^{-1}|x]}{E[p^{-1}|x]} = \frac{1}{E[p^{-1}|x]}

şeklinde hesaplanır.

\text{Beta}(6, 13)

dağılımı için

E[p^{-1}|x] = \frac{6+13-1}{6-1} = \frac{18}{5}

bulunur. Bu değerin tersi alındığında sonuç

\frac{5}{18}

çıkmaktadır.

Step-by-Step Solution

1

Önsel (prior) dağılım ve olabilirlik (likelihood) fonksiyonunu belirle.

Önsel:

\pi(p) \propto p^{2-1}(1-p)^{3-1} = p(1-p)^2

Olabilirlik (

n=4

gözlem,

\sum x_i = 14

):

L(p|x) = \prod_{i=1}^4 p(1-p)^{x_i-1} = p^4(1-p)^{14-4} = p^4(1-p)^{10}

Sonsal (posterior) dağılımı elde etmek için Bayes teoremi gereği önsel dağılım ile olabilirlik fonksiyonu çarpılmalıdır.

2

Sonsal dağılımı hesapla.

\pi(p|x) \propto p(1-p)^2 \cdot p^4(1-p)^{10} = p^5(1-p)^{12}

Bu ifade,

\alpha^*=6

ve

\beta^*=13

parametreli Beta(6, 13) dağılımının çekirdeğidir.

Bayes tahmin edicisi, sonsal dağılım üzerinden hesaplanacak beklenen değere dayanır.

3

Verilen ağırlıklı karesel hata kayıp fonksiyonu için Bayes tahmin edicisi formülünü uygula.

L(p, \hat{p}) = p^{-1}(p - \hat{p})^2

formunda olduğundan, problemi minimize eden Bayes tahmin edicisi formülü

\hat{p}_B = \frac{E[p \cdot w(p)|x]}{E[w(p)|x]}

yapısından hareketle

\hat{p}_B = \frac{E[p \cdot p^{-1}|x]}{E[p^{-1}|x]} = \frac{1}{E[p^{-1}|x]}

olarak bulunur.

Ağırlıklı karesel hata fonksiyonlarında, riski minimize eden tahmin edici ilgili ağırlık fonksiyonu oranı ile bulunur.

4

Sonsal dağılım üzerinden

E[p^{-1}|x]

değerini hesapla ve tahmin ediciyi bul.

X \sim \text{Beta}(\alpha, \beta)

için

E[X^{-1}] = \frac{\alpha+\beta-1}{\alpha-1}

'dir.

\text{Beta}(6, 13)

için

E[p^{-1}|x] = \frac{6+13-1}{6-1} = \frac{18}{5}

bulunur.
Tahmin edici:

\hat{p}_B = \frac{1}{18/5} = \frac{5}{18}

Beta dağılımının moment özellikleri kullanılarak integral kolayca hesaplanır ve nihai sonuç elde edilir.

Key Concept

Bayes Tahmin Yöntemi ve Ağırlıklı Karesel Hata Kayıp Fonksiyonu

Estimated Time:2m 30s

Question 7Question →

Bir tarım il müdürlüğünde görevli ziraat mühendisi, belirli bir tarım arazisinde metrekareye düşen zararlı böcek sayısını ( $X$ ) modellemektedir. Zararlı böcek sayısının $\theta$ parametreli Poisson dağılımına uyduğu varsayılmaktadır.

Geçmiş yıllara ait veriler incelendiğinde, $\theta$ parametresinin önsel (prior) dağılımının $\alpha=4$ ve $\beta=2$ parametreli Gamma dağılımı olduğu belirlenmiştir. (Gamma dağılımının olasılık yoğunluk fonksiyonu $f(\theta) = \frac{\beta^\alpha}{\Gamma(\alpha)} \theta^{\alpha-1} e^{-\beta\theta}, \theta > 0$ olarak verilmektedir.)

Mühendis, araziden rastgele seçilen $n=5$ farklı metrekarelik alanda yaptığı sayımlarda sırasıyla $2, 4, 3, 2$ ve $5$ adet zararlı böcek tespit etmiştir.

Tahmin işleminde kullanılacak kayıp fonksiyonu $L(\theta, \delta) = \theta(\theta - \delta)^2$ olarak belirlendiğine göre, $\theta$ parametresi için Bayes tahmin edicisinin aldığı değer aşağıdakilerden hangisidir?

3

\frac{20}{7}

\frac{19}{7}

\frac{16}{5}

\frac{5}{2}

Show answer & explanation

Answer: $3$

Answer

Bayes tahmin edicisi

3

olarak bulunur.

Bayes tahmin edicisi, verilen kayıp fonksiyonunun sonsal (posterior) beklenen değerini minimize eden tahmin edicidir. Sonsal dağılım, önsel (prior) Gamma(4, 2) ve olabilirlik Poisson(16, 5) fonksiyonlarının çarpımı ile Gamma(20, 7) olarak bulunur. Soruda verilen ağırlıklı karesel kayıp fonksiyonu

L(\theta, \delta) = \theta(\theta - \delta)^2

için beklenen risk

\delta

'ya göre minimize edildiğinde Bayes tahmin edicisi genel formülü

\delta = \frac{E[\theta^2|x]}{E[\theta|x]}

olarak elde edilir. Gamma(20, 7) dağılımının özellikleri (

E[\theta]=\frac{\alpha}{\beta}

ve

E[\theta^2]=\frac{\alpha(\alpha+1)}{\beta^2}

) kullanıldığında sonuç

\frac{21}{7} = 3

olarak bulunur.

Step-by-Step Solution

1

Olabilirlik fonksiyonunun ve önsel dağılımın belirlenmesi.

Olabilirlik:

L(\theta|x) \propto \theta^{\sum x_i} e^{-n\theta} = \theta^{16} e^{-5\theta}

. Önsel:

\pi(\theta) \propto \theta^{\alpha-1} e^{-\beta\theta} = \theta^{3} e^{-2\theta}

.

Sonsal dağılımı bulmak için Bayes teoremi gereği olabilirlik fonksiyonu ile önsel dağılım çarpılmalıdır.

2

Sonsal (posterior) dağılımın hesaplanması.

\pi(\theta|x) \propto L(\theta|x) \pi(\theta) = \theta^{19} e^{-7\theta}

. Bu ifade,

\alpha_{post}=20

ve

\beta_{post}=7

parametreli Gamma dağılımının çekirdeğidir.

Sonsal dağılım, Bayes parametre tahmininde kullanılacak temel dağılımdır.

3

Verilen kayıp fonksiyonu altında Bayes tahmin edicisi formülünün türetilmesi.

L(\theta, \delta) = \theta(\theta - \delta)^2

için beklenen kayıp

E[L|x] = E[\theta^3 - 2\delta\theta^2 + \delta^2\theta | x]

olur. Bu ifadenin

\delta

'ya göre türevi alınıp sıfıra eşitlendiğinde

\delta = \frac{E[\theta^2|x]}{E[\theta|x]}

elde edilir.

Bayes tahmin edicisi, sonsal beklenen kaybı (riski) en küçük yapan

\delta

değeridir.

4

Gamma dağılımının momentlerini kullanarak tahmin edicinin sayısal olarak hesaplanması.

Gamma(20, 7)

dağılımı için

E[\theta|x] = \frac{20}{7}

ve

E[\theta^2|x] = \frac{20 \times 21}{7^2}

'dir. Formülde yerine konulduğunda

\delta = \frac{20 \times 21 / 49}{20 / 7} = \frac{21}{7} = 3

bulunur.

Sonsal dağılımın momentleri türetilen formülde kullanılarak nihai nokta tahmini elde edilir.

Key Concept

Bayes Tahmin Yöntemi ve Ağırlıklı Kayıp Fonksiyonları

Estimated Time:2m 30s

Question 8Question →

Bir sigorta şirketinde çalışan aktüer, belirli bir poliçe türü için günlük gelen hasar taleplerinin sayısının ( $X$ ), $\theta$ parametreli Poisson dağılımına uyduğunu varsaymaktadır. Aktüerin $\theta$ parametresi hakkındaki önsel (prior) bilgisi, şekil parametresi $\alpha = 4$ ve oran (rate) parametresi $\beta = 2$ olan Gamma dağılımı ile ifade edilmektedir.

Rastgele seçilen $n=3$ günlük bir dönemde gelen hasar talepleri sırasıyla $5$ , $4$ ve $6$ olarak gözlemlenmiştir.

Buna göre, aktüerin "sıfır-bir (zero-one) kayıp fonksiyonu" kullandığı varsayıldığında $\theta$ parametresinin Bayes tahmin edicisi aşağıdakilerden hangisidir?

(Not: Şekil parametresi $\alpha$ ve oran parametresi $\beta$ olan Gamma dağılımının olasılık yoğunluk fonksiyonu $f(x) = \frac{\beta^\alpha}{\Gamma(\alpha)} x^{\alpha-1} e^{-\beta x}, x>0$ şeklindedir.)

3,6

3,8

5,0

3,0

4,0

Show answer & explanation

Answer: $3,6$

Answer

Sıfır-bir kayıp fonksiyonu altında Bayes tahmin edicisi sonsal (posterior) dağılımın moduna eşittir ve bu değer

3,6

'dır.

Doğru yanıt olan

3,6

,

\alpha=19

ve

\beta=5

parametrelerine sahip sonsal Gamma dağılımının mod değeridir. Sürekli parametre uzaylarında sıfır-bir kayıp fonksiyonu (zero-one loss), sonsal riski minimize etmek için sonsal dağılım olasılığının en yüksek olduğu noktayı, yani MAP (Maximum A Posteriori) tahmin edicisi olan modu seçer. Bu soruda Gamma(19, 5) dağılımının modu

(19-1)/5 = 3,6

'dır.

Step-by-Step Solution

1

Olabilirlik (Likelihood) fonksiyonunu oluştur.

L(\theta) \propto \prod_{i=1}^3 e^{-\theta} \theta^{x_i} \propto e^{-3\theta} \theta^{15}

Örneklemdeki

n=3

gözlemin (5, 4 ve 6) toplamı

\sum x_i = 15

'tir. Ortak olasılık fonksiyonu (olabilirlik), Bayes teoreminin veri kanıtı kısmıdır.

2

Önsel (Prior) dağılımın çekirdeğini belirle.

\pi(\theta) \propto \theta^{\alpha-1} e^{-\beta\theta} = \theta^{4-1} e^{-2\theta} = \theta^3 e^{-2\theta}

Sonsal dağılımı bulmak için önsel dağılımın

\theta

'ya bağlı kısmı olabilirlik ile çarpılacaktır.

3

Sonsal (Posterior) dağılımı hesapla.

\pi(\theta|x) \propto (\theta^3 e^{-2\theta}) (e^{-3\theta} \theta^{15}) = \theta^{18} e^{-5\theta}

. Bu dağılım şekil parametresi

\alpha_{post} = 19

ve oran parametresi

\beta_{post} = 5

olan bir Gamma(19, 5) dağılımıdır.

Bayes teoremine göre sonsal dağılım, önsel dağılım ile olabilirlik fonksiyonunun çarpımıyla orantılıdır.

4

Sıfır-bir kayıp fonksiyonuna göre Bayes tahmin edicisini bul.

Sıfır-bir kayıp fonksiyonu sonsal modu (MAP - Maximum A Posteriori) gerektirir. Gamma dağılımının modu

\frac{\alpha_{post}-1}{\beta_{post}}

formülüyle bulunur:

\frac{19-1}{5} = \frac{18}{5} = 3,6

.

Kayıp fonksiyonunun türü, sonsal dağılımdan hangi istatistiğin (ortalama, mod, medyan) seçileceğini belirler. Sıfır-bir kayıp fonksiyonu dağılımın tepe noktasını seçer.

Key Concept

Bayes Tahmin Yöntemi ve Kayıp Fonksiyonları

Question 9Question →

Bir siber güvenlik uzmanı, bir sunucuya günlük olarak yapılan siber saldırıların sayısının ( $X$ ), $\lambda$ parametreli Poisson dağılımına uyduğunu modellemektedir. Uzman, geçmiş tecrübelerine dayanarak $\lambda$ parametresinin önsel (prior) dağılımının olasılık yoğunluk fonksiyonunu,

f(\lambda) = 4\lambda e^{-2\lambda}, \quad \lambda > 0

şeklinde belirlemiştir.

Rastgele seçilen 3 gün boyunca sunucuya yapılan saldırı sayıları sırasıyla 5, 4 ve 6 olarak gözlemlenmiştir.

Buna göre, karesel hata kayıp fonksiyonu altında $\lambda$ parametresinin Bayes tahmin değeri aşağıdakilerden hangisidir?

\frac{16}{5}

\frac{17}{5}

\frac{16}{3}

5

\frac{17}{2}

Show answer & explanation

Answer: $\frac{17}{5}$

Answer

Karesel hata kayıp fonksiyonu altındaki Bayes tahmin değeri 17/5'tir.

Karesel hata kayıp fonksiyonu kullanıldığında Bayes tahmin edicisi, sonsal (posterior) dağılımın beklenen değeridir. Verilen önsel dağılım

f(\lambda) \propto \lambda e^{-2\lambda}

ve olabilirlik fonksiyonu

L(\lambda) \propto \lambda^{15} e^{-3\lambda}

çarpıldığında, sonsal dağılım

\pi(\lambda|x) \propto \lambda^{16} e^{-5\lambda}

elde edilir. Bu form

\alpha=17

ve

\beta=5

(oran) parametreli bir Gamma dağılımına aittir. Gamma dağılımının beklenen değeri

\alpha/\beta

formülüyle hesaplandığından sonuç

17/5

olarak bulunur.

Step-by-Step Solution

1

Verilen veriler için olabilirlik (likelihood) fonksiyonunu oluşturun.

L(\lambda | x) \propto \prod_{i=1}^3 \frac{e^{-\lambda} \lambda^{x_i}}{x_i!} \propto e^{-3\lambda} \lambda^{15}

Bayes teoreminde kullanılmak üzere örneklemin getirdiği bilgiyi matematiksel olarak ifade etmek için olabilirlik fonksiyonu gereklidir.

2

Önsel (prior) dağılım ile olabilirlik fonksiyonunu çarparak sonsal (posterior) dağılımın orantılı olduğu fonksiyonu bulun.

\pi(\lambda | x) \propto (\lambda^{15} e^{-3\lambda}) \cdot (4\lambda e^{-2\lambda}) \propto \lambda^{16} e^{-5\lambda}

Bayes teoremine göre sonsal dağılım, önsel dağılım ile olabilirlik fonksiyonunun çarpımı ile orantılıdır.

3

Elde edilen ifadenin hangi dağılıma ait olduğunu belirleyin.

\lambda^{16} e^{-5\lambda}

ifadesi,

\alpha=17

ve

\beta=5

(oran) parametreli bir Gamma dağılımının çekirdeğidir. Yani,

\lambda | x \sim Gamma(17, 5)

.

Sonsal dağılımın parametrelerini kesinleştirmek, ilgilenilen tahmin edicileri hesaplamak için şarttır.

4

Karesel hata kayıp fonksiyonuna göre Bayes tahmin edicisini hesaplayın.

\hat{\lambda}_B = E[\lambda | x] = \frac{\alpha}{\beta} = \frac{17}{5}

Karesel hata kayıp fonksiyonu altında riski minimize eden tahmin edici, sonsal dağılımın beklenen değeridir (ortalamasıdır).

Key Concept

Bayes Tahmin Yöntemi ve Karesel Hata Kayıp Fonksiyonu

Question 10Question →

Bir finansal risk analisti, belirli bir küçük işletme kredisi türü için temerrüde düşme olasılığını ( $\theta$ ) modellemektedir. Analist, geçmiş verilere dayanarak $\theta$ parametresinin önsel (prior) dağılımını $\alpha=3$ ve $\beta=7$ parametreli Beta dağılımı olarak belirlemiştir. Bu kredi türünden rastgele seçilen $n=20$ kredilik bir örneklem incelendiğinde, $x=4$ kredinin temerrüde düştüğü gözlemlenmiştir. Kredilerin temerrüde düşme durumu birbirinden bağımsızdır.

Buna göre, karesel hata kayıp fonksiyonu (squared error loss) altında $\theta$ parametresinin Bayes tahmin edicisinin aldığı değer aşağıdakilerden hangisidir?

\frac{1}{5}

\frac{3}{14}

\frac{7}{30}

\frac{3}{10}

\frac{7}{18}

Show answer & explanation

Answer: $\frac{7}{30}$

Answer

Karesel hata kayıp fonksiyonu altında Bayes tahmin edicisi

\frac{7}{30}

olarak hesaplanır.

Karesel hata kayıp fonksiyonu kullanıldığında Bayes tahmin edicisi, sonsal (posterior) dağılımın beklenen değeridir. Önsel dağılım

Beta(3, 7)

ve örneklem bilgisi

Binomial(20, \theta)

ile

x=4

verildiğinde, sonsal dağılım

Beta(3+4, 7+20-4) = Beta(7, 23)

olur. Bu dağılımın beklenen değeri

\frac{7}{7+23} = \frac{7}{30}

'dur.

Step-by-Step Solution

1

Önsel dağılım ve olabilirlik fonksiyonunu belirle.

Önsel dağılım:

\theta \sim Beta(3, 7)

. Olabilirlik fonksiyonu:

X \sim Binomial(20, \theta)

ve gözlem

x=4

.

Sonsal dağılımı bulmak için Bayes teoreminin temel bileşenlerine ihtiyaç vardır.

2

Sonsal (posterior) dağılımın parametrelerini hesapla.

Beta-Binom eşlenik (conjugate) yapısından dolayı sonsal dağılım

Beta(\alpha + x, \beta + n - x)

olur.

\alpha_{yeni} = 3 + 4 = 7

ve

\beta_{yeni} = 7 + 20 - 4 = 23

. Sonsal dağılım:

\theta|x \sim Beta(7, 23)

.

Bayes tahmin edicisi sonsal dağılım üzerinden hesaplanır.

3

Verilen kayıp fonksiyonuna göre Bayes tahmin edicisini belirle.

Karesel hata kayıp fonksiyonu (squared error loss) için Bayes tahmin edicisi, sonsal dağılımın beklenen değeridir (ortalamasıdır).

Risk fonksiyonunu minimize eden tahmin edici, karesel hata için sonsal ortalamaya eşittir.

4

Sonsal dağılımın beklenen değerini hesapla.

E(\theta|x) = \frac{\alpha_{yeni}}{\alpha_{yeni} + \beta_{yeni}} = \frac{7}{7 + 23} = \frac{7}{30}

.

Beta dağılımının beklenen değer formülü uygulanarak nihai sonuca ulaşılır.

Key Concept

Karesel Hata Kayıp Fonksiyonu ile Bayes Tahmini ve Beta-Binom Eşlenikliği

Question 11Question →

Bir kamu araştırma laboratuvarında hassas bir ölçüm cihazı kullanılarak bir kimyasal bileşenin saflık derecesi ( $\theta$ ) ölçülmektedir. Ölçüm değerlerinin ( $X$ ), $\theta$ ortalamalı ve $\sigma^2 = 9$ varyanslı normal dağılıma sahip olduğu bilinmektedir. $\theta$ parametresi için önsel (prior) dağılım $N(20, 18)$ olarak belirlenmiştir. Yapılan tek bir ölçüm sonucunda saflık derecesi $x = 26$ olarak elde edildiğine göre, karesel hata kayıp fonksiyonu (squared error loss) altında $\theta$ parametresinin Bayes tahmin edicisi kaçtır?

20

22

23

24

26

Show answer & explanation

Answer: 24

Answer

Bayes tahmin edicisi sonsal dağılımın ortalaması olup, hesaplama sonucunda 24 olarak bulunur.

Verilen problemde normal dağılımın ortalaması için yine normal bir önsel dağılım kullanılmıştır. Karesel hata kayıp fonksiyonu altında Bayes tahmin edicisi, sonsal dağılımın beklenen değerine (ortalamasına) eşittir. Bu değer, örneklem ortalaması (

x

) ile önsel ortalamanın (

\mu_0

), hassasiyetleri (varyansların tersi) ile ağırlıklandırılmasıyla hesaplanır. Formül gereği

24

sonucu elde edilir.

Step-by-Step Solution

1

Likelihood (olabilirlik) ve önsel (prior) dağılım parametrelerini belirle.

X | \theta \sim N(\theta, \sigma^2=9)

ve

\theta \sim N(\mu_0=20, \tau_0^2=18)

. Gözlem değeri

x=26

.

Normal dağılımın ortalaması için normal önsel dağılım kullanıldığında sonsal dağılım da normal olur (eşlenik önsel).

2

Karesel hata kayıp fonksiyonu için Bayes tahmin edicisinin formülünü tanımla.

Bayes tahmin edicisi

\hat{\theta}_B = E[\theta | x]

(sonsal beklenen değer).

Karesel hata kaybı durumunda riski minimize eden tahmin edici sonsal dağılımın ortalamasıdır.

3

Sonsal dağılımın ortalamasını (

\mu_1

) hesapla.

\mu_1 = \frac{\frac{x}{\sigma^2} + \frac{\mu_0}{\tau_0^2}}{\frac{1}{\sigma^2} + \frac{1}{\tau_0^2}} = \frac{\frac{26}{9} + \frac{20}{18}}{\frac{1}{9} + \frac{1}{18}}

Normal-Normal konjuge çiftinde sonsal ortalama, önsel ve örneklem bilgilerinin varyanslarıyla ters orantılı ağırlıklandırılmış ortalamasıdır.

4

Sayısal işlemi tamamla.

\mu_1 = \frac{\frac{52+20}{18}}{\frac{2+1}{18}} = \frac{72/18}{3/18} = \frac{72}{3} = 24

.

Payda ve paydaki ortak çarpanlar sadeleştirilerek sonuca ulaşılır.

Key Concept

Normal-Normal Eşlenik Önsel Dağılım ve Bayes Tahmin Edicisi

Practice More

Eğer kayıp fonksiyonu karesel hata yerine mutlak hata (absolute error loss) olsaydı, Bayes tahmin edicisinin sonsal dağılımın medyanı olacağını unutmayın.

Alternative Method

Sonsal ortalamayı şu şekilde de düşünebilirsiniz:

\mu_1 = w \cdot x + (1-w) \cdot \mu_0

. Burada

w

ağırlığı, örneklem hassasiyetinin toplam hassasiyete oranıdır:

w = \frac{1/9}{1/9 + 1/18} = \frac{2/18}{3/18} = 2/3

. Buradan

\mu_1 = (2/3) \cdot 26 + (1/3) \cdot 20 = 52/3 + 20/3 = 72/3 = 24

.

Estimated Time:1m 30s

Question 12Question →

Bir devlet matbaasında basılan resmi belgelerin her birinde teknik bir hata bulunma olasılığı $\theta$ parametresi ile ifade edilmektedir. $\theta$ parametresi için uzman görüşleri doğrultusunda belirlenen önsel (prior) dağılım $Beta(2, 2)$ biçimindedir. Kalite kontrol süreci kapsamında rastgele seçilen 10 belgeden sadece 1 tanesinin hatalı olduğu saptanmıştır.

Karesel hata kayıp fonksiyonu kullanıldığına göre, $\theta$ parametresinin Bayes tahmin edicisi aşağıdakilerden hangisidir?

3/14

1/10

1/2

1/6

3/10

Show answer & explanation

Answer: $3/14$

Answer

Bayes tahmin edicisi

3/14

olarak hesaplanır.

Verilen önsel

Beta(2, 2)

dağılımı ve Binom olabilirlik fonksiyonu (

n=10, x=1

) birleştirildiğinde, sonsal dağılım

Beta(3, 11)

olarak elde edilir. Karesel hata kayıp fonksiyonu altında Bayes tahmin edicisi, bu sonsal dağılımın beklenen değeridir ve

3 / (3 + 11) = 3/14

şeklinde hesaplanır.

Step-by-Step Solution

1

Önsel dağılım ve örneklem parametrelerini belirleyin.

Önsel:

Beta(\alpha=2, \beta=2)

, Örneklem:

n=10, x=1

.

Bayesyen güncelleme için başlangıç parametrelerine ihtiyaç vardır.

2

Eşlenik önsel (conjugate prior) özelliğini kullanarak sonsal dağılım parametrelerini hesaplayın.

\alpha' = x + \alpha = 1 + 2 = 3

ve

\beta' = n - x + \beta = 10 - 1 + 2 = 11

.

Beta-Binom eşlenik yapısında sonsal dağılım

Beta(x+\alpha, n-x+\beta)

olur.

3

Karesel hata kayıp fonksiyonu altında Bayes tahmin edicisini bulun.

E[\theta|x] = \frac{\alpha'}{\alpha' + \beta'} = \frac{3}{3 + 11} = \frac{3}{14}

.

Karesel hata kaybı durumunda Bayes tahmin edicisi, sonsal dağılımın beklenen değerine eşittir.

Key Concept

Beta-Binom Eşlenik Dağılımları ve Bayesyen Nokta Tahmini

Question 13Question →

Bir kamu kurumunun e-devlet portalı üzerinden sunulan bir hizmette, başvuruların eksiksiz tamamlanma olasılığı $\theta$ parametresi ile modellenmektedir. Bu parametreye ilişkin uzman görüşlerine dayanılarak belirlenen önsel (prior) dağılım $Beta(2, 2)$ olarak tanımlanmıştır. Sistemden rastgele seçilen $10$ başvuruluk bir örneklemde $8$ başvurunun eksiksiz tamamlandığı gözlemlenmiştir. Karesel hata kayıp fonksiyonu (squared error loss) kullanıldığına göre, $\theta$ parametresinin Bayes nokta tahmini aşağıdakilerden hangisidir?

\frac{5}{7}

\frac{4}{5}

\frac{1}{2}

\frac{2}{3}

\frac{3}{4}

Show answer & explanation

Answer: $\frac{5}{7}$

Answer

Bayes nokta tahmini, sonsal dağılımın beklenen değeri olan 5/7'dir.

Verilen problemde önsel dağılım

Beta(2, 2)

ve gözlemler Binom dağılımına uygundur. Beta ve Binom dağılımları eşlenik olduğundan, sonsal dağılım da bir Beta dağılımıdır. Başarı sayısı

8

ve başarısızlık sayısı

2

olduğu için, sonsal parametreler

\alpha'=8+2=10

ve

\beta'=2+2=4

olarak güncellenir. Karesel hata kayıp fonksiyonu kullanıldığında Bayes tahmin edicisi sonsal dağılımın beklenen değerine (ortalamasına) eşittir. Bu değer

\frac{10}{10+4} = \frac{10}{14} = \frac{5}{7}

olarak hesaplanır.

Step-by-Step Solution

1

Önsel dağılım ve olabilirlik fonksiyonunun belirlenmesi

Önsel:

\pi(\theta) \sim Beta(\alpha=2, \beta=2)

, Olabilirlik:

X \sim Binomial(n=10, \theta)

ve gözlemlenen başarı

x=8

.

Bayesyen güncelleme için gerekli başlangıç bileşenlerini tanımlamak gerekir.

2

Sonsal (posterior) dağılım parametrelerinin hesaplanması

\alpha' = x + \alpha = 8 + 2 = 10

ve

\beta' = n - x + \beta = 10 - 8 + 2 = 4

. Sonsal dağılım

Beta(10, 4)

olur.

Beta-Binomial eşlenik ailesinde sonsal dağılım parametreleri doğrudan toplama yoluyla güncellenir.

3

Kayıp fonksiyonuna göre Bayes tahmin edicisinin seçilmesi

Karesel hata kayıp fonksiyonu altında Bayes tahmin edicisi, sonsal dağılımın beklenen değeridir:

E[\theta|x] = \frac{\alpha'}{\alpha' + \beta'} = \frac{10}{10 + 4} = \frac{10}{14} = \frac{5}{7}

.

Karesel hata kaybı (squared error loss), Bayes riskini minimize eden değer olarak her zaman sonsal ortalamayı verir.

Key Concept

Beta-Binomial Eşlenik Dağılımlar ve Sonsal Ortalama

Practice More

Mutlak hata kayıp fonksiyonu (absolute error loss) kullanılsaydı Bayes tahmin edicisinin sonsal medyan olacağını unutmayın.

Estimated Time:2m 0s

Question 14Question →

Bir belediye, sunduğu temizlik hizmetlerinden vatandaşların memnuniyet oranını ( $\theta$ ) tahmin etmek istemektedir. $\theta$ parametresi için önsel (prior) dağılım $Beta(1, 1)$ olarak belirlenmiştir. Rastgele seçilen $n=8$ vatandaştan $x=3$ tanesinin hizmetlerden memnun olduğu gözlemlenmiştir. Karesel hata kayıp fonksiyonu (squared error loss) kullanıldığına göre, $\theta$ parametresinin Bayes tahmin edicisi kaçtır?

0,30

0,375

0,40

0,50

0,60

Show answer & explanation

Answer: 0,40

Answer

Bayes tahmin edicisi 0,40 olarak hesaplanır.

Verilen

Beta(1, 1)

önsel dağılımı ve

n=8, x=3

verisiyle sonsal dağılım

Beta(4, 6)

olarak elde edilir. Karesel hata kaybı altında Bayes tahmin edicisi bu dağılımın ortalaması olan

4 / (4+6) = 0,4

değerine eşittir.

Step-by-Step Solution

1

Önsel dağılım ve olabilirlik fonksiyonunun belirlenmesi

Önsel:

\theta \sim Beta(\alpha=1, \beta=1)

, Veri:

n=8, x=3

.

Beta-Binom eşlenik önsel yapısını kullanabilmek için parametrelerin tanımlanması gerekir.

2

Sonsal (posterior) dağılımın parametrelerinin hesaplanması

\alpha' = \alpha + x = 1 + 3 = 4

ve

\beta' = \beta + n - x = 1 + 8 - 3 = 6

.

Beta önsel ve Binom olabilirlik durumunda sonsal dağılım

Beta(\alpha+x, \beta+n-x)

olur.

3

Karesel hata kaybı altında Bayes tahmin edicisinin bulunması

\hat{\theta}_{Bayes} = E[\theta | x] = \frac{\alpha'}{\alpha' + \beta'} = \frac{4}{4+6} = \frac{4}{10} = 0,40

.

Karesel hata kayıp fonksiyonu kullanıldığında Bayes tahmin edicisi, sonsal dağılımın beklenen değerine (ortalamasına) eşittir.

Key Concept

Beta-Binom eşlenik yapısında Bayes tahmini, önsel bilgi ile örneklem verisinin ağırlıklı ortalaması şeklinde hesaplanır.

Practice More

Mutlak hata kayıp fonksiyonu (absolute error loss) kullanılsaydı Bayes tahmin edicisi olarak sonsal dağılımın medyanının hesaplanması gerektiğini unutmayın.

Estimated Time:45s

Question 15Question →

Bir Sosyal Güvenlik Kurumu müfettişi, bir bölgedeki sigorta başvurularının eksik belgeli olma oranını ( $\theta$ ) Bayes yöntemiyle tahmin etmek istemektedir. $\theta$ parametresi için önsel (prior) dağılım $Beta(2, 2)$ olarak alınmıştır. Rastgele seçilen bir başvurunun ( $n=1$ ) incelenmesi sonucunda bu başvurunun eksik belgeli olduğu ( $x=1$ ) saptanmıştır.

Karesel hata kaybı (squared error loss) fonksiyonu kullanıldığına göre, $\theta$ parametresinin Bayes nokta tahmini aşağıdakilerden hangisidir?

0,4

0,5

0,6

2/3

1,0

Show answer & explanation

Answer: 0,6

Answer

Bayes nokta tahmini 0,6 olarak hesaplanır.

Verilen problemde önsel dağılım

Beta(2, 2)

ve gözlem verisi

n=1, x=1

(başarı) şeklindedir. Beta ve Bernoulli dağılımları eşlenik olduğundan, sonsal dağılım yine bir Beta dağılımı olur ve parametreleri

\alpha' = \alpha + x = 3

ve

\beta' = \beta + n - x = 2

olarak güncellenir. Karesel hata kaybı fonksiyonu altında Bayes tahmin edicisi sonsal dağılımın beklenen değeridir. Bu değer

\frac{\alpha'}{\alpha' + \beta'} = \frac{3}{5} = 0,6

olarak bulunur.

Step-by-Step Solution

1

Sonsal (posterior) dağılımın belirlenmesi

f(\theta|x) \sim Beta(\alpha + x, \beta + n - x)

Beta önsel dağılımı ve Bernoulli olabilirlik fonksiyonu birbirinin eşleniğidir (conjugate prior).

2

Sonsal dağılım parametrelerinin güncellenmesi

\alpha' = 2 + 1 = 3

ve

\beta' = 2 + 1 - 1 = 2

Verilen

\alpha=2, \beta=2, n=1, x=1

değerleri formülde yerine konur.

3

Bayes tahmin edicisinin hesaplanması

E[\theta|x] = \frac{\alpha'}{\alpha' + \beta'} = \frac{3}{3 + 2} = 0,6

Karesel hata kaybı fonksiyonu altında Bayes tahmin edicisi, sonsal dağılımın beklenen değerine eşittir.

Key Concept

Beta-Bernoulli eşlenik dağılımları ve karesel hata kaybı altında Bayes tahmini.

Question 16Question →

Bir kamu sağlığı projesinde, bir bölgedeki belirli bir hastalığın yaygınlık oranı $\theta$ parametresi ile incelenmektedir. Araştırmacılar $\theta$ için önsel dağılımı $Beta(1, 1)$ (standart düzgün dağılım) olarak belirlemişlerdir. Bölgeden rastgele seçilen 10 kişilik bir örneklemde 4 kişide hastalığa rastlandığına göre, karesel hata kayıp fonksiyonu altında $\theta$ parametresinin Bayes tahmin edicisi aşağıdakilerden hangisidir?

\frac{5}{12}

\frac{2}{5}

\frac{1}{2}

\frac{4}{11}

\frac{5}{11}

Show answer & explanation

Answer: $\frac{5}{12}$

Answer

Karesel hata kayıp fonksiyonu altında Bayes tahmin edicisi 5/12 olarak hesaplanır.

Karesel hata kayıp fonksiyonu altında Bayes tahmin edicisi, sonsal dağılımın beklenen değerine karşılık gelir. Verilen problemde

Beta(1,1)

önsel dağılımı ile 10 denemede 4 başarılı gözlem birleştirildiğinde, sonsal dağılım

Beta(5,7)

olur. Bu dağılımın ortalaması

5/(5+7) = 5/12

şeklinde hesaplanır.

Step-by-Step Solution

1

Önsel dağılım ve veri parametrelerini belirle

Önsel:

\alpha=1, \beta=1

; Veri:

n=10, x=4

Bayesyen güncelleme için başlangıç değerlerinin tanımlanması gerekir.

2

Sonsal dağılım parametrelerini hesapla

\alpha' = \alpha + x = 1 + 4 = 5

ve

\beta' = \beta + n - x = 1 + 10 - 4 = 7

Beta-Binom eşlenik (conjugate) yapısında sonsal dağılım yine bir Beta dağılımıdır.

3

Bayes tahmin edicisini bul (Karesel hata kaybı)

\hat{\theta}_{Bayes} = E[\theta|x] = \frac{\alpha'}{\alpha' + \beta'} = \frac{5}{5 + 7} = \frac{5}{12}

Karesel hata kayıp fonksiyonu kullanıldığında Bayes tahmin edicisi sonsal dağılımın ortalamasıdır.

Key Concept

Beta-Binom Eşlenik Dağılımları ve Sonsal Ortalama

Estimated Time:45s

Question 17Question →

Bir üretim bandından çıkan ürünlerin kusurlu olma olasılığı $\theta$ parametresi ile modellenmektedir. Bu parametre için önsel (prior) dağılım $\text{Beta}(1, 1)$ olarak belirlenmiştir. Kontrol edilen bir ürünün kusurlu ( $x=1$ ) olduğu gözlemlendiğine göre; karesel hata kayıp fonksiyonu altında $\theta$ parametresinin Bayes tahmin edicisi aşağıdakilerden hangisidir?

\frac{1}{2}

1

\frac{2}{3}

\frac{1}{3}

\frac{3}{4}

Show answer & explanation

Answer: $\frac{2}{3}$

Answer

Bayes tahmin edicisi

\frac{2}{3}

olarak hesaplanır.

Sonsal dağılım

\text{Beta}(2, 1)

olarak bulunur. Karesel hata kaybı kullanıldığında Bayes tahmin edicisi bu dağılımın ortalaması olan

2/(2+1) = 2/3

değerine eşittir.

Step-by-Step Solution

1

Önsel dağılımın ve verinin tanımlanması

Önsel:

\text{Beta}(\alpha=1, \beta=1)

, Veri:

n=1, x=1

Bayesyen güncelleme için başlangıç parametrelerini ve gözlem sonucunu belirlemek gerekir.

2

Sonsal (posterior) dağılımın güncellenmesi

\theta | x \sim \text{Beta}(\alpha+x, \beta+n-x) = \text{Beta}(1+1, 1+0) = \text{Beta}(2, 1)

Beta önsel ve Bernoulli olabilirlik fonksiyonu eşlenik (conjugate) olduğu için sonsal dağılım yine bir Beta dağılımıdır.

3

Bayes tahmin edicisinin hesaplanması

E[\theta | x] = \frac{\alpha'}{\alpha' + \beta'} = \frac{2}{2+1} = \frac{2}{3}

Karesel hata kayıp fonksiyonu altında Bayes tahmin edicisi, sonsal dağılımın beklenen değeridir.

Key Concept

Beta-Bernoulli eşlenik dağılım çiftinde, sonsal dağılım parametreleri

\alpha' = \alpha + \text{başarı}

ve

\beta' = \beta + \text{başarısızlık}

şeklindedir.

Estimated Time:45s

Question 18Question →

Bir sistemin bozulma süresi $X$ , $\theta > 0$ parametreli üstel dağılıma sahip olup, olasılık yoğunluk fonksiyonu

f(x|\theta) = \theta e^{-\theta x}, \quad x > 0

şeklinde verilmiştir.

$\theta$ parametresinin önsel (prior) dağılımı, $\alpha > 1$ ve $\beta > 0$ parametreli Gamma dağılımıdır:

\pi(\theta) = \frac{\beta^\alpha}{\Gamma(\alpha)} \theta^{\alpha-1} e^{-\beta \theta}, \quad \theta > 0

Sistemden $n$ hacimli bağımsız bir rastgele örneklem alınmış ve örneklem ortalaması $\bar{X}$ olarak hesaplanmıştır.

$\theta$ parametresini tahmin etmek için, aşağıda verilen ağırlıklı karesel kayıp (weighted squared error loss) fonksiyonu kullanılacaktır:

L(\theta, \hat{\theta}) = \frac{(\theta - \hat{\theta})^2}{\theta}

Buna göre, $\theta$ 'nın Bayes tahmin edicisi aşağıdakilerden hangisidir?

\frac{n+\alpha}{\beta + n\bar{X}}

\frac{n+\alpha+1}{\beta + n\bar{X}}

\frac{1}{\bar{X}}

\frac{n+\alpha-1}{\beta + n\bar{X}}

\frac{n+\alpha}{\beta + \bar{X}}

Show answer & explanation

Answer: $\frac{n+\alpha-1}{\beta + n\bar{X}}$

Answer

Bayes tahmin edicisi, sonsal beklentiyi minimize eden

\frac{n+\alpha-1}{\beta + n\bar{X}}

ifadesidir.

Bayes tahmin edicisi, sonsal risk fonksiyonunu (beklenen kaybı) minimize eden değerdir. Verilen kayıp fonksiyonu

L(\theta, \hat{\theta}) = \theta - 2\hat{\theta} + \frac{\hat{\theta}^2}{\theta}

olarak yazılabilir. Bu ifadenin sonsal beklenen değeri alınıp

\hat{\theta}

'ya göre türevi sıfıra eşitlendiğinde Bayes tahmin edicisi

\hat{\theta}_{B} = 1 / E[\theta^{-1}|\mathbf{x}]

olarak bulunur. Üstel dağılımdan elde edilen olabilirlik fonksiyonu ile Gamma önsel dağılımı çarpıldığında, sonsal dağılım

\text{Gamma}(n+\alpha, \beta+n\bar{X})

olarak elde edilir. Bir Gamma dağılımı için

\theta^{-1}

'in beklenen değeri

\lambda / (k-1)

olduğundan,

k=n+\alpha

ve

\lambda=\beta+n\bar{X}

yerine yazıldığında doğru yanıt

\frac{n+\alpha-1}{\beta+n\bar{X}}

elde edilir.

Step-by-Step Solution

1

Olabilirlik fonksiyonunu ve önsel dağılımı çarparak sonsal (posterior) dağılımı belirle.

L(\theta|\mathbf{x}) = \theta^n e^{-\theta n\bar{X}}

ve

\pi(\theta) \propto \theta^{\alpha-1} e^{-\beta \theta}

olduğundan,

\pi(\theta|\mathbf{x}) \propto \theta^{n+\alpha-1} e^{-\theta(\beta + n\bar{X})}

. Sonsal dağılım

\text{Gamma}(n+\alpha, \beta+n\bar{X})

bulunur.

Bayes teoremine göre sonsal dağılım, olabilirlik fonksiyonu ile önsel dağılımın çarpımıyla orantılıdır.

2

Verilen kayıp fonksiyonunun sonsal riskini (beklenen değerini) yaz.

E[L(\theta, \hat{\theta})|\mathbf{x}] = E\left[\theta - 2\hat{\theta} + \frac{\hat{\theta}^2}{\theta} \Big| \mathbf{x}\right] = E[\theta|\mathbf{x}] - 2\hat{\theta} + \hat{\theta}^2 E[\theta^{-1}|\mathbf{x}]

Bayes tahmin edicisi, sonsal risk fonksiyonunu minimize eden değer olarak tanımlanır.

3

Sonsal riski

\hat{\theta}

'ya göre minimize et.

Türev alınıp sıfıra eşitlendiğinde:

-2 + 2\hat{\theta} E[\theta^{-1}|\mathbf{x}] = 0 \implies \hat{\theta}_B = \frac{1}{E[\theta^{-1}|\mathbf{x}]}

Minimum noktası, birinci türevin sıfır olduğu değerdir.

4

E[\theta^{-1}|\mathbf{x}]

değerini hesapla ve Bayes tahmin edicisini bul.

Bir

\text{Gamma}(k, \lambda)

dağılımında

E[\theta^{-1}] = \frac{\lambda}{k-1}

'dir. Formülde

k=n+\alpha

ve

\lambda=\beta+n\bar{X}

yazıldığında sonuç

\frac{n+\alpha-1}{\beta+n\bar{X}}

olarak bulunur.

Bulunan ters beklenen değer (inverse moment), minimizasyon sonucu elde edilen formülde yerine yazılır.

Key Concept

Bayes Risk Minimizasyonu ve Sonsal Dağılım Momentleri

Question 19Question →

Bir sistemde belirli bir zaman aralığında gerçekleşen olay sayısı, parametresi $\theta$ olan Poisson dağılımına uymaktadır. $\theta$ parametresinin önsel (prior) dağılımı, $\alpha, \beta > 0$ olmak üzere aşağıdaki olasılık yoğunluk fonksiyonuna sahip Gamma dağılımı olarak verilmiştir:

\pi(\theta) = \frac{\beta^\alpha}{\Gamma(\alpha)} \theta^{\alpha-1} e^{-\beta\theta}, \quad \theta > 0

Bu sistemden $n$ birimlik rastgele bir örneklem alınmış ( $X_1, X_2, \dots, X_n$ ) ve örneklem değerlerinin toplamı $\sum_{i=1}^n X_i = y$ olarak elde edilmiştir.

Tahmin edici $\delta$ olmak üzere, $\theta$ parametresi için belirlenen kayıp fonksiyonu $L(\theta, \delta) = \theta (\theta - \delta)^2$ şeklindedir.

Buna göre, verilen kayıp fonksiyonu altında $\theta$ parametresinin Bayes tahmin edicisi aşağıdakilerden hangisidir?

\frac{\alpha + y}{\beta + n}

\frac{\alpha + y - 1}{\beta + n}

\frac{(\alpha + y)(\alpha + y + 1)}{(\beta + n)^2}

\frac{\alpha + y + 1}{\beta + n}

\frac{\alpha + y + 1}{\beta + 1}

Show answer & explanation

Answer: $\frac{\alpha + y + 1}{\beta + n}$

Answer

\frac{\alpha + y + 1}{\beta + n}

Bayes tahmin edicisi, sonsal beklenen riski (

E[L(\theta, \delta)|X]

) minimize eden

\delta

değeridir. Verilen

L(\theta, \delta) = \theta(\theta - \delta)^2

kayıp fonksiyonu için riskin türevi alınıp sıfıra eşitlendiğinde optimum tahmin edici

\delta = \frac{E[\theta^2|X]}{E[\theta|X]}

olarak bulunur. Poisson olabilirlik fonksiyonu ve Gamma önsel dağılımı çarpıldığında sonsal dağılım Gamma

(\alpha+y, \beta+n)

olur. Bu dağılımın teorik momentleri formülde yerine konulduğunda, Bayes tahmin edicisi

\frac{(\alpha+y)(\alpha+y+1)/(\beta+n)^2}{(\alpha+y)/(\beta+n)} = \frac{\alpha+y+1}{\beta+n}

olarak elde edilir.

Step-by-Step Solution

1

Olabilirlik fonksiyonu ile önsel dağılımı çarparak sonsal (posterior) dağılımı elde edin.

Poisson olabilirlik fonksiyonu

L(\theta|x) \propto e^{-n\theta} \theta^{\sum x_i} = e^{-n\theta} \theta^y

ve Gamma önsel dağılımı

\pi(\theta) \propto \theta^{\alpha-1} e^{-\beta\theta}

çarpıldığında sonsal dağılım

\pi(\theta|x) \propto \theta^{\alpha+y-1} e^{-(\beta+n)\theta}

olur. Bu, Gamma

(\alpha+y, \beta+n)

dağılımıdır.

Bayes teoremine göre sonsal dağılım, önsel dağılım ve olabilirlik fonksiyonunun çarpımıyla orantılıdır.

2

Verilen kayıp fonksiyonu için beklenen risk (expected risk) denklemini yazın.

Beklenen risk

R(\delta) = E[L(\theta, \delta)|X] = E[\theta(\theta - \delta)^2 | X] = E[\theta^3 - 2\delta\theta^2 + \delta^2\theta | X]

şeklindedir. Doğrusallık özelliğiyle:

R(\delta) = E[\theta^3|X] - 2\delta E[\theta^2|X] + \delta^2 E[\theta|X]

.

Bayes tahmin edicisi, seçilen kayıp fonksiyonunun sonsal dağılım altındaki beklenen değerini minimize eden

\delta

değeridir.

3

Risk fonksiyonunu

\delta

'ya göre minimize edin.

Risk fonksiyonunun

\delta

'ya göre birinci türevi alınıp sıfıra eşitlenir:

\frac{d R}{d \delta} = -2E[\theta^2|X] + 2\delta E[\theta|X] = 0

. Buradan optimum tahmin edici

\delta = \frac{E[\theta^2|X]}{E[\theta|X]}

olarak bulunur.

Optimum değeri bulmak için fonksiyonun türevi alınıp kökleri incelenmelidir. İkinci türev

2E[\theta|X] > 0

olduğundan bu nokta bir minimumdur.

4

Sonsal dağılımın momentlerini hesaplayarak tahmin ediciyi son haline getirin.

Gamma

(\alpha+y, \beta+n)

dağılımı için

E[\theta|X] = \frac{\alpha+y}{\beta+n}

ve

E[\theta^2|X] = \frac{(\alpha+y)(\alpha+y+1)}{(\beta+n)^2}

değerleri yerine yazıldığında;

\delta = \frac{(\alpha+y)(\alpha+y+1)/(\beta+n)^2}{(\alpha+y)/(\beta+n)} = \frac{\alpha+y+1}{\beta+n}

elde edilir.

Risk minimizasyonundan elde edilen oran, sonsal Gamma dağılımının bilinen moment özelliklerinin uygulanmasıyla analitik çözüme ulaştırır.

Key Concept

Özel Kayıp Fonksiyonları Altında Bayes Tahmin Edicisi ve Sonsal Risk Minimizasyonu

Question 20Question →

Bir kimyasal sürecin reaksiyon süresi $X$ (dakika), ortalaması $\mu$ ve varyansı $\sigma^2 = 10$ olan normal dağılıma uymaktadır. $\mu$ parametresi için önsel (prior) dağılımın, ortalaması $40$ ve varyansı $5$ olan normal dağılım olduğu varsayılmaktadır.

Bu süreçten bağımsız olarak gözlemlenen $n = 8$ farklı reaksiyonun ortalama süresi $\bar{x} = 45$ dakika olarak elde edilmiştir.

Buna göre, karesel hata kayıp fonksiyonu (squared error loss) kullanıldığında $\mu$ parametresinin Bayes tahmini aşağıdakilerden hangisidir?

40

41

42.5

44

45

Show answer & explanation

Answer: 44

Answer

44

Karesel hata kayıp fonksiyonu (squared error loss) söz konusu olduğunda

\mu

parametresinin Bayes tahmini, sonsal (posterior) dağılımın beklenen değeridir. Normal önsel ve normal örneklem dağılımının olduğu eşlenik (conjugate) modellerde sonsal ortalama, önsel ortalama ile örneklem ortalamasının hassasiyet (varyansın tersi) ağırlıklı ortalaması olarak hesaplanır. Formül ile hesaplandığında bu değer

\frac{(1/5 \times 40) + (8/10 \times 45)}{1/5 + 8/10} = \frac{8 + 36}{1} = 44

olarak bulunur.

Step-by-Step Solution

1

Önsel dağılım ve örneklem parametrelerini belirle.

Önsel parametreler:

\mu \sim N(\theta_0 = 40, \tau^2 = 5)

. Örneklem parametreleri:

\sigma^2 = 10

,

n = 8

,

\bar{x} = 45

.

Sonsal dağılım parametrelerini hesaplamak için modeldeki bilinen tüm değerleri sistemli şekilde tanımlamak gerekir.

2

Karesel hata kayıp fonksiyonu altındaki hedefi belirle.

Bayes tahmin edicisi, sonsal (posterior) dağılımın beklenen değeridir (

E[\mu | \bar{x}]

).

Karesel hata kayıp fonksiyonu (MSE) kullanıldığında, beklenen riski minimum yapan değer matematiksel olarak her zaman sonsal dağılımın ortalamasına eşittir.

3

Önsel dağılımın ve örneklem verisinin hassasiyet (precision) değerlerini hesapla.

Önsel hassasiyet

= 1/\tau^2 = 1/5 = 0.2

. Örneklem hassasiyeti (bilgi miktarı)

= n/\sigma^2 = 8/10 = 0.8

.

Normal-Normal modelinde sonsal ortalama, bu hassasiyetlerin ağırlık olarak kullanıldığı bir doğrusal birleşimdir.

4

Sonsal dağılımın ortalamasını hesapla.

\mu_1 = \frac{(0.2 \times 40) + (0.8 \times 45)}{0.2 + 0.8} = \frac{8 + 36}{1} = 44

.

Sonsal ortalama formülü, önceden sahip olunan bilgi ile veriden gelen yeni bilgiyi güvenilirliklerine (hassasiyetlerine) göre birleştirir.

Key Concept

Normal Dağılım için Bayes Tahmini (Normal-Normal Eşlenik Model)

Bayes Tahmin Yöntemi ve Sonsal (Posterior) Dağılım

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Practice More

Alternative Method

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Practice More

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Practice More

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept