Kayıp Fonksiyonları, Risk ve Minimax Tahmin Ediciler Alıştırma Soruları — KPSS İstatistik

Soru 1Soru →

Bir araştırmacı, $\theta > 0$ parametresi ile modellenen bir kitleye ait $X$ rastgele değişkenini gözlemlemektedir. $X$ 'in olasılık yoğunluk fonksiyonu

f(x; \theta) = \begin{cases} \frac{2x}{\theta^2}, & 0 < x < \theta \\ 0, & \text{diğer durumlarda} \end{cases}

olarak verilmiştir.

Araştırmacı, $\theta$ parametresinin tahmini için $\delta(X) = cX$ formunda bir tahmin edici sınıfı kullanacaktır. Tahmin edicinin performansı, ölçekten bağımsız karesel kayıp fonksiyonu olan

L(\theta, \delta) = \left( \frac{\delta - \theta}{\theta} \right)^2

kullanılarak değerlendirilecektir.

Buna göre, bu tahmin edicinin risk fonksiyonunu (beklenen kaybını) tüm $\theta$ değerleri için minimum yapan $c$ sabiti aşağıdakilerden hangisidir?

1

\frac{5}{4}

\frac{4}{3}

\frac{3}{2}

2

Cevabı ve açıklamayı göster

Cevap: $\frac{4}{3}$

Cevap

Risk fonksiyonunu tüm

\theta

değerleri için minimum yapan sabit

\frac{4}{3}

'tür.

Doğru yanıt,

L(\theta, \delta)

kayıp fonksiyonunun beklenen değerini (risk fonksiyonunu)

X

'in yoğunluk fonksiyonuna göre hesaplayıp

c

parametresine göre türevini alarak minimize etmemizle elde edilen

\frac{4}{3}

değeridir.

Adım Adım Çözüm

1

Kayıp fonksiyonunun beklenen değerini alarak risk fonksiyonunu tanımla.

R(\theta, c) = E[L(\theta, \delta)] = E\left[ \left( \frac{cX - \theta}{\theta} \right)^2 \right]

Risk fonksiyonu, bir tahmin edicinin seçilen kayıp fonksiyonu altındaki beklenen kaybıdır.

2

Karesel ifadeyi açarak risk fonksiyonunu

X

'in momentleri cinsinden yaz.

R(\theta, c) = E\left[ \frac{c^2X^2 - 2c\theta X + \theta^2}{\theta^2} \right] = \frac{c^2}{\theta^2}E[X^2] - \frac{2c}{\theta}E[X] + 1

Beklenen değer operatörünün doğrusallık özelliğini kullanarak işlemi ayrıştırmak gerekir.

3

Verilen olasılık yoğunluk fonksiyonunu kullanarak birinci ve ikinci momentleri (

E[X]

ve

E[X^2]

) hesapla.

E[X] = \int_0^\theta x \frac{2x}{\theta^2} dx = \frac{2\theta}{3}

ve

E[X^2] = \int_0^\theta x^2 \frac{2x}{\theta^2} dx = \frac{\theta^2}{2}

Formüldeki terimleri bulmak için ilgili dağılımın integral hesapları tamamlanmalıdır.

4

Bulunan momentleri risk fonksiyonunda yerine yaz ve basitleştir.

R(\theta, c) = \frac{c^2}{\theta^2}\left(\frac{\theta^2}{2}\right) - \frac{2c}{\theta}\left(\frac{2\theta}{3}\right) + 1 = \frac{c^2}{2} - \frac{4c}{3} + 1

Risk fonksiyonu böylece

\theta

'dan bağımsız ve sadece

c

'ye bağlı bir ikinci dereceden fonksiyona dönüşür.

5

Risk fonksiyonunu

c

'ye göre minimize et.

\frac{d}{dc}R(\theta, c) = c - \frac{4}{3} = 0 \implies c = \frac{4}{3}

Beklenen kaybı en aza indiren en iyi (optimal) katsayıyı bulmak için birinci türev sıfıra eşitlenir.

Anahtar Kavram

Ölçekten bağımsız karesel kayıp altında risk fonksiyonu hesabı ve minimizasyonu

Tahmini Süre:2m 0s

Soru 2Soru →

X_1, X_2, \dots, X_n

rastgele örneklemi, olasılık yoğunluk fonksiyonu

f(x; \theta) = \frac{1}{\theta} e^{-x/\theta}, \quad x > 0

olan üstel dağılıma sahip bir kitleden alınmıştır (

\theta > 0

).

\theta

parametresinin tahmini için kullanılacak kayıp fonksiyonu,

L(\theta, \delta) = \left( \frac{\delta - \theta}{\theta} \right)^2

olarak tanımlanmıştır.

$\delta(X) = c \sum_{i=1}^n X_i$ formundaki tahmin ediciler dikkate alındığında, maksimum riski en küçük yapan (minimax) tahmin edici aşağıdakilerden hangisidir?

\frac{1}{n-1} \sum_{i=1}^n X_i

\frac{1}{n} \sum_{i=1}^n X_i

\frac{1}{n+1} \sum_{i=1}^n X_i

\frac{2}{n+1} \sum_{i=1}^n X_i

\frac{1}{n+2} \sum_{i=1}^n X_i

Cevabı ve açıklamayı göster

Cevap: $\frac{1}{n+1} \sum_{i=1}^n X_i$

Cevap

Maksimum riski en küçük yapan minimax tahmin edici

\frac{1}{n+1} \sum_{i=1}^n X_i

ifadesidir.

Verilen oransal karesel kayıp fonksiyonu kullanılarak elde edilen risk fonksiyonu,

\theta

'dan bağımsız (sabit risk) çıkmaktadır. Bu risk fonksiyonu

c

'nin bir fonksiyonu olan

c^2 n(n+1) - 2cn + 1

ifadesine eşittir. Bu ifadeyi minimize etmek, maksimum riski minimize etmek (minimax prensibi) anlamına gelir. Fonksiyonun

c

'ye göre birinci dereceden türevi alınıp sıfıra eşitlendiğinde

c = 1/(n+1)

katsayısı elde edilir. İlgili sınıf içindeki minimax tahmin edici bu formdadır.

Adım Adım Çözüm

1

T = \sum_{i=1}^n X_i

istatistiğinin dağılımını ve momentlerini belirleyin.

T \sim Gamma(n, \theta)

dağılımına sahiptir. Beklenen değeri

E(T) = n\theta

ve varyansı

Var(T) = n\theta^2

olarak bulunur.

Risk fonksiyonunu hesaplayabilmek için

T

'nin birinci ve ikinci momentlerine ihtiyaç vardır.

2

T

'nin ikinci momentini (

E(T^2)

) hesaplayın.

E(T^2) = Var(T) + [E(T)]^2 = n\theta^2 + (n\theta)^2 = n(n+1)\theta^2

elde edilir.

Kayıp fonksiyonu karesel olduğu için beklenen değer işleminde

T

'nin karesinin beklenen değeri gerekecektir.

3

Verilen kayıp fonksiyonu üzerinden risk fonksiyonunu

R(\theta, \delta) = E[L(\theta, \delta)]

kurgulayın.

\delta = cT

yerine konulduğunda:

R(\theta, cT) = E\left[ \frac{(cT - \theta)^2}{\theta^2} \right] = \frac{1}{\theta^2} \left( c^2 E(T^2) - 2c\theta E(T) + \theta^2 \right)

.

Minimax prensibi gereği risk fonksiyonunun maksimumunu minimize edecek

c

katsayısını bulmak hedeflenmektedir.

4

Momentleri risk fonksiyonunda yerine yazarak denklemi sadeleştirin.

R(\theta, cT) = \frac{1}{\theta^2} \left( c^2 n(n+1)\theta^2 - 2c\theta(n\theta) + \theta^2 \right) = c^2 n(n+1) - 2cn + 1

.

Risk fonksiyonunun

\theta

parametresinden bağımsız (sabit risk) bir forma dönüştüğünü doğrulamak ve sadece

c

'ye bağlı bir fonksiyon elde etmek.

5

Elde edilen sabit risk fonksiyonunu

c

'ye göre minimize edin.

\frac{d}{dc} [c^2 n(n+1) - 2cn + 1] = 2c n(n+1) - 2n = 0 \implies c = \frac{2n}{2n(n+1)} = \frac{1}{n+1}

.

Sabit bir riske sahip olan ve bu riski optimize eden tahmin edici, ilgili sınıf için minimax tahmin edici şartını sağlar.

Anahtar Kavram

Oransal Karesel Kayıp Fonksiyonu ve Sabit Risk ile Minimax Tahmini

Soru 3Soru →

Yeni geliştirilen bir batarya teknolojisinin dayanım süresi, $\theta > 0$ olmak üzere ortalaması $\theta$ olan üstel dağılım ile modellenmektedir. Kalite kontrol birimi, üretilen bataryalardan bağımsız $n$ tanesini teste tabi tutarak örneklem ortalamasını ( $\bar{X}$ ) hesaplamıştır.

Birim, $\theta$ parametresini tahmin etmek için karesel hata kayıp fonksiyonunu ( $L(\theta, T) = (T - \theta)^2$ ) kullanmaktadır. Tahmin edici olarak $T = c\bar{X}$ formunda bir sınıf belirlenmiştir.

Buna göre, risk fonksiyonunu tüm $\theta$ değerleri için en küçük yapan $c$ katsayısı aşağıdakilerden hangisidir?

\frac{n}{n+1}

1

n

\frac{1}{2}

\frac{n-1}{n}

Cevabı ve açıklamayı göster

Cevap: $\frac{n}{n+1}$

Cevap

Risk fonksiyonunu en küçük yapan katsayı

\frac{n}{n+1}

değeridir.

Karesel hata kayıp fonksiyonu altında risk fonksiyonu, Hata Kareler Ortalamasıdır (MSE). MSE formülü varyans ile yan miktarının karesinin toplamıdır. Verilen üstel dağılım için

Var(c\bar{X}) = c^2\theta^2/n

ve

Bias = \theta(c-1)

olur. Bu iki bileşenin kareleri toplamı alınıp

c

'ye göre türevi alındığında ve sıfıra eşitlendiğinde, riski en küçük yapan optimal katsayı

\frac{n}{n+1}

olarak elde edilir.

Adım Adım Çözüm

1

Karesel hata kayıp fonksiyonu altında risk fonksiyonunun (MSE) formülünü tanımlayın.

R(\theta, T) = E[(T - \theta)^2] = Var(T) + [Bias(T)]^2

Risk, kayıp fonksiyonunun beklenen değeridir ve karesel kayıp için bu değer varyans ile yan miktarının karesinin toplamına eşdeğerdir.

2

Tahmin edici

T = c\bar{X}

için beklenen değer ve varyansı hesaplayın.

Üstel dağılımda

E[X] = \theta

ve

Var(X) = \theta^2

olduğundan,

E[\bar{X}] = \theta

ve

Var(\bar{X}) = \frac{\theta^2}{n}

olur. Buradan

E[c\bar{X}] = c\theta

ve

Var(c\bar{X}) = c^2\frac{\theta^2}{n}

bulunur.

Riskin bileşenleri olan yan ve varyansı bulabilmek için istatistiğin dağılımsal özelliklerine ihtiyaç vardır.

3

T = c\bar{X}

tahmin edicisinin yan (bias) miktarını belirleyin.

Bias(T) = E[T] - \theta = c\theta - \theta = \theta(c - 1)

MSE formülündeki yan miktarının karesi bileşenini elde etmek için gereklidir.

4

Yan ve varyans değerlerini yerine koyarak risk fonksiyonunu

c

'ye bağlı bir denklem olarak yazın.

R(\theta, c\bar{X}) = c^2 \frac{\theta^2}{n} + \theta^2(c - 1)^2 = \theta^2 \left( \frac{c^2}{n} + c^2 - 2c + 1 \right) = \theta^2 \left( c^2 \frac{n+1}{n} - 2c + 1 \right)

Minimize edilecek olan asıl hedef fonksiyonunu oluşturmak hedeflenmektedir.

5

Risk fonksiyonunun

c

'ye göre türevini alıp sıfıra eşitleyerek minimum değeri veren katsayıyı bulun.

\frac{d}{dc} R = \theta^2 \left( 2c \frac{n+1}{n} - 2 \right) = 0 \implies 2c \frac{n+1}{n} = 2 \implies c = \frac{n}{n+1}

Fonksiyonun minimum noktasını bulmak için birinci türevi sıfıra eşitlenmelidir.

Anahtar Kavram

Karesel Kayıp Altında Risk Minimizasyonu (MSE)

Soru 4Soru →

Bir kamu kurumu uzmanı, bölgesel enflasyon oranını ( $\theta$ ) tahmin etmek için istatistiksel karar teorisine dayalı bir model kurmaktadır. Parametrenin tahmini için karesel kayıp fonksiyonu, $L(\theta, \delta) = (\theta - \delta)^2$ , kullanılmaktadır.

Uzman,

\theta

parametresi için uygun gördüğü bir

\pi(\theta)

önsel dağılımını kullanarak Bayes tahmin edicisi

\delta_B

'yi elde etmiştir. Daha sonra bu tahmin edicinin risk fonksiyonunu,

R(\theta, \delta_B)

, hesaplamış ve elde ettiği sonucun tüm

\theta

değerleri için

\theta

'dan bağımsız pozitif bir

c

sabitine eşit olduğunu gözlemlemiştir:

R(\theta, \delta_B) = c

İstatistiksel karar teorisi kurallarına göre, bu tahmin edici ve önsel dağılım ile ilgili aşağıdakilerden hangisi kesinlikle doğrudur?

\delta_B

tahmin edicisi minimax tahmin edicidir ve kullanılan

\pi(\theta)

önsel dağılımı en elverişsiz (least favorable) önsel dağılımdır.

\delta_B

'nin risk fonksiyonu sabit olduğu için tahmin edicinin yansız (unbiased) ve minimum varyanslı olduğu kanıtlanmıştır, ancak minimaxlık söylenemez.

Kullanılan

\pi(\theta)

önsel dağılımı kesinlikle bilgi içermeyen (non-informative) bir dağılımdır ve

\delta_B

'nin Bayes riski sıfıra eşittir.

\delta_B

minimax tahmin edicidir, ancak

\pi(\theta)

'nın en elverişsiz önsel dağılım olması için risk fonksiyonunun

\theta

'ya göre katı dışbükey (strictly convex) olması gerekir.

Riskin parametreden bağımsız sabit bir değer olması,

\delta_B

'nin sadece tutarlı (consistent) bir tahmin edici olduğunu gösterir, minimaxlık garantisi vermez.

Cevabı ve açıklamayı göster

Cevap: $\delta_B$ tahmin edicisi minimax tahmin edicidir ve kullanılan $\pi(\theta)$ önsel dağılımı en elverişsiz (least favorable) önsel dağılımdır.

Cevap

Bayes tahmin edicisinin risk fonksiyonunun tüm parametre uzayında sabit olması durumunda bu tahmin edicinin minimax olduğu ve kullanılan önsel dağılımın en elverişsiz önsel dağılım olduğunu belirten ifadedir.

İstatistiksel karar teorisinde kanıtlanmış temel bir teorem şudur: Eğer

\delta

bir Bayes tahmin edicisi ise ve onun risk fonksiyonu

R(\theta, \delta)

tüm olası

\theta

değerleri için sabit bir

c

değerine eşitse, o zaman

\delta

kesinlikle bir minimax tahmin edicidir. Dahası,

\delta

'nın hesaplandığı

\pi(\theta)

önsel dağılımı, tüm olasılık dağılımları arasında Bayes riskini maksimize ettiği için 'en elverişsiz (least favorable) önsel dağılım' olarak adlandırılır. Sorudaki senaryo eksiksiz bir biçimde bu teoremin tanımını vermektedir.

Adım Adım Çözüm

1

Bayes tahmin edicisinin risk özelliklerini analiz etme

Senaryoda

\delta_B

'nin bir Bayes tahmin edicisi olduğu ve risk fonksiyonunun

R(\theta, \delta_B) = c

şeklinde sabit olduğu tespit edilmiştir.

İstatistiksel karar teorisindeki temel teoremleri uygulayabilmek için öncelikle hipotezlerin ve verilenlerin netleştirilmesi gerekir.

2

Minimaxlık teoremini (Bayes tahmin edicisi ilişkisi) uygulama

Bir tahmin edici Bayes tahmin edicisi ise ve risk fonksiyonu tüm parametre uzayında sabit bir değere sahipse, bu tahmin edici supremum riskini (maksimum riski) minimize ettiği için minimax bir tahmin edicidir.

Sabit riskli Bayes tahmin edicisi, kendi supremum riskinin Bayes riskine eşit olduğu tek teorik durumdur.

3

Önsel dağılımın karar teorisindeki durumunu belirleme

Sabit riske sahip bir Bayes tahmin edicisi üreten önsel dağılım, Bayes riskini (sabit risk

c

) maksimize ettiği için 'en elverişsiz (least favorable) önsel dağılım' olarak tanımlanır.

Minimax tahmin edicisinin riski, her zaman en elverişsiz önsel dağılımın Bayes riskine eşittir.

Anahtar Kavram

Sabit Riskli Bayes Tahmin Edicisi ve En Elverişsiz Önsel Dağılım Teoremi

Tahmini Süre:1m 30s

Soru 5Soru →

Bir sigorta şirketinin belirli bir bölgede karşılaştığı günlük trafik kazası sayısı, bilinmeyen $\lambda > 0$ parametreli Poisson dağılımı ile modellenmektedir. $\lambda$ parametresini tahmin etmek için $n$ günlük rastgele bir örneklem olan $X_1, X_2, \dots, X_n$ alınmış ve tahmin edici olarak örneklem ortalaması ( $\hat{\lambda} = \bar{X}$ ) önerilmiştir.

Bu tahmin problemi için kullanılacak kayıp fonksiyonu, tahmin hatasını parametrenin büyüklüğüne göre ölçeklendiren

L(\lambda, \hat{\lambda}) = \frac{(\hat{\lambda} - \lambda)^2}{\lambda}

şeklinde belirlenmiştir.

Buna göre, belirtilen kayıp fonksiyonu altında $\hat{\lambda}$ tahmin edicisinin risk fonksiyonu $R(\lambda, \hat{\lambda})$ ve bu tahmin edicinin istatistiksel özelliği aşağıdakilerden hangisinde doğru ifade edilmiştir?

R(\lambda, \hat{\lambda}) = \frac{\lambda}{n}

'dir ve risk parametreye bağlı olarak sınırsız artabildiği için minimax bir tahmin edici olamaz.

R(\lambda, \hat{\lambda}) = \frac{1}{n\lambda}

'dır ve risk

\lambda

sıfıra yaklaşırken sonsuza gittiği için minimax bir tahmin edici olamaz.

R(\lambda, \hat{\lambda}) = \frac{1}{n^2}

'dir ve risk sabit olmasına rağmen örneklem çapının karesiyle azaldığı için minimax değildir.

R(\lambda, \hat{\lambda}) = \frac{1}{n}

'dir ve risk parametreden bağımsız (sabit) olduğu için uygunluk (admissibility) koşulu altında bir minimax tahmin edicidir.

R(\lambda, \hat{\lambda}) = \frac{\lambda^2}{n}

'dir ve risk karesel olarak arttığı için minimax özelliği göstermez.

Cevabı ve açıklamayı göster

Cevap: $R(\lambda, \hat{\lambda}) = \frac{1}{n}$ 'dir ve risk parametreden bağımsız (sabit) olduğu için uygunluk (admissibility) koşulu altında bir minimax tahmin edicidir.

Cevap

Tahmin edicinin risk fonksiyonu 1/n olarak hesaplanır. Risk, bilinmeyen parametreden (λ) bağımsız ve sabit olduğu için, bu tahmin edici (uygunluk şartı altında) minimax özellik gösterir.

Risk fonksiyonu, kayıp fonksiyonunun beklenen değeri hesaplanarak bulunur:

R(\lambda, \hat{\lambda}) = E\left[\frac{(\bar{X} - \lambda)^2}{\lambda}\right] = \frac{1}{\lambda} E[(\bar{X} - \lambda)^2]

. Burada

E[(\bar{X} - \lambda)^2]

ifadesi

\bar{X}

'in varyansını ifade eder. Kitle Poisson dağıldığı için kitle varyansı

\lambda

'dır ve

\bar{X}

'in varyansı

\lambda/n

olur. Formülde yerine konulduğunda risk

\frac{1}{\lambda} \cdot \frac{\lambda}{n} = \frac{1}{n}

olarak elde edilir. Bu risk değeri tahmin edilecek parametre olan

\lambda

'ya bağlı olmadığından 'sabit risk' söz konusudur. Karar teorisinde, sabit bir riske sahip olan ve uygun (admissible) olan bir tahmin edici aynı zamanda minimax tahmin edicidir.

Adım Adım Çözüm

1

Risk fonksiyonunun matematiksel tanımını kayıp fonksiyonu üzerinden yazmak.

R(\lambda, \hat{\lambda}) = E[L(\lambda, \hat{\lambda})] = E\left[\frac{(\bar{X} - \lambda)^2}{\lambda}\right]

Risk fonksiyonu, kullanılan kayıp fonksiyonunun örneklem uzayı üzerindeki beklenen değeridir.

2

Beklenen değer operatörünün özelliklerini kullanarak ifadeyi düzenlemek.

R(\lambda, \hat{\lambda}) = \frac{1}{\lambda} E[(\bar{X} - \lambda)^2]

\lambda

sabit bir parametre olduğu için beklenen değer operatörünün dışına katsayı olarak alınabilir.

3

İfadede yer alan

E[(\bar{X} - \lambda)^2]

teriminin neye karşılık geldiğini belirlemek ve Poisson dağılımı için hesaplamak.

E[(\bar{X} - \lambda)^2] = Var(\bar{X}) = \frac{Var(X)}{n} = \frac{\lambda}{n}

Örneklem ortalaması yansız bir tahmin edici olduğu için hatasının karesel beklenen değeri doğrudan varyansına eşittir ve Poisson dağılımında kitle varyansı

\lambda

'dır.

4

Bulunan varyans değerini risk formülünde yerine yazmak ve minimax özelliğini yorumlamak.

R(\lambda, \hat{\lambda}) = \frac{1}{\lambda} \cdot \frac{\lambda}{n} = \frac{1}{n}

Sonuç

\lambda

'dan bağımsızdır (sabittir). İstatistiksel karar teorisine göre sabit riske sahip olan uygun (admissible) bir tahmin edici, maksimum riskini minimize ettiği için minimax tahmin edicidir.

Anahtar Kavram

Kayıp Fonksiyonları ve Sabit Riskli Minimax Tahmin Ediciler

Soru 6Soru →

Bilinmeyen bir $\theta \in [0, 1]$ parametresine sahip Bernoulli dağılımından $n=1$ hacimli bir $X$ örneklemi çekilmiştir. $\theta$ parametresini tahmin etmek amacıyla $\delta(X) = \frac{2X + 1}{4}$ tahmin edicisi tanımlanmıştır. Karesel kayıp fonksiyonunun $L(\theta, \delta) = (\delta - \theta)^2$ olduğu bilindiğine göre, bu tahmin edicinin risk fonksiyonu $R(\theta, \delta)$ aşağıdakilerden hangisidir?

1/16

\theta(1-\theta)

\frac{\theta(1-\theta)}{4}

1/4

\theta^2

Cevabı ve açıklamayı göster

Cevap: 1/16

Cevap

Risk fonksiyonu, parametreden bağımsız olarak sabit 1/16 değerine eşittir.

Söz konusu tahmin edicinin riski hesaplandığında

\theta

parametresine bağlı tüm terimler birbirini sadeleştirmekte ve sonuç sabit 1/16 çıkmaktadır. Bu durum, tahmin edicinin 'sabit risk' özelliğine sahip olduğunu ve Bernoulli dağılımı için minimax tahmin edici adaylarından biri olduğunu gösterir.

Adım Adım Çözüm

1

Risk fonksiyonu tanımını yazma

R(\theta, \delta) = E[(\delta - \theta)^2]

olarak tanımlanır.

Karesel kayıp fonksiyonu altında risk, Hata Kareler Ortalaması'na (MSE) eşittir.

2

Dağılım özelliklerini belirleme

X \sim Bernoulli(\theta)

olduğu için

E[X] = \theta

ve

E[X^2] = \theta

(çünkü

1^2\theta + 0^2(1-\theta) = \theta

) olur.

Risk hesaplamasındaki beklenen değer işlemleri için kitlenin momentleri gereklidir.

3

Tahmin ediciyi formülde yerine koyma ve genişletme

R(\theta, \delta) = E[\left(\frac{2X+1}{4} - \theta\right)^2] = \frac{1}{16} E[(2X + 1 - 4\theta)^2]

elde edilir.

Hesaplamayı kolaylaştırmak için paydadaki sabit dışarı karesi alınarak çıkarılır.

4

Karesel ifadeyi açma ve beklenen değeri uygulama

\frac{1}{16} E[4X^2 + 1 + 16\theta^2 + 4X - 16\theta X - 8\theta] = \frac{1}{16} [4\theta + 1 + 16\theta^2 + 4\theta - 16\theta^2 - 8\theta]

olur.

Beklenen değer operatörünün doğrusal özelliği kullanılarak her terimin beklenen değeri alınır.

5

Sadeleştirme ve nihai sonucu bulma

\frac{1}{16} [ (4\theta + 4\theta - 8\theta) + (16\theta^2 - 16\theta^2) + 1 ] = \frac{1}{16}

bulunur.

\theta

içeren tüm terimler birbirini yok eder ve risk fonksiyonu sabit bir değere dönüşür.

Anahtar Kavram

Risk fonksiyonu, bir tahmin edicinin kayıp fonksiyonu altındaki beklenen değeridir ve karesel kayıp durumunda

MSE(\delta) = Var(\delta) + [Bias(\delta)]^2

formülüyle de hesaplanabilir.

Soru 7Soru →

İstatistiksel karar teorisinde, bilinmeyen bir $\theta$ parametresinin tahmini için bir $\delta$ tahmin edicisi ve bu tahmin ediciye ait $R(\theta, \delta)$ risk fonksiyonu tanımlanmıştır. Buna göre, "minimax" karar kriterinin temel amacı aşağıdakilerden hangisidir?

Risk fonksiyonunun parametre uzayı üzerindeki maksimum değerini minimize eden tahmin ediciyi belirlemek

Parametrenin önsel dağılımı altında beklenen risk değerini minimize eden tahmin ediciyi seçmek

Tahmin edicinin varyansı ile yanlılık miktarının karesinin toplamını her

\theta

değeri için aynı anda minimize etmek

Kayıp fonksiyonunun türevinin sıfır olduğu noktada parametre değerini tahmin etmek

Örneklem hacmi arttıkça risk fonksiyonunun değerini her zaman sıfıra yaklaştırmak

Cevabı ve açıklamayı göster

Cevap: Risk fonksiyonunun parametre uzayı üzerindeki maksimum değerini minimize eden tahmin ediciyi belirlemek

Cevap

Minimax karar kriterinin amacı, risk fonksiyonunun parametre uzayı üzerindeki maksimum değerini (en kötü durumu) minimize eden tahmin ediciyi belirlemektir.

Minimax (Minimum-Maksimum) terimi adından da anlaşılacağı üzere, risk fonksiyonunun (

\theta

parametre uzayı üzerindeki) maksimum değerlerinin en küçüğünü (minimumunu) veren tahmin edicinin seçilmesi ilkesine dayanır. Bu kriter, parametre hakkında hiçbir ön bilgi (önsel dağılım) bulunmadığında 'en kötü durum' riskini garanti altına almak için kullanılır.

Adım Adım Çözüm

1

Risk fonksiyonunun tanımlanması

R(\theta, \delta) = E[L(\theta, \delta(X))]

olduğu belirlenir.

Karar teorisinde performansın ölçütü olan risk fonksiyonu, kayıp fonksiyonunun beklenen değeridir.

2

Maksimum riskin belirlenmesi

M(\delta) = \sup_{\theta} R(\theta, \delta)

değeri hesaplanır.

Minimax yaklaşımı, bir tahmin edicinin karşılaşabileceği en büyük kaybı (riski) kontrol altına almak ister.

3

Kriterin uygulanması

\min_{\delta} M(\delta) = \min_{\delta} \max_{\theta} R(\theta, \delta)

işlemi gerçekleştirilir.

Farklı tahmin ediciler arasından, maksimum riski en küçük olanı seçmek minimax stratejisidir.

Anahtar Kavram

Minimax Karar Kriteri ve Maksimum Risk Optimizasyonu

Tahmini Süre:45s

Soru 8Soru →

Bir fabrikada üretilen belirli bir elektronik parçanın kusurlu olma olasılığı $\theta$ 'dır. Üretim bandından rastgele seçilen $n$ adet parçanın $X$ tanesinin kusurlu olduğu gözlemlenmiştir ( $X \sim Bin(n, \theta)$ ).

$\theta$ parametresini tahmin etmek için karesel kayıp fonksiyonu $L(\theta, \hat{\theta}) = (\theta - \hat{\theta})^2$ kullanılmaktadır.

Buna göre, $\hat{\theta} = \frac{X + a}{n + b}$ formundaki bir tahmin edicinin $\theta$ için minimax tahmin edici olması için $a$ ve $b$ sabitleri sırasıyla aşağıdakilerden hangisi olmalıdır?

\frac{1}{2}

ve

\sqrt{n}

\sqrt{n}

ve

\sqrt{n}

\frac{\sqrt{n}}{2}

ve

\sqrt{n}

1

ve

2

0

ve

0

Cevabı ve açıklamayı göster

Cevap: $\frac{\sqrt{n}}{2}$ ve $\sqrt{n}$

Cevap

Minimax tahmin edici olması için katsayılar sırasıyla

\frac{\sqrt{n}}{2}

ve

\sqrt{n}

olmalıdır.

Karesel kayıp fonksiyonu kullanıldığında,

\hat{\theta}

Bayes tahmin edicisinin minimax olabilmesi için riskinin sabit, yani

\theta

'dan bağımsız olması gerekir. Risk fonksiyonu

R(\theta, \hat{\theta}) = \frac{\theta^2(b^2 - n) + \theta(n - 2ab) + a^2}{(n+b)^2}

olarak hesaplanır. Bu ifadenin

\theta

'dan bağımsız olabilmesi için

\theta^2

'li ve

\theta

'lı terimlerin katsayıları sıfır olmalıdır. Buradan

b^2 - n = 0 \implies b = \sqrt{n}

ve

n - 2ab = 0 \implies a = \frac{\sqrt{n}}{2}

değerleri elde edilir.

Adım Adım Çözüm

1

Risk fonksiyonunu Hata Kareler Ortalaması (MSE) üzerinden

R(\theta, \hat{\theta}) = Var(\hat{\theta}) + [Yan(\hat{\theta})]^2

şeklinde yazmak.

R(\theta, \hat{\theta}) = Var\left(\frac{X+a}{n+b}\right) + \left[E\left(\frac{X+a}{n+b}\right) - \theta\right]^2

Karesel kayıp fonksiyonu altında tahmin edicinin riski, varyansı ile yan miktarının karesinin toplamına eşittir.

2

X \sim Bin(n, \theta)

dağılımının beklenen değer ve varyansını kullanarak risk fonksiyonunu oluşturmak.

R(\theta, \hat{\theta}) = \frac{n\theta(1-\theta)}{(n+b)^2} + \left(\frac{n\theta+a}{n+b} - \theta\right)^2

Risk formülündeki terimleri

\theta

parametresine bağlı olarak açıkça ifade etmek gerekir.

3

Elde edilen risk fonksiyonunu genişletmek ve

\theta

'nın derecelerine göre gruplandırmak.

R(\theta, \hat{\theta}) = \frac{\theta^2(b^2 - n) + \theta(n - 2ab) + a^2}{(n+b)^2}

Riskin

\theta

'ya nasıl bağlı olduğunu görmek için cebirsel düzenleme yapılmalıdır.

4

Bir Bayes tahmin edicisinin minimax olabilmesi için sabit riskli olması koşulunu kullanmak, yani

\theta^2

ve

\theta

katsayılarını sıfıra eşitlemek.

b^2 - n = 0 \implies b = \sqrt{n}

ve

n - 2ab = 0 \implies a = \frac{\sqrt{n}}{2}

bulunur.

Sabit riskli (risk fonksiyonu parametreden bağımsız olan) bir Bayes tahmin edicisi her zaman minimax tahmin edicidir.

Anahtar Kavram

Karesel Kayıp Altında Minimax Tahmin Edici ve Sabit Risk Özelliği

Tahmini Süre:4m 0s

Soru 9Soru →

$X_1, X_2, \dots, X_n$ rastgele örneklemi, $(0, \theta)$ aralığında düzgün (uniform) dağılıma sahip bir kitleden alınmıştır. $\theta > 0$ bilinmeyen parametresini tahmin etmek için aşağıdaki ölçeklenmiş hata kareler (scaled squared error) kayıp fonksiyonu kullanılmaktadır:

L(\theta, \delta) = \left( \frac{\delta}{\theta} - 1 \right)^2

$\delta(X) = c X_{(n)}$ (burada $X_{(n)}$ örneklem maksimumu ve $c$ bir sabittir) biçimindeki tahmin ediciler sınıfı dikkate alındığında, bu sınıf içindeki minimax tahmin edici ve bu tahmin ediciye ait sabit risk değeri aşağıdakilerden hangisinde doğru olarak verilmiştir?

Tahmin Edici:

\frac{n+2}{n+1} X_{(n)}

, Risk:

\frac{1}{(n+1)^2}

Tahmin Edici:

X_{(n)}

, Risk:

\frac{2}{(n+1)(n+2)}

Tahmin Edici:

\frac{n+1}{n} X_{(n)}

, Risk:

\frac{1}{n(n+2)}

Tahmin Edici:

\frac{n}{n+1} X_{(n)}

, Risk:

\frac{2}{(n+1)^2}

Tahmin Edici:

\frac{n+2}{n} X_{(n)}

, Risk:

\frac{1}{(n+2)^2}

Cevabı ve açıklamayı göster

Cevap: Tahmin Edici: $\frac{n+2}{n+1} X_{(n)}$ , Risk: $\frac{1}{(n+1)^2}$

Cevap

Minimax tahmin edici

\frac{n+2}{n+1} X_{(n)}

ve bu tahmin edicinin riski

\frac{1}{(n+1)^2}

'dir.

Verilen kayıp fonksiyonu

L(\theta, \delta) = (\frac{\delta}{\theta} - 1)^2

altında

\delta(X) = cX_{(n)}

biçimindeki tahmin edicilerin riski

\theta

'dan bağımsızdır ve

R(c) = c^2 \frac{n}{n+2} - 2c \frac{n}{n+1} + 1

şeklindedir. Risk,

\theta

'ya bağlı olmadığı için doğrudan

c

'ye göre minimize edilebilir. Türev alınıp sıfıra eşitlendiğinde

c = \frac{n+2}{n+1}

bulunur. Bu katsayı ile tahmin edici

\frac{n+2}{n+1}X_{(n)}

olur. Bu

c

değeri risk denkleminde yerine konulduğunda minimum risk değeri

\frac{1}{(n+1)^2}

olarak elde edilir.

Adım Adım Çözüm

1

X_{(n)}

(örneklem maksimumu) istatistiğinin olasılık yoğunluk fonksiyonunu belirle.

f(y) = \frac{n y^{n-1}}{\theta^n}, \quad 0 < y < \theta

Risk fonksiyonunu hesaplayabilmek için

X_{(n)}

'in dağılımına ve beklenen değerlerine ihtiyaç vardır.

2

X_{(n)}

'in birinci ve ikinci momentlerini (beklenen değerlerini) hesapla.

E[X_{(n)}] = \frac{n}{n+1}\theta

ve

E[X_{(n)}^2] = \frac{n}{n+2}\theta^2

Kayıp fonksiyonunda

\delta(X)^2

ve

\delta(X)

terimleri yer aldığından bu momentler kullanılacaktır.

3

Verilen kayıp fonksiyonu için Risk fonksiyonunu

R(\theta, cX_{(n)})

oluştur.

R(\theta, c X_{(n)}) = E\left[ \left( \frac{c X_{(n)}}{\theta} - 1 \right)^2 \right] = \frac{c^2}{\theta^2} E[X_{(n)}^2] - \frac{2c}{\theta} E[X_{(n)}] + 1

Risk, kayıp fonksiyonunun beklenen değeridir ve minimax tahmin ediciyi bulmak için bu fonksiyon analiz edilmelidir.

4

Moment değerlerini Risk fonksiyonunda yerine koy.

R(c) = \frac{c^2}{\theta^2} \left( \frac{n}{n+2}\theta^2 \right) - \frac{2c}{\theta} \left( \frac{n}{n+1}\theta \right) + 1 = c^2 \frac{n}{n+2} - 2c \frac{n}{n+1} + 1

Görüldüğü üzere, ölçeklenmiş kayıp fonksiyonu sayesinde Risk değeri

\theta

'dan bağımsız sabit bir değere dönüşmüştür.

5

Riski minimize eden

c

sabitini bulmak için fonksyionun

c

'ye göre türevini al ve sıfıra eşitle.

\frac{d R}{d c} = 2c \frac{n}{n+2} - 2 \frac{n}{n+1} = 0 \implies c = \frac{n+2}{n+1}

Tahmin edicilerin riski sabit olduğundan, bu sınıf içindeki minimax tahmin edici basitçe riski en küçük yapan

c

değerine karşılık gelir.

6

Bulunan

c

değerini Risk fonksiyonunda yerine koyarak minimum riski hesapla.

R_{min} = \left(\frac{n+2}{n+1}\right)^2 \frac{n}{n+2} - 2\left(\frac{n+2}{n+1}\right)\frac{n}{n+1} + 1 = \frac{n(n+2)}{(n+1)^2} - \frac{2n(n+2)}{(n+1)^2} + 1 = 1 - \frac{n^2+2n}{(n+1)^2} = \frac{1}{(n+1)^2}

Soruda hem tahmin edici hem de ona ait sabit minimax risk değeri istenmektedir.

Anahtar Kavram

Ölçeklenmiş Kayıp Fonksiyonları Altında Minimax Tahmin

Soru 10Soru →

Bir kamu kurumunun analiz biriminde, belirli bir hizmet noktasına gelen günlük başvuru sayıları $\lambda$ parametreli Poisson dağılımına uygun olarak modellenmektedir. Kurum uzmanları, $n$ günlük bağımsız gözlem sonuçlarının ortalaması olan $\bar{X}$ istatistiğini $\lambda$ parametresi için tahmin edici olarak kullanmaktadır.

Tahmin sürecinde, hataların parametre büyüklüğüne göre oransal etkisini dikkate alan ağırlıklandırılmış karesel kayıp fonksiyonu

L(\lambda, \bar{X}) = \frac{(\bar{X} - \lambda)^2}{\lambda}

olarak tanımlanmıştır.

Buna göre, uzmanların kullandığı $\bar{X}$ tahmin edicisinin risk fonksiyonu $R(\lambda, \bar{X})$ aşağıdakilerden hangisine eşittir?

\frac{\lambda}{n}

1

\frac{1}{n}

\frac{1}{n^2}

\frac{1}{\lambda n}

Cevabı ve açıklamayı göster

Cevap: $\frac{1}{n}$

Cevap

Risk fonksiyonunun değeri

\frac{1}{n}

olarak hesaplanır.

Risk fonksiyonu

R(\theta, \hat{\theta})

, tanımlanan kayıp fonksiyonunun beklenen değerine eşittir. Verilen

L(\lambda, \bar{X})

fonksiyonunun beklenen değerini aldığımızda,

1/\lambda

sabit çarpanı dışarı çıkar. Geriye kalan

E[(\bar{X} - \lambda)^2]

ifadesi,

\bar{X}

yansız bir tahmin edici olduğu için doğrudan

\bar{X}

'in varyansını (Var(

\bar{X}

)) verir. Poisson dağılımında kitle varyansı

\lambda

'dır; dolayısıyla

n

hacimli örneklemin ortalamasının varyansı

\lambda/n

'dir. Bu değeri risk formülünde yerine yazdığımızda

1/\lambda \cdot (\lambda/n)

sadeleşerek geriye

1/n

kalır. Bu durum, bu tahmin edicinin riskinin parametre değerinden bağımsız ve sabit olduğunu gösterir.

Adım Adım Çözüm

1

Risk fonksiyonunun tanımını kayıp fonksiyonunun beklenen değeri olarak yazın.

R(\lambda, \bar{X}) = E[L(\lambda, \bar{X})]

Risk fonksiyonu, kullanılan kayıp fonksiyonunun örneklem uzayı üzerindeki beklenen (ortalaması alınan) değeridir.

2

Verilen

L(\lambda, \bar{X})

fonksiyonunu beklenen değer formülünde yerine koyun.

R(\lambda, \bar{X}) = E\left[\frac{(\bar{X} - \lambda)^2}{\lambda}\right]

Soru kökünde ağırlıklandırılmış karesel kayıp fonksiyonu tanımlanmıştır.

3

Beklenen değer operatörünün doğrusal özelliğini kullanarak sabiti (

\frac{1}{\lambda}

) dışarı alın.

R(\lambda, \bar{X}) = \frac{1}{\lambda} E[(\bar{X} - \lambda)^2]

\lambda

bilinen bir parametredir ve beklenen değer işlemi rastgele değişken olan

\bar{X}

üzerinden yapılmaktadır.

4

E[(\bar{X} - \lambda)^2]

ifadesinin istatistiksel karşılığını belirleyin.

E[(\bar{X} - E[\bar{X}])^2] = Var(\bar{X})

\bar{X}

,

\lambda

için yansız bir tahmin edicidir (

E[\bar{X}] = \lambda

). Bu nedenle tahmin hatasının karesinin beklenen değeri doğrudan

\bar{X}

'in varyansına eşittir.

5

Poisson dağılımı için örneklem ortalamasının varyansını hesaplayın ve yerine koyarak işlemi tamamlayın.

Var(\bar{X}) = \frac{Var(X)}{n} = \frac{\lambda}{n}

olduğundan;

R(\lambda, \bar{X}) = \frac{1}{\lambda} \cdot \frac{\lambda}{n} = \frac{1}{n}

bulunur.

Risk değerini

\lambda

ve

n

cinsinden sadeleştirmek sonuca ulaşmayı sağlar.

Anahtar Kavram

Risk Fonksiyonunun Beklenen Değer ile Hesaplanması

Soru 11Soru →

Bir istatistik uzmanı, ortalaması $\theta$ ve varyansı $1$ olan normal dağılıma sahip bir kitleden alınan tek bir $X$ gözlemi ile $\theta$ parametresini tahmin etmek istemektedir. Geçmiş çalışmalardan ve fiziksel kısıtlardan dolayı parametre uzayının $\theta \in [-2, 2]$ aralığı ile sınırlı olduğu bilinmektedir.

Uzman, karesel hata kayıp fonksiyonu $L(\theta, d) = (d - \theta)^2$ altında sadece $\hat{\theta}_c = cX \quad (0 \le c \le 1)$ formundaki tahmin edicileri dikkate almaktadır.

Buna göre, bu sınıf içindeki tahmin ediciler arasında minimax olan tahmin edici aşağıdakilerden hangisidir?

X

\frac{2}{3}X

\frac{4}{5}X

\frac{1}{2}X

\frac{1}{5}X

Cevabı ve açıklamayı göster

Cevap: $\frac{4}{5}X$

Cevap

\frac{4}{5}X

formundaki tahmin edici

Minimax tahmin edici, maksimum riski en küçük (minimize) yapan tahmin edicidir. Karesel hata kayıp fonksiyonu altında

\hat{\theta}_c = cX

tahmin edicisinin riski (MSE) hesaplandığında

R(\theta, cX) = c^2 + \theta^2(1-c)^2

elde edilir. Parametre uzayı

\theta \in [-2, 2]

ile sınırlı olduğundan, bu risk fonksiyonu

\theta^2 = 4

noktasında en büyük değerini alır. Maksimum risk fonksiyonu

g(c) = c^2 + 4(1-c)^2 = 5c^2 - 8c + 4

olarak yazılır. Bu ifadenin

c

'ye göre birinci türevi alınıp sıfıra eşitlendiğinde (

10c - 8 = 0

), maksimum riski minimize eden katsayı

c = \frac{4}{5}

olarak bulunur.

Adım Adım Çözüm

1

Tahmin edici sınıfının risk fonksiyonunu

R(\theta, \hat{\theta}_c) = E[(cX - \theta)^2]

kuralına göre hesapla.

R(\theta, cX) = \text{Var}(cX) + [\text{Yan}(cX)]^2 = c^2\text{Var}(X) + (c\theta - \theta)^2 = c^2(1) + \theta^2(c-1)^2 = c^2 + \theta^2(1-c)^2

Karesel hata kayıp fonksiyonu altında risk, Hata Kareler Ortalamasına (MSE) eşittir ve MSE her zaman varyans ile yanlılığın karesinin toplamıdır.

2

Verilen parametre aralığında (

\theta \in [-2, 2]

) hesaplanan risk fonksiyonunun alabileceği maksimum değeri bul.

0 \le c \le 1

olduğundan

(1-c)^2 \ge 0

'dır ve risk fonksiyonu

\theta^2

'nin artan bir fonksiyonudur.

\theta \in [-2, 2]

için

\max(\theta^2) = 4

olacağından, Maksimum Risk

= c^2 + 4(1-c)^2

elde edilir.

Minimax kuralı, önce her bir tahmin edici (

c

değeri) için parametre uzayındaki 'en kötü durumu' (maksimum riski) bulmayı gerektirir.

3

Maksimum risk fonksiyonunu

c

'ye göre minimize eden değeri türev yardımıyla bul.

g(c) = c^2 + 4(1-c)^2 = 5c^2 - 8c + 4

. Türev alınarak:

g'(c) = 10c - 8 = 0 \implies c = \frac{8}{10} = \frac{4}{5}

bulunur.

Minimax tahmin edici, maksimum riski en küçük yapan tahmin edicidir.

Anahtar Kavram

Sınırlı Parametre Uzayında Minimax Tahmin

Soru 12Soru →

Bir kitleye ait bilinmeyen $\theta \in [0, 1]$ parametresinin tahmini için önerilen üç farklı tahmin edicinin ( $T_1, T_2$ ve $T_3$ ), karesel kayıp fonksiyonu altında elde edilen risk fonksiyonları aşağıda verilmiştir:

R(\theta, T_1) = 2\theta(1-\theta)

R(\theta, T_2) = \frac{2}{5}

R(\theta, T_3) = \theta^2

Buna göre, minimax prensibini kullanan bir araştırmacının seçeceği tahmin edici ve bu tahmin edicinin garanti edilen maksimum riski aşağıdakilerden hangisinde doğru verilmiştir?

Tahmin Edici:

T_2

, Maksimum Risk:

\frac{2}{5}

Tahmin Edici:

T_1

, Maksimum Risk:

\frac{1}{2}

Tahmin Edici:

T_1

, Maksimum Risk:

\frac{1}{3}

Tahmin Edici:

T_3

, Maksimum Risk:

1

Tahmin Edici:

T_3

, Maksimum Risk:

0

Cevabı ve açıklamayı göster

Cevap: Tahmin Edici: $T_2$ , Maksimum Risk: $\frac{2}{5}$

Cevap

Tahmin Edici: T2, Maksimum Risk: 2/5

Minimax tahmin edici, maksimum riski en küçük yapan tahmin edicidir. Verilen risk fonksiyonlarının [0, 1] aralığındaki maksimum değerleri sırasıyla; T1 için 1/2, T2 için 2/5 ve T3 için 1'dir. Bu değerler (0.5, 0.4 ve 1.0) arasında en küçük olan 2/5 olduğundan, minimax prensibine göre T2 tahmin edicisi seçilmelidir.

Adım Adım Çözüm

1

T_1

tahmin edicisi için

\theta \in [0, 1]

aralığında risk fonksiyonunun maksimum değerini bulun.

R(\theta, T_1) = 2\theta - 2\theta^2

türevi alınıp sıfıra eşitlendiğinde

\theta = 1/2

bulunur. Maksimum risk:

R(1/2, T_1) = 2(1/2)(1/2) = 1/2

'dir.

Minimax prensibi, öncelikle her bir tahmin edicinin alabileceği en yüksek risk değerinin belirlenmesini gerektirir.

2

T_2

tahmin edicisi için risk fonksiyonunun maksimum değerini bulun.

R(\theta, T_2) = 2/5

sabit bir fonksiyondur, dolayısıyla

\theta

'dan bağımsız olarak maksimum riski

2/5

'tir.

Sabit risk fonksiyonlarının maksimum değeri fonksiyonun kendisine eşittir.

3

T_3

tahmin edicisi için risk fonksiyonunun maksimum değerini bulun.

R(\theta, T_3) = \theta^2

artan bir fonksiyondur.

[0, 1]

aralığında maksimum değerini

\theta = 1

noktasında alır ve maksimum riski

1

'dir.

Artan fonksiyonlar en büyük değerini tanım kümesinin sağ uç noktasında alırlar.

4

Elde edilen maksimum risk değerlerini karşılaştırarak en küçük olanı (minimax) seçin.

Maksimum riskler

1/2

(0.5),

2/5

(0.4) ve

1

'dir.

\min(0.5, 0.4, 1) = 0.4

olduğundan en küçük maksimum riski veren tahmin edici

T_2

'dir.

Minimax tahmin edici, en kötü durumu (maksimum riski) minimize eden tahmin edicidir.

Anahtar Kavram

Minimax Tahmin Edici (Kayıp Fonksiyonları ve Risk)

Tahmini Süre:1m 30s

Soru 13Soru →

Bir fabrikada üretilen ürünlerin kalite kontrol sürecinde, rastgele seçilen 4 ürün incelenmektedir. İncelenen ürünler arasındaki kusurlu ürün sayısı $X$ ile gösterilmekte olup, $X \sim \text{Binom}(4, \theta)$ dağılımına sahiptir. Burada $\theta \in (0,1)$ , üretilen herhangi bir ürünün kusurlu olma olasılığıdır.

Karesel kayıp fonksiyonu $L(\theta, d) = (\theta - d)^2$ altında $\theta$ parametresi için $T(X) = cX + d$ biçiminde doğrusal bir tahmin edici oluşturulmak isteniyor.

Bu tahmin edicinin riskinin (hata kareler ortalaması) $\theta$ 'dan bağımsız olarak sabit bir değer alması ve aynı zamanda bir minimax tahmin edici olması için $(c, d)$ sabitleri sırasıyla aşağıdakilerden hangisi olmalıdır?

\left(\frac{1}{4}, 0\right)

\left(\frac{1}{4}, \frac{1}{8}\right)

\left(\frac{1}{5}, \frac{1}{10}\right)

\left(\frac{1}{6}, \frac{1}{12}\right)

\left(\frac{1}{6}, \frac{1}{6}\right)

Cevabı ve açıklamayı göster

Cevap: $\left(\frac{1}{6}, \frac{1}{6}\right)$

Cevap

Minimax tahmin ediciyi sağlayan ve riski minimize ederek sabitleyen katsayılar

\left(\frac{1}{6}, \frac{1}{6}\right)

değerleridir.

Karesel kayıp fonksiyonu altında risk,

\text{Var}(T) + [\text{Yan}(T)]^2

formülü ile bulunur. Sabit bir risk elde etmek için, bu ifade açıldığında

\theta

ve

\theta^2

'li terimlerin katsayıları sıfır olmalıdır.

\theta^2

'nin katsayısı olan

12c^2 - 8c + 1 = 0

denkleminin çözümünden

c=1/6

ve

c=1/2

kökleri çıkar. Minimax kuralı, olası en yüksek riski minimize etmeyi gerektirir.

c=1/2, d=-1/2

ikilisi

1/4

risk üretirken;

c=1/6, d=1/6

ikilisi

1/36

değerinde daha küçük bir maksimum risk üretir. Bu sebeple minimax çözüm

(1/6, 1/6)

olmalıdır.

Adım Adım Çözüm

1

T(X) = cX + d

tahmin edicisi için karesel kayıp altında risk fonksiyonunu (Hata Kareler Ortalaması) oluşturunuz.

R(\theta, T) = \text{Var}(cX+d) + [\text{Yan}(cX+d)]^2 = 4c^2\theta(1-\theta) + (\theta(4c-1) + d)^2

Karesel kayıp fonksiyonunda beklenen risk, varyans ile yan miktarının karesinin toplamı olarak ifade edilir.

2

Elde edilen risk fonksiyonunu

\theta

parametresinin kuvvetlerine göre düzenleyerek katsayıları gruplayınız.

R(\theta, T) = \theta^2[-4c^2 + (4c-1)^2] + \theta[4c^2 + 2d(4c-1)] + d^2

Riskin

\theta

'dan bağımsız sabit bir değer olabilmesi için, denklemdeki

\theta^2

ve

\theta

terimlerinin yok edilmesi gerekir.

3

Öncelikle

\theta^2

'nin katsayısını sıfıra eşitleyerek olası

c

köklerini hesaplayınız.

12c^2 - 8c + 1 = 0 \implies (6c-1)(2c-1) = 0

. Buradan kökler

c_1 = 1/6

ve

c_2 = 1/2

bulunur.

İkinci dereceden bağımlılığı ortadan kaldırmak sabit risk için ilk koşuldur.

4

Bulunan iki farklı

c

değeri için

\theta

'nın katsayısını sıfırlayan

d

değerlerini ve ortaya çıkan sabit riskleri karşılaştırınız.

c=1/2

için

d=-1/2

olur, Sabit Risk

= d^2 = 1/4

'tür.

c=1/6

için

d=1/6

olur, Sabit Risk

= d^2 = 1/36

'dır.

1/36 < 1/4

olduğu için maksimum riski minimize eden değerler seçilir.

Minimax tahmin edici, sabit risk değerleri arasından en küçük olanı (minimum maksimum risk) sağlayan parametre çiftini gerektirir.

Anahtar Kavram

Minimax Tahmin Edici ve Sabit Risk İncelemesi

Tahmini Süre:2m 0s

Kayıp Fonksiyonları, Risk ve Minimax Tahmin Ediciler

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar