Parametre Tahmin Yöntemleri Alıştırma Soruları — KPSS İstatistik — Sayfa 3

Soru 41Soru →

Kalite kontrol sürecinde incelenen elektronik parçaların ömür uzunlukları, beklenen değeri $\theta > 0$ olan üstel (eksponansiyel) dağılıma uymaktadır. Bu kitle dağılımından alınan $n$ hacimli rastgele örneklem kullanılarak $\theta$ parametresinin en çok olabilirlik tahmin edicisi $\hat{\theta} = \bar{X}$ olarak bulunmuştur.

Araştırmacılar, bu bileşenlerin arıza oranını (rate parameter) temsil eden $\lambda = \frac{1}{\theta}$ parametresini tahmin etmek istemektedir. En çok olabilirlik yönteminin değişmezlik (invariance) özelliği gereğince $\lambda$ 'nın tahmin edicisi $\hat{\lambda} = \frac{1}{\bar{X}}$ olarak belirlenmiştir.

Buna göre, $\hat{\lambda}$ tahmin edicisinin istatistiksel özellikleri hakkında aşağıdaki ifadelerden hangisi kesinlikle doğrudur?

Sonlu örneklemlerde yanlı (biased) bir tahmin edici olmasına rağmen tutarlıdır (consistent) ve asimptotik varyansı Cramer-Rao alt sınırına eşit olduğu için asimptotik etkindir.

Değişmezlik özelliği gereğince,

\bar{X}

yansız bir tahmin edici olduğundan

\hat{\lambda}

da her

n

örneklem çapı için yansızdır ve varyansı minimumdur.

Tahmin edicinin beklenen değeri gerçek parametre değerinden farklı olduğu için (yanlılık barındırdığından) tutarlılık özelliğini sağlamaz.

Asimptotik varyansı Delta yöntemi ile hesaplandığında

n\theta^2

olarak bulunur ve bu değer asimptotik Cramer-Rao alt sınırından her zaman büyüktür.

Log-olabilirlik fonksiyonu üzerinden türev alınırken doğrusal olmayan bir dönüşüm kullanıldığından,

\hat{\lambda}

tahmin edicisi asimptotik normallik (asymptotic normality) özelliğini sağlamaz.

Cevabı ve açıklamayı göster

Cevap: Sonlu örneklemlerde yanlı (biased) bir tahmin edici olmasına rağmen tutarlıdır (consistent) ve asimptotik varyansı Cramer-Rao alt sınırına eşit olduğu için asimptotik etkindir.

Cevap

Sonlu örneklemlerde yanlı (biased) bir tahmin edici olmasına rağmen tutarlıdır (consistent) ve asimptotik varyansı Cramer-Rao alt sınırına eşit olduğu için asimptotik etkindir.

Doğru seçenek, tahmin edicinin Jensen eşitsizliği nedeniyle sonlu örneklemlerde yanlı olduğunu, ancak sürekli fonksiyon teoremi sayesinde asimptotik tutarlılığını koruduğunu ve Delta yöntemiyle hesaplanan asimptotik varyansının tam olarak Cramer-Rao alt sınırına ulaştığını (asimptotik etkinlik) belirten ifadedir.

Adım Adım Çözüm

1

Tahmin edicinin yansızlık (unbiasedness) özelliğinin incelenmesi.

E[1/\bar{X}] > 1/\theta

olduğu görülür.

Dönüşüm fonksiyonu

g(x) = 1/x

dışbükey (konveks) olduğundan, Jensen eşitsizliği gereği beklenti operatörü fonksiyon içine doğrudan giremez ve tahmin edici yanlı olur.

2

Tahmin edicinin tutarlılık (consistency) özelliğinin incelenmesi.

Tahmin edici

1/\theta

'ya olasıksal olarak yakınsar.

Büyük sayılar kanunu gereği

\bar{X} \xrightarrow{p} \theta

'dır. Sürekli Fonksiyon Teoremi (Slutsky) sayesinde, sürekli bir dönüşüm olan

g(x) = 1/x

altında

1/\bar{X} \xrightarrow{p} 1/\theta

tutarlılığı korunur.

3

Asimptotik varyansın Delta yöntemi ile hesaplanması.

Asimptotik varyans

1/(n\theta^2)

olarak elde edilir.

Var(g(\bar{X})) \approx [g'(\theta)]^2 Var(\bar{X}) = (-1/\theta^2)^2 (\theta^2/n)

formülü kullanılarak asimptotik dağılımın varyansı hesaplanır.

4

Asimptotik etkinlik (efficiency) durumunun değerlendirilmesi.

Asimptotik etkinlik sağlanır.

Elde edilen asimptotik varyans,

\lambda = 1/\theta

parametresi üzerinden hesaplanan Cramer-Rao alt sınırına (

1/I_n(\lambda)

) tam olarak eşittir.

Anahtar Kavram

En Çok Olabilirlik Tahmin Edicilerinde Dönüşümler (Invariance), Delta Yöntemi ve Asimptotik Özellikler

Tahmini Süre:2m 30s

Soru 42Soru →

Bir araştırmacı, kitle ortalaması $\theta$ ve kitle varyansı $\sigma^2 < \infty$ olan bir dağılımdan alınan $n$ çaplı rastgele bir örneklem $(X_1, X_2, \dots, X_n)$ üzerinden $\theta$ parametresini tahmin etmek istemektedir.

Örneklem ortalaması

\bar{X}_n

olmak üzere, araştırmacı aşağıdaki gibi yeni bir

T_n

tahmin edicisi tanımlamıştır:

T_n = \bar{X}_n + U_n

Burada

U_n

, örneklemden bağımsız bir rastgele değişken dizisi olup olasılık fonksiyonu şu şekildedir:

P(U_n = n) = \frac{1}{n^2}, \quad P(U_n = 0) = 1 - \frac{1}{n^2}

Bu tahmin edici $T_n$ ile ilgili olarak aşağıda verilen ifadelerden hangisi doğrudur?

T_n

,

\theta

için tutarlı ve asimptotik yansız bir tahmin edicidir, ancak Ortalama Hata Karesi (MSE) sıfıra yakınsamaz.

T_n

'nin Ortalama Hata Karesi (MSE) sıfıra yakınsamadığı için,

T_n

,

\theta

için tutarlı bir tahmin edici olamaz.

n \to \infty

iken

U_n

rastgele değişkeninin alabileceği maksimum değer sonsuza gittiği için

T_n

olasılıkta yakınsamaz ve tutarsızdır.

T_n

asimptotik yansız bir tahmin edici olduğu için varyansı sıfıra yakınsar ve bu da onu tutarlı bir tahmin edici yapar.

T_n

'nin içerdiği yan miktarı

n

'ye bağlı olarak sürekli arttığından,

T_n

asimptotik yansız değildir ve dolayısıyla tutarsızdır.

Cevabı ve açıklamayı göster

Cevap: $T_n$ , $\theta$ için tutarlı ve asimptotik yansız bir tahmin edicidir, ancak Ortalama Hata Karesi (MSE) sıfıra yakınsamaz.

Cevap

Tahmin edici asimptotik yansızdır ve olasılıkta kitle ortalamasına yakınsadığı için tutarlıdır; ancak karesel sapmaları içeren MSE değeri sıfıra değil, 1'e yakınsamaktadır.

Tahmin edicinin tutarlılığı, olasılıkta yakınsama (convergence in probability) ile tanımlanır.

U_n

rassal değişkeninin büyük bir değer (

n

) alma olasılığı (

1/n^2

) çok hızlı bir şekilde sıfıra gittiği için

U_n

olasılıkta 0'a yakınsar. Büyük Sayılar Yasası gereği

\bar{X}_n

de olasılıkta

\theta

'ya yakınsar. Bu ikisinin toplamı olan

T_n

, olasılıkta

\theta

'ya yakınsadığı için tutarlıdır. Aynı zamanda

E(T_n) = \theta + 1/n \to \theta

olduğundan asimptotik yansızdır. Ancak,

U_n

'nin varyansı karesel sapmalardan dolayı 1'e yakınsadığı için, toplam MSE değeri 1 olur ve sıfıra yakınsamaz. Bu özel kurgu, MSE'nin sıfıra gitmesinin tutarlılık için yeter koşul olduğunu ancak gerek koşul olmadığını kanıtlayan klasik bir örnektir.

Adım Adım Çözüm

1

T_n

'nin beklenen değerini ve asimptotik yansızlığını hesaplayın.

E(U_n) = n \cdot (1/n^2) + 0 \cdot (1 - 1/n^2) = 1/n

. Dolayısıyla

E(T_n) = E(\bar{X}_n) + E(U_n) = \theta + 1/n

. Limit alındığında

\lim_{n \to \infty} E(T_n) = \theta

olur. Tahmin edici asimptotik yansızdır.

Yansızlık durumunu ve asimptotik özelliklerini belirlemek.

2

T_n

'nin varyansını ve Ortalama Hata Karesini (MSE) hesaplayın.

E(U_n^2) = n^2 \cdot (1/n^2) + 0 = 1

. Buradan

Var(U_n) = 1 - (1/n)^2

.

T_n

'nin varyansı:

Var(T_n) = \frac{\sigma^2}{n} + 1 - \frac{1}{n^2}

. Limit alındığında varyans 1'e gider.

MSE(T_n) = Var(T_n) + [Yan]^2 = \frac{\sigma^2}{n} + 1 \to 1

.

Tutarlılık için yeter koşul olan MSE'nin sıfıra gidip gitmediğini kontrol etmek.

3

T_n

'nin olasılıkta yakınsamasını (tutarlılığını) temel tanımdan inceleyin.

Olasılıkta yakınsama için

P(|U_n| > \epsilon)

limitine bakılır.

\epsilon > 0

için

P(|U_n| > \epsilon) \le P(U_n = n) = 1/n^2 \to 0

. O halde

U_n \xrightarrow{p} 0

.

\bar{X}_n \xrightarrow{p} \theta

olduğundan, toplamları

T_n \xrightarrow{p} \theta

olur.

MSE sıfıra gitmediğinde tahmin edicinin hala tutarlı olup olamayacağını zayıf tutarlılık (olasılıkta yakınsama) tanımıyla doğrulamak.

Anahtar Kavram

Tutarlılık (Consistency) ve Ortalama Hata Karesi (MSE) İlişkisi

Soru 43Soru →

İstatistiksel sonuç çıkarımında, Cramer-Rao düzenlilik koşullarını sağlayan bir kitle dağılımından alınan rastgele örneklem yardımıyla bilinmeyen $\theta$ parametresinin en çok olabilirlik tahmin edicisi (EÇOT) $\hat{\theta}$ olarak elde edilmiştir.

Bu bilgiye dayanarak, sürekli, türevlenebilir ve doğrusal olmayan bir $g(\theta)$ fonksiyonu tanımlanıyor. Ayrıca tüm $\theta$ değerleri için $g'(\theta) \neq 0$ olduğu biliniyor.

$g(\hat{\theta})$ istatistiğinin asimptotik özellikleri ve değişmezlik (invariance) prensibi dikkate alındığında, aşağıdaki ifadelerden hangisi daima doğrudur?

Değişmezlik özelliği sadece doğrusal dönüşümlerde geçerli olduğu için

g(\hat{\theta})

,

g(\theta)

'nın en çok olabilirlik tahmin edicisi değildir.

Tahmin edicinin asimptotik olarak tutarlı (consistent) olabilmesi için sonlu örneklemlerde de mutlaka yansız olması gerekir.

g(\theta)

parametresinin en çok olabilirlik tahmin edicisidir ve asimptotik olarak etkin (efficient) bir tahmin edicidir.

g(\hat{\theta})

tahmin edicisinin varyansı, her örneklem çapı (

n

) için

g(\theta)

'nın Cramer-Rao alt sınırına tam olarak eşittir.

Doğrudan log-olabilirlik fonksiyonunun

g(\theta)

'ya göre türevinin sıfıra eşitlenmesiyle bulunacak tahmin edici,

g(\hat{\theta})

'dan farklıdır.

Cevabı ve açıklamayı göster

Cevap: $g(\theta)$ parametresinin en çok olabilirlik tahmin edicisidir ve asimptotik olarak etkin (efficient) bir tahmin edicidir.

Cevap

g(\theta)

parametresinin en çok olabilirlik tahmin edicisidir ve asimptotik olarak etkin (efficient) bir tahmin edicidir.

Doğru seçenek,

g(\hat{\theta})

istatistiğinin hem değişmezlik kuralı gereği EÇOT olduğunu hem de asimptotik olarak etkin olduğunu belirten ifadedir. Değişmezlik kuralı,

\hat{\theta}

bir EÇOT ise

g(\hat{\theta})

'nın da

g(\theta)

için EÇOT olduğunu garanti eder. Ayrıca,

\hat{\theta}

düzenlilik koşulları altında asimptotik normal ve etkin olduğundan, türevi sıfırdan farklı olan

g(\theta)

fonksiyonları için Delta metodu yardımıyla

g(\hat{\theta})

'nın da asimptotik etkin olduğu ispatlanır.

Adım Adım Çözüm

1

Değişmezlik (invariance) özelliğinin

g(\theta)

fonksiyonu üzerindeki etkisini belirlemek.

g(\theta)

'nın en çok olabilirlik tahmin edicisinin

g(\hat{\theta})

olduğu tespit edilir.

En çok olabilirlik tahmin edicilerinde değişmezlik prensibi, herhangi bir

g

fonksiyonu için parametrenin fonksiyonunun EÇOT'unun, parametrenin EÇOT'unun fonksiyonda yerine yazılmasıyla elde edileceğini belirtir.

2

g(\hat{\theta})

tahmin edicisinin büyük örneklem (asimptotik) özelliklerini incelemek.

g(\hat{\theta})

'nın asimptotik olarak normal dağılıma sahip olduğu ve etkin (efficient) olduğu sonucuna varılır.

Düzenlilik koşulları altında

\hat{\theta}

asimptotik etkindir.

g'(\theta) \neq 0

koşulu sağlandığında, Delta metodu gereği

g(\hat{\theta})

da asimptotik varyansı Cramer-Rao alt sınırına eşit olacak şekilde dağılır ve asimptotik etkin olur.

Anahtar Kavram

En Çok Olabilirlik Tahmin Edicilerinde Değişmezlik ve Asimptotik Etkinlik

Soru 44Soru →

Bir üretim hattında üretilen elektronik parçaların kalite kontrol sürecinde, ilk kusurlu parça bulunana kadar incelenen toplam parça sayısı

X

rassal değişkeni ile modellenmektedir.

X

değişkeninin, kusurlu parça bulma olasılığı

p

olan Geometrik dağılıma sahip olduğu bilinmektedir:

f(x|p) = p(1-p)^{x-1}, \quad x = 1, 2, 3, \dots

Kalite kontrol uzmanı, $p$ parametresi için $\alpha=2$ ve $\beta=3$ parametreli Beta dağılımını önsel (prior) dağılım olarak belirlemiştir.
Rastgele seçilen 4 farklı denetim sürecinde, ilk kusurlu parça bulunana kadar sırasıyla 3, 5, 4 ve 2 adet parça incelenmiştir.

Uzman, $p$ parametresini tahmin etmek için $L(p, \hat{p}) = \frac{(p - \hat{p})^2}{p}$ biçimindeki ağırlıklı karesel hata kayıp fonksiyonunu kullanmaktadır.

Buna göre, $p$ parametresinin Bayes tahmin edicisi aşağıdakilerden hangisidir?

\frac{6}{19}

\frac{2}{7}

\frac{5}{18}

\frac{5}{22}

\frac{7}{20}

Cevabı ve açıklamayı göster

Cevap: $\frac{5}{18}$

Cevap

Doğru yanıt

\frac{5}{18}

'dir.

Verilen Geometrik dağılım ve Beta önseli için sonsal dağılım

\text{Beta}(6, 13)

olarak elde edilir. Kullanılan ağırlıklı karesel hata kayıp fonksiyonu

L(p, \hat{p}) = p^{-1}(p - \hat{p})^2

formunda olduğundan, riski minimize eden Bayes tahmin edicisi

\hat{p}_B = \frac{E[p \cdot p^{-1}|x]}{E[p^{-1}|x]} = \frac{1}{E[p^{-1}|x]}

şeklinde hesaplanır.

\text{Beta}(6, 13)

dağılımı için

E[p^{-1}|x] = \frac{6+13-1}{6-1} = \frac{18}{5}

bulunur. Bu değerin tersi alındığında sonuç

\frac{5}{18}

çıkmaktadır.

Adım Adım Çözüm

1

Önsel (prior) dağılım ve olabilirlik (likelihood) fonksiyonunu belirle.

Önsel:

\pi(p) \propto p^{2-1}(1-p)^{3-1} = p(1-p)^2

Olabilirlik (

n=4

gözlem,

\sum x_i = 14

):

L(p|x) = \prod_{i=1}^4 p(1-p)^{x_i-1} = p^4(1-p)^{14-4} = p^4(1-p)^{10}

Sonsal (posterior) dağılımı elde etmek için Bayes teoremi gereği önsel dağılım ile olabilirlik fonksiyonu çarpılmalıdır.

2

Sonsal dağılımı hesapla.

\pi(p|x) \propto p(1-p)^2 \cdot p^4(1-p)^{10} = p^5(1-p)^{12}

Bu ifade,

\alpha^*=6

ve

\beta^*=13

parametreli Beta(6, 13) dağılımının çekirdeğidir.

Bayes tahmin edicisi, sonsal dağılım üzerinden hesaplanacak beklenen değere dayanır.

3

Verilen ağırlıklı karesel hata kayıp fonksiyonu için Bayes tahmin edicisi formülünü uygula.

L(p, \hat{p}) = p^{-1}(p - \hat{p})^2

formunda olduğundan, problemi minimize eden Bayes tahmin edicisi formülü

\hat{p}_B = \frac{E[p \cdot w(p)|x]}{E[w(p)|x]}

yapısından hareketle

\hat{p}_B = \frac{E[p \cdot p^{-1}|x]}{E[p^{-1}|x]} = \frac{1}{E[p^{-1}|x]}

olarak bulunur.

Ağırlıklı karesel hata fonksiyonlarında, riski minimize eden tahmin edici ilgili ağırlık fonksiyonu oranı ile bulunur.

4

Sonsal dağılım üzerinden

E[p^{-1}|x]

değerini hesapla ve tahmin ediciyi bul.

X \sim \text{Beta}(\alpha, \beta)

için

E[X^{-1}] = \frac{\alpha+\beta-1}{\alpha-1}

'dir.

\text{Beta}(6, 13)

için

E[p^{-1}|x] = \frac{6+13-1}{6-1} = \frac{18}{5}

bulunur.
Tahmin edici:

\hat{p}_B = \frac{1}{18/5} = \frac{5}{18}

Beta dağılımının moment özellikleri kullanılarak integral kolayca hesaplanır ve nihai sonuç elde edilir.

Anahtar Kavram

Bayes Tahmin Yöntemi ve Ağırlıklı Karesel Hata Kayıp Fonksiyonu

Tahmini Süre:2m 30s

Soru 45Soru →

Bir fabrikada üretilen elektronik çipler kalite kontrol sürecinden geçmektedir. Kusurlu bir çip bulana kadar incelenen kusursuz (sağlam) çip sayısı $X$ rastgele değişkeni ile modellenmektedir. $X$ 'in olasılık fonksiyonu, $0 < p < 1$ olmak üzere;

P(X=x) = p(1-p)^x, \quad x=0, 1, 2, \dots

şeklinde verilmiştir.

Bu fabrikadan rastgele seçilen $n$ farklı inceleme sürecinde, ilk kusurlu çip bulunana kadar geçen kusursuz çip sayıları $X_1, X_2, \dots, X_n$ bağımsız ve özdeş dağılımlı (i.i.d.) olarak kaydedilmiş ve örneklem ortalaması $\bar{X}$ olarak hesaplanmıştır.

Buna göre, yeni yapılacak bir incelemede ilk incelenen çipin kusursuz, ikinci incelenen çipin ise kusurlu olma olasılığının en çok olabilirlik (MLE) tahmin edicisi aşağıdakilerden hangisidir?

\frac{\bar{X}}{(1+\bar{X})^2}

\frac{1}{1+\bar{X}}

\frac{\bar{X}}{1+\bar{X}}

\frac{\bar{X}-1}{\bar{X}^2}

\bar{X}(1-\bar{X})

Cevabı ve açıklamayı göster

Cevap: $\frac{\bar{X}}{(1+\bar{X})^2}$

Cevap

İstenen olasılığın tahmin edicisi

\frac{\bar{X}}{(1+\bar{X})^2}

olarak bulunur.

Soru,

p

parametresinin kendisini değil,

P(X=1) = p(1-p)

olayının olasılığını tahmin etmemizi istemektedir. En çok olabilirlik yönteminin değişmezlik (invariance) özelliğine göre,

\theta

'nın MLE'si

\hat{\theta}

ise

g(\theta)

'nın MLE'si

g(\hat{\theta})

'dır. Dağılımın log-olabilirlik fonksiyonu

\ln L = n \ln p + \sum x_i \ln(1-p)

olup türevi sıfıra eşitlendiğinde

\hat{p} = 1/(1+\bar{X})

bulunur. Bulunan bu

\hat{p}

değeri, olasılık fonksiyonu olan

p(1-p)

'de yerine konulduğunda

\frac{\bar{X}}{(1+\bar{X})^2}

sonucuna ulaşılır.

Adım Adım Çözüm

1

Olabilirlik (Likelihood) fonksiyonunu

L(p)

oluştur.

L(p) = \prod_{i=1}^n p(1-p)^{X_i} = p^n (1-p)^{\sum_{i=1}^n X_i}

Bağımsız örneklemlerin ortak olasılık fonksiyonu, marjinal fonksiyonların çarpımına eşittir.

2

Log-olabilirlik fonksiyonunu

\ln L(p)

yazıp

p

'ye göre türevini al ve sıfıra eşitle.

\frac{\partial \ln L}{\partial p} = \frac{n}{p} - \frac{\sum X_i}{1-p} = 0

Çarpım formundaki ifadeyi toplam formuna çevirip maksimum noktasını bulmak için türev sıfıra eşitlenir.

3

Türev denkleminden

p

parametresinin MLE'si olan

\hat{p}

değerini çek.

n(1-p) - p\sum X_i = 0 \implies n = p(n + \sum X_i) \implies \hat{p} = \frac{n}{n + \sum X_i} = \frac{1}{1 + \bar{X}}

Denklemin kökü, parametrenin en çok olabilirlik tahmin edicisini verir.

4

Soruda istenen 'ilk çipin kusursuz, ikincinin kusurlu olması' olayının olasılığını

p

cinsinden yaz.

Bu durum

X=1

olması demektir. Olasılığı:

P(X=1) = p(1-p)^1 = p(1-p)

Değişmezlik özelliğini kullanacağımız asıl fonksiyonu

g(p)

belirlememiz gerekir.

5

Değişmezlik (Invariance) özelliğini uygula.

\widehat{p(1-p)} = \hat{p}(1-\hat{p}) = \frac{1}{1+\bar{X}} \left(1 - \frac{1}{1+\bar{X}}\right) = \frac{1}{1+\bar{X}} \left(\frac{\bar{X}}{1+\bar{X}}\right) = \frac{\bar{X}}{(1+\bar{X})^2}

Bir fonksiyonun MLE'si, parametrenin MLE'sinin o fonksiyonda yerine yazılmasıyla elde edilir.

Anahtar Kavram

En Çok Olabilirlik Yöntemi ve Değişmezlik (Invariance) Özelliği

Alternatif Yöntem

Alternatif olarak Momentler Yöntemi ile tahmin edici bulunabilir. Geometrik dağılımda (x=0'dan başlayan) beklenen değer

E[X] = (1-p)/p

'dir. Örneklem ortalamasına eşitlendiğinde

\bar{X} = (1-p)/p \implies p\bar{X} = 1-p \implies p(1+\bar{X}) = 1 \implies \hat{p} = 1/(1+\bar{X})

hızlıca elde edilebilir. Daha sonra yine değişmezlik özelliği ile

P(X=1)

için yerine konur.

Tahmini Süre:2m 0s

Soru 46Soru →

Bir tarım il müdürlüğünde görevli ziraat mühendisi, belirli bir tarım arazisinde metrekareye düşen zararlı böcek sayısını ( $X$ ) modellemektedir. Zararlı böcek sayısının $\theta$ parametreli Poisson dağılımına uyduğu varsayılmaktadır.

Geçmiş yıllara ait veriler incelendiğinde, $\theta$ parametresinin önsel (prior) dağılımının $\alpha=4$ ve $\beta=2$ parametreli Gamma dağılımı olduğu belirlenmiştir. (Gamma dağılımının olasılık yoğunluk fonksiyonu $f(\theta) = \frac{\beta^\alpha}{\Gamma(\alpha)} \theta^{\alpha-1} e^{-\beta\theta}, \theta > 0$ olarak verilmektedir.)

Mühendis, araziden rastgele seçilen $n=5$ farklı metrekarelik alanda yaptığı sayımlarda sırasıyla $2, 4, 3, 2$ ve $5$ adet zararlı böcek tespit etmiştir.

Tahmin işleminde kullanılacak kayıp fonksiyonu $L(\theta, \delta) = \theta(\theta - \delta)^2$ olarak belirlendiğine göre, $\theta$ parametresi için Bayes tahmin edicisinin aldığı değer aşağıdakilerden hangisidir?

3

\frac{20}{7}

\frac{19}{7}

\frac{16}{5}

\frac{5}{2}

Cevabı ve açıklamayı göster

Cevap: $3$

Cevap

Bayes tahmin edicisi

3

olarak bulunur.

Bayes tahmin edicisi, verilen kayıp fonksiyonunun sonsal (posterior) beklenen değerini minimize eden tahmin edicidir. Sonsal dağılım, önsel (prior) Gamma(4, 2) ve olabilirlik Poisson(16, 5) fonksiyonlarının çarpımı ile Gamma(20, 7) olarak bulunur. Soruda verilen ağırlıklı karesel kayıp fonksiyonu

L(\theta, \delta) = \theta(\theta - \delta)^2

için beklenen risk

\delta

'ya göre minimize edildiğinde Bayes tahmin edicisi genel formülü

\delta = \frac{E[\theta^2|x]}{E[\theta|x]}

olarak elde edilir. Gamma(20, 7) dağılımının özellikleri (

E[\theta]=\frac{\alpha}{\beta}

ve

E[\theta^2]=\frac{\alpha(\alpha+1)}{\beta^2}

) kullanıldığında sonuç

\frac{21}{7} = 3

olarak bulunur.

Adım Adım Çözüm

1

Olabilirlik fonksiyonunun ve önsel dağılımın belirlenmesi.

Olabilirlik:

L(\theta|x) \propto \theta^{\sum x_i} e^{-n\theta} = \theta^{16} e^{-5\theta}

. Önsel:

\pi(\theta) \propto \theta^{\alpha-1} e^{-\beta\theta} = \theta^{3} e^{-2\theta}

.

Sonsal dağılımı bulmak için Bayes teoremi gereği olabilirlik fonksiyonu ile önsel dağılım çarpılmalıdır.

2

Sonsal (posterior) dağılımın hesaplanması.

\pi(\theta|x) \propto L(\theta|x) \pi(\theta) = \theta^{19} e^{-7\theta}

. Bu ifade,

\alpha_{post}=20

ve

\beta_{post}=7

parametreli Gamma dağılımının çekirdeğidir.

Sonsal dağılım, Bayes parametre tahmininde kullanılacak temel dağılımdır.

3

Verilen kayıp fonksiyonu altında Bayes tahmin edicisi formülünün türetilmesi.

L(\theta, \delta) = \theta(\theta - \delta)^2

için beklenen kayıp

E[L|x] = E[\theta^3 - 2\delta\theta^2 + \delta^2\theta | x]

olur. Bu ifadenin

\delta

'ya göre türevi alınıp sıfıra eşitlendiğinde

\delta = \frac{E[\theta^2|x]}{E[\theta|x]}

elde edilir.

Bayes tahmin edicisi, sonsal beklenen kaybı (riski) en küçük yapan

\delta

değeridir.

4

Gamma dağılımının momentlerini kullanarak tahmin edicinin sayısal olarak hesaplanması.

Gamma(20, 7)

dağılımı için

E[\theta|x] = \frac{20}{7}

ve

E[\theta^2|x] = \frac{20 \times 21}{7^2}

'dir. Formülde yerine konulduğunda

\delta = \frac{20 \times 21 / 49}{20 / 7} = \frac{21}{7} = 3

bulunur.

Sonsal dağılımın momentleri türetilen formülde kullanılarak nihai nokta tahmini elde edilir.

Anahtar Kavram

Bayes Tahmin Yöntemi ve Ağırlıklı Kayıp Fonksiyonları

Tahmini Süre:2m 30s

Soru 47Soru →

Bir sigorta şirketinde, hasar oranlarını modellemek için $0 < x < 1$ aralığında değerler alan $X_1, X_2, \dots, X_n$ bağımsız ve özdeş dağılımlı (i.i.d.) rastgele değişkenlerinden oluşan bir örneklem seçilmiştir. Kitleye ait olasılık yoğunluk fonksiyonu $\theta > 0$ bilinmeyen parametresi için aşağıdaki gibi tanımlanmıştır:

f(x; \theta) = \theta (1-x)^{\theta-1}

Araştırmacılar, risk analizi yaparken parametrenin tersi olan $g(\theta) = \frac{1}{\theta}$ değerini tahmin etmek istemektedir.

Buna göre, $g(\theta)$ fonksiyonunun en çok olabilirlik tahmin edicisi (MLE) aşağıdakilerden hangisidir?

-\frac{n}{\sum_{i=1}^n \ln(1-X_i)}

\frac{1}{n} \sum_{i=1}^n \ln(1-X_i)

-\frac{1}{n} \sum_{i=1}^n \ln(1-X_i)

\frac{\bar{X}}{1-\bar{X}}

-\sum_{i=1}^n \ln(1-X_i)

Cevabı ve açıklamayı göster

Cevap: $-\frac{1}{n} \sum_{i=1}^n \ln(1-X_i)$

Cevap

\theta

parametresinin en çok olabilirlik tahmin edicisi bulunup değişmezlik (invariance) özelliği uygulandığında,

g(\theta) = \frac{1}{\theta}

'nın tahmin edicisi

-\frac{1}{n} \sum_{i=1}^n \ln(1-X_i)

olarak elde edilir.

Doğru cevap, log-olabilirlik fonksiyonunun türevi alınıp

\theta

için çözüldükten sonra elde edilen

\hat{\theta}

tahmin edicisinin, en çok olabilirlik tahmin edicilerinin değişmezlik (invariance) özelliği gereği

g(\theta) = 1/\theta

fonksiyonunda yerine konmasıyla bulunmuştur. Bu işlem sonucunda tahmin edici

-\frac{1}{n} \sum_{i=1}^n \ln(1-X_i)

olarak elde edilir.

Adım Adım Çözüm

1

Olabilirlik (Likelihood) fonksiyonunu yaz.

L(\theta) = \prod_{i=1}^n \theta (1-X_i)^{\theta-1} = \theta^n \prod_{i=1}^n (1-X_i)^{\theta-1}

En çok olabilirlik yönteminde ilk adım, örneklemin ortak olasılık yoğunluk fonksiyonunu parametrenin bir fonksiyonu olarak ifade etmektir.

2

Log-olabilirlik fonksiyonunu elde et.

\ln L(\theta) = n \ln \theta + (\theta-1) \sum_{i=1}^n \ln(1-X_i)

Çarpım formundaki olabilirlik fonksiyonunun türevini almayı kolaylaştırmak için doğal logaritması alınır.

3

Log-olabilirlik fonksiyonunun

\theta

'ya göre türevini al ve sıfıra eşitle.

\frac{\partial \ln L(\theta)}{\partial \theta} = \frac{n}{\theta} + \sum_{i=1}^n \ln(1-X_i) = 0

Fonksiyonu maksimum yapan

\theta

değerini bulmak için birinci türev sıfıra eşitlenir.

4

Denklemi çözerek

\theta

'nın en çok olabilirlik tahmin edicisini (MLE) bul.

\hat{\theta} = -\frac{n}{\sum_{i=1}^n \ln(1-X_i)}

Türevden elde edilen denklem

\hat{\theta}

için çözülür.

5

Değişmezlik (invariance) özelliğini kullanarak

g(\theta) = 1/\theta

için tahmini elde et.

\widehat{g(\theta)} = \frac{1}{\hat{\theta}} = -\frac{1}{n} \sum_{i=1}^n \ln(1-X_i)

MLE'nin değişmezlik özelliğine göre, parametrenin bir fonksiyonunun MLE'si, o fonksiyonun içine parametrenin MLE'sinin yazılmasıyla bulunur.

Anahtar Kavram

En Çok Olabilirlik Tahmin Edicisi (MLE) ve Değişmezlik (Invariance) Özelliği

Soru 48Soru →

Bir parçacık fiziği deneyinde, belirli bir gaz ortamındaki parçacıkların hızları ( $V$ ), $v > 0$ olmak üzere Maxwell-Boltzmann dağılımına uymaktadır. Hızların olasılık yoğunluk fonksiyonu, $\theta > 0$ bilinmeyen bir ölçek parametresi olmak üzere aşağıdaki gibi verilmiştir:

f(v; \theta) = \sqrt{\frac{2}{\pi}} \frac{v^2}{\theta^3} e^{-\frac{v^2}{2\theta^2}}

Bir araştırmacı, bu gazdaki parçacıkların kinetik enerjisi ile ilgili hesaplamalarda kullanmak üzere, $\tau(\theta) = \frac{1}{\theta^2}$ fonksiyonu için yansız bir tahmin edici önermek istemektedir.

Buna göre, gaz ortamından rastgele seçilen $n$ adet parçacığın hızları temel alındığında, $\tau(\theta)$ 'nın yansız bir tahmin edicisi için Cramer-Rao alt sınırı aşağıdakilerden hangisidir?

\frac{2}{3n\theta^4}

\frac{4}{3n\theta^4}

\frac{1}{6n\theta^4}

\frac{2}{3n}

\frac{\theta^2}{6n}

Cevabı ve açıklamayı göster

Cevap: $\frac{2}{3n\theta^4}$

Cevap

\tau(\theta)

'nın yansız bir tahmin edicisi için Cramer-Rao alt sınırı

\frac{2}{3n\theta^4}

olarak bulunur.

Cramer-Rao alt sınırı formülü, ilgilenilen bir

\tau(\theta)

fonksiyonu için

[\tau'(\theta)]^2 / I_n(\theta)

şeklindedir. İlk olarak Maxwell-Boltzmann dağılımının log-olabilirlik fonksiyonunun birinci türevinden (skor fonksiyonu) hareketle

E[V^2] = 3\theta^2

eşitliği bulunur. Bu değer, ikinci türevin beklenen değerinde yerine yazıldığında tek bir gözlem için Fisher bilgi miktarı

I(\theta) = 6/\theta^2

ve örneklem için

I_n(\theta) = 6n/\theta^2

olarak hesaplanır. İstenen fonksiyon

\tau(\theta) = \theta^{-2}

olduğundan, türevi

\tau'(\theta) = -2\theta^{-3}

olur. Karesi olan

4/\theta^6

ifadesi Fisher bilgi miktarına bölündüğünde sonuç

\frac{2}{3n\theta^4}

olarak elde edilir.

Adım Adım Çözüm

1

Log-olabilirlik fonksiyonunun ve

\theta

'ya göre birinci ile ikinci türevlerinin bulunması.

\ln f(v; \theta) = \ln(\sqrt{2/\pi}) + 2\ln(v) - 3\ln(\theta) - \frac{v^2}{2\theta^2}

. Türevler:

\frac{\partial \ln f}{\partial \theta} = -\frac{3}{\theta} + \frac{v^2}{\theta^3}

ve

\frac{\partial^2 \ln f}{\partial \theta^2} = \frac{3}{\theta^2} - \frac{3v^2}{\theta^4}

Cramer-Rao alt sınırını hesaplamak için öncelikle Fisher bilgi matrisini oluşturacak olan skor fonksiyonu ve log-olabilirlik ikinci türevine ihtiyaç vardır.

2

Skor fonksiyonunun beklenen değerinin sıfır olması özelliğini kullanarak

E[V^2]

değerinin hesaplanması.

E[-\frac{3}{\theta} + \frac{V^2}{\theta^3}] = 0 \implies \frac{E[V^2]}{\theta^3} = \frac{3}{\theta} \implies E[V^2] = 3\theta^2

İkinci türevin beklenen değerini hesaplarken (Fisher bilgi miktarı) dağılımın ikinci momentine (

E[V^2]

) pratik bir yoldan ulaşılması gerekmektedir.

3

n

gözlemlik örneklem için Fisher bilgi miktarının (

I_n(\theta)

) elde edilmesi.

I(\theta) = -E[\frac{3}{\theta^2} - \frac{3V^2}{\theta^4}] = -(\frac{3}{\theta^2} - \frac{3(3\theta^2)}{\theta^4}) = -(\frac{3}{\theta^2} - \frac{9}{\theta^2}) = \frac{6}{\theta^2}

. Dolayısıyla

I_n(\theta) = \frac{6n}{\theta^2}

Cramer-Rao alt sınırının paydasında yer alan ve örneklemin içerdiği toplam bilgi miktarını ifade eden değere ihtiyaç vardır.

4

İlgilenilen

\tau(\theta) = \theta^{-2}

fonksiyonunun türevinin karesinin hesaplanıp Cramer-Rao formülünün uygulanması.

\tau'(\theta) = -2\theta^{-3} \implies [\tau'(\theta)]^2 = \frac{4}{\theta^6}

. Alt Sınır =

\frac{4/\theta^6}{6n/\theta^2} = \frac{4}{6n\theta^4} = \frac{2}{3n\theta^4}

Bir parametrenin fonksiyonu için alt sınır, fonksiyonun türevinin karesinin Fisher bilgi miktarına bölünmesiyle bulunur.

Anahtar Kavram

Tahmin Edicilerin Etkinliği ve Parametre Fonksiyonları İçin Cramer-Rao Alt Sınırı

Soru 49Soru →

X_1, X_2, \dots, X_n

rastgele örneklemi, olasılık yoğunluk fonksiyonu

f(x; \theta) = \frac{1}{\theta} e^{-x/\theta}, \quad x > 0

olan üstel dağılıma sahip bir kitleden alınmıştır (

\theta > 0

).

\theta

parametresinin tahmini için kullanılacak kayıp fonksiyonu,

L(\theta, \delta) = \left( \frac{\delta - \theta}{\theta} \right)^2

olarak tanımlanmıştır.

$\delta(X) = c \sum_{i=1}^n X_i$ formundaki tahmin ediciler dikkate alındığında, maksimum riski en küçük yapan (minimax) tahmin edici aşağıdakilerden hangisidir?

\frac{1}{n-1} \sum_{i=1}^n X_i

\frac{1}{n} \sum_{i=1}^n X_i

\frac{1}{n+1} \sum_{i=1}^n X_i

\frac{2}{n+1} \sum_{i=1}^n X_i

\frac{1}{n+2} \sum_{i=1}^n X_i

Cevabı ve açıklamayı göster

Cevap: $\frac{1}{n+1} \sum_{i=1}^n X_i$

Cevap

Maksimum riski en küçük yapan minimax tahmin edici

\frac{1}{n+1} \sum_{i=1}^n X_i

ifadesidir.

Verilen oransal karesel kayıp fonksiyonu kullanılarak elde edilen risk fonksiyonu,

\theta

'dan bağımsız (sabit risk) çıkmaktadır. Bu risk fonksiyonu

c

'nin bir fonksiyonu olan

c^2 n(n+1) - 2cn + 1

ifadesine eşittir. Bu ifadeyi minimize etmek, maksimum riski minimize etmek (minimax prensibi) anlamına gelir. Fonksiyonun

c

'ye göre birinci dereceden türevi alınıp sıfıra eşitlendiğinde

c = 1/(n+1)

katsayısı elde edilir. İlgili sınıf içindeki minimax tahmin edici bu formdadır.

Adım Adım Çözüm

1

T = \sum_{i=1}^n X_i

istatistiğinin dağılımını ve momentlerini belirleyin.

T \sim Gamma(n, \theta)

dağılımına sahiptir. Beklenen değeri

E(T) = n\theta

ve varyansı

Var(T) = n\theta^2

olarak bulunur.

Risk fonksiyonunu hesaplayabilmek için

T

'nin birinci ve ikinci momentlerine ihtiyaç vardır.

2

T

'nin ikinci momentini (

E(T^2)

) hesaplayın.

E(T^2) = Var(T) + [E(T)]^2 = n\theta^2 + (n\theta)^2 = n(n+1)\theta^2

elde edilir.

Kayıp fonksiyonu karesel olduğu için beklenen değer işleminde

T

'nin karesinin beklenen değeri gerekecektir.

3

Verilen kayıp fonksiyonu üzerinden risk fonksiyonunu

R(\theta, \delta) = E[L(\theta, \delta)]

kurgulayın.

\delta = cT

yerine konulduğunda:

R(\theta, cT) = E\left[ \frac{(cT - \theta)^2}{\theta^2} \right] = \frac{1}{\theta^2} \left( c^2 E(T^2) - 2c\theta E(T) + \theta^2 \right)

.

Minimax prensibi gereği risk fonksiyonunun maksimumunu minimize edecek

c

katsayısını bulmak hedeflenmektedir.

4

Momentleri risk fonksiyonunda yerine yazarak denklemi sadeleştirin.

R(\theta, cT) = \frac{1}{\theta^2} \left( c^2 n(n+1)\theta^2 - 2c\theta(n\theta) + \theta^2 \right) = c^2 n(n+1) - 2cn + 1

.

Risk fonksiyonunun

\theta

parametresinden bağımsız (sabit risk) bir forma dönüştüğünü doğrulamak ve sadece

c

'ye bağlı bir fonksiyon elde etmek.

5

Elde edilen sabit risk fonksiyonunu

c

'ye göre minimize edin.

\frac{d}{dc} [c^2 n(n+1) - 2cn + 1] = 2c n(n+1) - 2n = 0 \implies c = \frac{2n}{2n(n+1)} = \frac{1}{n+1}

.

Sabit bir riske sahip olan ve bu riski optimize eden tahmin edici, ilgili sınıf için minimax tahmin edici şartını sağlar.

Anahtar Kavram

Oransal Karesel Kayıp Fonksiyonu ve Sabit Risk ile Minimax Tahmini

Soru 50Soru →

Yeni geliştirilen bir batarya teknolojisinin dayanım süresi, $\theta > 0$ olmak üzere ortalaması $\theta$ olan üstel dağılım ile modellenmektedir. Kalite kontrol birimi, üretilen bataryalardan bağımsız $n$ tanesini teste tabi tutarak örneklem ortalamasını ( $\bar{X}$ ) hesaplamıştır.

Birim, $\theta$ parametresini tahmin etmek için karesel hata kayıp fonksiyonunu ( $L(\theta, T) = (T - \theta)^2$ ) kullanmaktadır. Tahmin edici olarak $T = c\bar{X}$ formunda bir sınıf belirlenmiştir.

Buna göre, risk fonksiyonunu tüm $\theta$ değerleri için en küçük yapan $c$ katsayısı aşağıdakilerden hangisidir?

\frac{n}{n+1}

1

n

\frac{1}{2}

\frac{n-1}{n}

Cevabı ve açıklamayı göster

Cevap: $\frac{n}{n+1}$

Cevap

Risk fonksiyonunu en küçük yapan katsayı

\frac{n}{n+1}

değeridir.

Karesel hata kayıp fonksiyonu altında risk fonksiyonu, Hata Kareler Ortalamasıdır (MSE). MSE formülü varyans ile yan miktarının karesinin toplamıdır. Verilen üstel dağılım için

Var(c\bar{X}) = c^2\theta^2/n

ve

Bias = \theta(c-1)

olur. Bu iki bileşenin kareleri toplamı alınıp

c

'ye göre türevi alındığında ve sıfıra eşitlendiğinde, riski en küçük yapan optimal katsayı

\frac{n}{n+1}

olarak elde edilir.

Adım Adım Çözüm

1

Karesel hata kayıp fonksiyonu altında risk fonksiyonunun (MSE) formülünü tanımlayın.

R(\theta, T) = E[(T - \theta)^2] = Var(T) + [Bias(T)]^2

Risk, kayıp fonksiyonunun beklenen değeridir ve karesel kayıp için bu değer varyans ile yan miktarının karesinin toplamına eşdeğerdir.

2

Tahmin edici

T = c\bar{X}

için beklenen değer ve varyansı hesaplayın.

Üstel dağılımda

E[X] = \theta

ve

Var(X) = \theta^2

olduğundan,

E[\bar{X}] = \theta

ve

Var(\bar{X}) = \frac{\theta^2}{n}

olur. Buradan

E[c\bar{X}] = c\theta

ve

Var(c\bar{X}) = c^2\frac{\theta^2}{n}

bulunur.

Riskin bileşenleri olan yan ve varyansı bulabilmek için istatistiğin dağılımsal özelliklerine ihtiyaç vardır.

3

T = c\bar{X}

tahmin edicisinin yan (bias) miktarını belirleyin.

Bias(T) = E[T] - \theta = c\theta - \theta = \theta(c - 1)

MSE formülündeki yan miktarının karesi bileşenini elde etmek için gereklidir.

4

Yan ve varyans değerlerini yerine koyarak risk fonksiyonunu

c

'ye bağlı bir denklem olarak yazın.

R(\theta, c\bar{X}) = c^2 \frac{\theta^2}{n} + \theta^2(c - 1)^2 = \theta^2 \left( \frac{c^2}{n} + c^2 - 2c + 1 \right) = \theta^2 \left( c^2 \frac{n+1}{n} - 2c + 1 \right)

Minimize edilecek olan asıl hedef fonksiyonunu oluşturmak hedeflenmektedir.

5

Risk fonksiyonunun

c

'ye göre türevini alıp sıfıra eşitleyerek minimum değeri veren katsayıyı bulun.

\frac{d}{dc} R = \theta^2 \left( 2c \frac{n+1}{n} - 2 \right) = 0 \implies 2c \frac{n+1}{n} = 2 \implies c = \frac{n}{n+1}

Fonksiyonun minimum noktasını bulmak için birinci türevi sıfıra eşitlenmelidir.

Anahtar Kavram

Karesel Kayıp Altında Risk Minimizasyonu (MSE)

Soru 51Soru →

Bir elektronik cihazın ömrü (saat cinsinden), beklenen değeri $\theta$ olan üstel dağılıma (Exponential) sahiptir. Bu cihazlardan $n$ ( $n > 1$ ) tanesi rastgele seçilerek ömürleri $X_1, X_2, \dots, X_n$ olarak gözlemlenmiştir.

$\theta$ parametresinin tahmini için, yansız bir tahmin edici olarak sadece ilk gözlem değeri olan $T = X_1$ önerilmiştir. Ancak bir istatistik uzmanı, $S = \sum_{i=1}^n X_i$ yeterli istatistiğini kullanarak Rao-Blackwell teoremi yardımıyla $\phi(S) = E(T \mid S)$ şeklinde yeni bir tahmin edici elde edilebileceğini belirtmiştir.

Buna göre, başlangıçtaki $T$ tahmin edicisinin varyansı ile Rao-Blackwell teoremi sonucunda elde edilen $\phi(S)$ tahmin edicisinin varyansı arasındaki fark ( $Var(T) - Var(\phi(S))$ ) aşağıdakilerden hangisidir?

\frac{(n-1)\theta^2}{n}

\frac{\theta^2}{n}

\theta^2

\frac{(n-1)\theta^2}{n^2}

\frac{n\theta^2}{n-1}

Cevabı ve açıklamayı göster

Cevap: $\frac{(n-1)\theta^2}{n}$

Cevap

Başlangıç varyansı ile iyileştirilmiş varyans arasındaki farkı gösteren \frac{(n-1)\theta^2}{n} ifadesidir.

Üstel dağılımda ortalaması

\theta

olan kitleden çekilen örneklemde

X_1

'in varyansı

\theta^2

'dir. Rao-Blackwell teoremi yeterli istatistik

S = \sum X_i

üzerine koşullandırarak simetri özelliğiyle yeni tahmin ediciyi

\bar{X}

olarak bulmamızı sağlar.

\bar{X}

'in varyansı

\frac{\theta^2}{n}

'dir. Bu ikisi arasındaki fark

\theta^2 - \frac{\theta^2}{n} = \frac{(n-1)\theta^2}{n}

sonucunu verir.

Adım Adım Çözüm

1

Başlangıç tahmin edicisinin (T) varyansını hesaplayın.

T = X_1

ve

X_i \sim Exp(1/\theta)

(beklenen değeri

\theta

olan üstel dağılım) olduğu için

E(X_1) = \theta

ve

Var(X_1) = \theta^2

bulunur.

Varyans farkını bulmak için öncelikle orijinal tahmin edicinin varyansına ihtiyaç vardır.

2

Rao-Blackwell teoremi ile yeni tahmin ediciyi (

\phi(S)

) türetin.

Gözlemler bağımsız ve aynı dağılımlı olduğundan

E(X_i \mid S)

tüm

i

'ler için aynıdır.

\sum_{i=1}^n E(X_i \mid S) = E(S \mid S) = S

eşitliğinden

n \cdot E(X_1 \mid S) = S

ve dolayısıyla

\phi(S) = S/n = \bar{X}

elde edilir.

Yeterli istatistik

S

verildiğinde

X_1

'in koşullu beklenen değeri, iyileştirilmiş yansız tahmin ediciyi verir.

3

Yeni tahmin edicinin (

\phi(S)

) varyansını bulun.

\phi(S) = \bar{X}

olduğundan,

Var(\bar{X}) = \frac{Var(X_1)}{n} = \frac{\theta^2}{n}

olarak hesaplanır.

Fark formülünde yerine koymak için iyileştirilmiş tahmin edicinin varyansı gereklidir.

4

İki varyans arasındaki farkı hesaplayın.

Var(T) - Var(\phi(S)) = \theta^2 - \frac{\theta^2}{n} = \frac{n\theta^2 - \theta^2}{n} = \frac{(n-1)\theta^2}{n}

bulunur.

Soruda açıkça başlangıç varyansı ile Rao-Blackwell sonrası varyansın farkı istenmektedir.

Anahtar Kavram

Rao-Blackwell teoremi ile tahmin edicinin varyansının küçültülmesi ve koşullu beklenen değer özelliklerinin simetri yardımıyla kullanımı.

Soru 52Soru →

Bir sigorta şirketinde, gelen hasar taleplerinin büyüklüğü $X$ rassal değişkeni ile modellenmektedir. $X$ 'in olasılık yoğunluk fonksiyonu aşağıdaki gibidir:

f(x; \theta) = \frac{1}{\theta} e^{-x/\theta}, \quad x > 0, \quad \theta > 0

$\theta$ parametresini tahmin etmek için rastgele seçilen $n$ adet bağımsız hasar talebinden ( $X_1, X_2, \dots, X_n$ ) oluşan bir örneklem alınmıştır. Bir aktüerya uzmanı, $\theta$ parametresi için $T = \frac{n}{n+1}\bar{X}$ tahmin edicisini önermiştir.

Buna göre, $T$ tahmin edicisinin $\theta$ için hata kareler ortalaması (MSE) aşağıdakilerden hangisidir?

\frac{1}{n+1}\theta^2

\frac{n}{(n+1)^2}\theta^2

\frac{1}{(n+1)^2}\theta^2

\frac{n+2}{(n+1)^2}\theta^2

\frac{1}{n}\theta^2

Cevabı ve açıklamayı göster

Cevap: $\frac{1}{n+1}\theta^2$

Cevap

Tahmin edicinin hata kareler ortalaması (MSE), varyansı ile yan miktarının karesinin toplamı olan

\frac{1}{n+1}\theta^2

değerine eşittir.

Verilen üstel dağılımın beklenen değeri

E[X] = \theta

ve varyansı

Var(X) = \theta^2

'dir.

T = \frac{n}{n+1}\bar{X}

tahmin edicisinin hata kareler ortalamasını bulmak için MSE formülü

MSE(T) = Var(T) + [Yan(T)]^2

uygulanır. Beklenen değer

E[T] = \frac{n}{n+1}\theta

olduğundan yan miktarı

-\frac{1}{n+1}\theta

, karesi ise

\frac{1}{(n+1)^2}\theta^2

olur. Varyans

Var(T) = \left(\frac{n}{n+1}\right)^2 \frac{\theta^2}{n} = \frac{n}{(n+1)^2}\theta^2

hesaplanır. İki değer toplandığında

\frac{n}{(n+1)^2}\theta^2 + \frac{1}{(n+1)^2}\theta^2 = \frac{n+1}{(n+1)^2}\theta^2 = \frac{1}{n+1}\theta^2

doğru sonucuna ulaşılır.

Adım Adım Çözüm

1

X

rassal değişkeninin ve örneklem ortalamasının (

\bar{X}

) beklenen değer ile varyansını belirle.

E[X] = \theta

,

Var(X) = \theta^2

olduğu için

E[\bar{X}] = \theta

ve

Var(\bar{X}) = \frac{\theta^2}{n}

olur.

T

tahmin edicisinin özelliklerini bulmak için temel kitle ve örneklem istatistiklerine ihtiyaç vardır.

2

T

tahmin edicisinin beklenen değerini ve yan miktarını (Bias) hesapla.

E[T] = E\left[\frac{n}{n+1}\bar{X}\right] = \frac{n}{n+1}\theta

. Yan miktarı:

Yan(T) = E[T] - \theta = -\frac{1}{n+1}\theta

.

MSE formülündeki

Yan(T)^2

terimini bulmak için yansızlık durumu kontrol edilmelidir.

3

T

tahmin edicisinin varyansını hesapla.

Var(T) = Var\left(\frac{n}{n+1}\bar{X}\right) = \left(\frac{n}{n+1}\right)^2 Var(\bar{X}) = \frac{n^2}{(n+1)^2} \frac{\theta^2}{n} = \frac{n}{(n+1)^2}\theta^2

.

MSE formülündeki diğer bileşen olan varyans değerine ulaşmak gereklidir.

4

MSE formülünü (

MSE(T) = Var(T) + Yan(T)^2

) kullanarak sonucu bul.

MSE(T) = \frac{n}{(n+1)^2}\theta^2 + \left(-\frac{1}{n+1}\theta\right)^2 = \frac{n+1}{(n+1)^2}\theta^2 = \frac{1}{n+1}\theta^2

.

Tahmin edicinin toplam hatasını (MSE) elde etmek için varyans ve yan karesi toplanır.

Anahtar Kavram

Hata Kareler Ortalaması (MSE) Hesaplaması

Soru 53Soru →

Bir tarım araştırmacısı, belirli bir bölgedeki mısır tarlalarında metrekare başına düşen zararlı böcek sayısını modellemektedir. Zararlı böcek sayısının $\lambda > 0$ parametreli Poisson dağılımına uyduğu varsayılmaktadır.

Araştırmacı, $n$ hacimli rastgele bir örneklem ( $X_1, X_2, \dots, X_n$ ) alarak $\tau(\lambda) = \lambda^2$ fonksiyonunun yansız bir tahmin edicisinin varyansının alt sınırını belirlemek istemektedir.

Buna göre, $\tau(\lambda) = \lambda^2$ için Cramer-Rao alt sınırı (CRLB) aşağıdakilerden hangisidir?

\frac{4\lambda^3}{n}

\frac{2\lambda^2}{n}

\frac{4\lambda}{n}

\frac{\lambda}{n}

4\lambda^3

Cevabı ve açıklamayı göster

Cevap: $\frac{4\lambda^3}{n}$

Cevap

İlgili parametre fonksiyonu için alt sınır

\frac{4\lambda^3}{n}

değerine eşittir.

Poisson dağılımı için tek bir gözlemin Fisher bilgi miktarı

I(\lambda) = \frac{1}{\lambda}

'dır. Tahmin edilmek istenen fonksiyon

\tau(\lambda) = \lambda^2

olduğundan, türevi

\tau'(\lambda) = 2\lambda

olur. Cramer-Rao alt sınırı formülü olan

\frac{[\tau'(\lambda)]^2}{n \cdot I(\lambda)}

kullanıldığında,

\frac{(2\lambda)^2}{n(1/\lambda)} = \frac{4\lambda^3}{n}

sonucuna ulaşılır.

Adım Adım Çözüm

1

Tek bir gözlem için log-olabilirlik fonksiyonunun bulunması.

\ln f(x;\lambda) = -\lambda + x \ln \lambda - \ln(x!)

Fisher bilgi miktarını hesaplamak için olasılık yoğunluk/kütle fonksiyonunun logaritmasına ihtiyaç vardır.

2

Log-olabilirlik fonksiyonunun

\lambda

'ya göre birinci ve ikinci türevlerinin alınması.

\frac{\partial}{\partial \lambda} \ln f(x;\lambda) = -1 + \frac{x}{\lambda}

ve

\frac{\partial^2}{\partial \lambda^2} \ln f(x;\lambda) = -\frac{x}{\lambda^2}

Fisher bilgi miktarı, log-olabilirlik fonksiyonunun ikinci türevinin beklenen değerinin negatifine eşittir.

3

Tek bir gözlem için Fisher bilgi miktarının (

I(\lambda)

) hesaplanması.

I(\lambda) = -E\left[-\frac{X}{\lambda^2}\right] = \frac{E[X]}{\lambda^2} = \frac{\lambda}{\lambda^2} = \frac{1}{\lambda}

Alt sınır formülünün paydasında yer alan bilgi miktarını bulmak için gereklidir.

4

Dönüşüm fonksiyonunun türevinin alınması ve Cramer-Rao alt sınırının hesaplanması.

\tau'(\lambda) = 2\lambda \implies CRLB = \frac{[\tau'(\lambda)]^2}{n \cdot I(\lambda)} = \frac{(2\lambda)^2}{n(1/\lambda)} = \frac{4\lambda^2}{n/\lambda} = \frac{4\lambda^3}{n}

Parametrenin bir fonksiyonu olan

\tau(\lambda)

'nın yansız tahmin edicisi için Cramer-Rao formülü uygulanmıştır.

Anahtar Kavram

Cramer-Rao Alt Sınırı ve Fisher Bilgi Miktarı

Soru 54Soru →

Ortalaması $0$ ve varyansı $\theta$ ( $\theta > 0$ ) olan normal dağılıma sahip bir kitleden $n=2$ hacimli $X_1, X_2$ rastgele örneklemi çekilmiştir. Kitle varyansı $\theta$ 'yı tahmin etmek amacıyla yansız bir tahmin edici olarak $T = X_1^2$ öneriliyor.

$\theta$ parametresi için yeterli (sufficient) bir istatistik olan $S = X_1^2 + X_2^2$ kullanılarak, Rao-Blackwell teoremi yardımıyla $T^* = E[T|S]$ yeni tahmin edicisi elde ediliyor.

Buna göre, orijinal tahmin edicinin varyansı $Var(T)$ ile yeni tahmin edicinin varyansı $Var(T^*)$ sırasıyla aşağıdakilerin hangisinde doğru verilmiştir?

2\theta^2

ve

\theta^2

\theta^2

ve

2\theta^2

2\theta^2

ve

2\theta^2

3\theta^2

ve

\theta^2

\theta^2

ve

0.5\theta^2

Cevabı ve açıklamayı göster

Cevap: $2\theta^2$ ve $\theta^2$

Cevap

Orijinal tahmin edicinin varyansı

2\theta^2

ve iyileştirilmiş tahmin edicinin varyansı

\theta^2

değerindedir.

Orijinal tahmin edici

T=X_1^2

'nin varyansı, ki-kare dağılımının özellikleri kullanılarak

2\theta^2

bulunur. Yeterli istatistik

S=X_1^2+X_2^2

verildiğinde

X_1^2

'nin beklenen değeri simetri gereği

S/2

'dir. Elde edilen yeni tahmin edici

T^* = (X_1^2+X_2^2)/2

varyansı hesaplandığında, birbirinden bağımsız değişkenler olduğu için varyansların toplamının dörtte biri alınarak

\theta^2

bulunur. Bu durum Rao-Blackwell teoreminin varyansı azaltma prensibiyle uyumludur.

Adım Adım Çözüm

1

Orijinal tahmin edici T'nin varyansını bulma.

Var(T) = Var(X_1^2) = 2\theta^2

X_1 \sim N(0, \theta)

olduğundan

X_1^2 / \theta \sim \chi^2_{(1)}

dağılır. Ki-kare dağılımının varyansı serbestlik derecesinin 2 katı olduğundan

Var(X_1^2 / \theta) = 2

, dolayısıyla

Var(X_1^2) = 2\theta^2

olur.

2

Rao-Blackwell teoremini uygulayarak yeni tahmin edici T*'yi bulma.

T^* = \frac{X_1^2 + X_2^2}{2}

T^* = E[X_1^2 | X_1^2 + X_2^2]

.

X_1

ve

X_2

aynı dağılımlı ve bağımsız olduklarından, toplam verildiğinde simetriktirler. Bu nedenle

E[X_1^2 | S] = E[X_2^2 | S] = \frac{S}{2}

elde edilir.

3

Yeni tahmin edici T*'nin varyansını hesaplama.

Var(T^*) = \theta^2

Var(T^*) = Var\left(\frac{X_1^2 + X_2^2}{2}\right) = \frac{1}{4} [Var(X_1^2) + Var(X_2^2)] = \frac{1}{4} [2\theta^2 + 2\theta^2] = \theta^2

.

4

Varyans değerlerini Rao-Blackwell teoremi kapsamında karşılaştırma.

Var(T) = 2\theta^2

ve

Var(T^*) = \theta^2

Teorem gereği

Var(T^*) \leq Var(T)

eşitsizliği sağlanmalıdır. Hesaplanan değerler bu kuralı doğrular.

Anahtar Kavram

Rao-Blackwell Teoremi ve Varyans İyileştirmesi

Soru 55Soru →

Bir finansal risk analisti, belirli bir hisse senedi portföyünün günlük getiri oranlarının standardize edilmiş değerlerini analiz etmektedir. Bu değerlerin

X_1, X_2, \dots, X_n

bağımsız ve aynı dağılımlı bir rastgele örneklem oluşturduğu ve olasılık yoğunluk fonksiyonunun

f(x; \theta) = \begin{cases} \theta x^{\theta - 1}, & 0 < x < 1 \\ 0, & \text{diğer durumlarda} \end{cases}

ile verildiği varsayılmaktadır. Burada

\theta > 0

bilinmeyen bir parametredir.

Buna göre, Neyman Çarpanlara Ayırma Teoremi (Factorization Theorem) kullanıldığında $\theta$ parametresi için yeterli (sufficient) istatistik aşağıdakilerden hangisidir?

\prod_{i=1}^n X_i

\sum_{i=1}^n X_i

X_{(n)}

X_{(1)}

\sum_{i=1}^n X_i^2

Cevabı ve açıklamayı göster

Cevap: $\prod_{i=1}^n X_i$

Cevap

\prod_{i=1}^n X_i

ifadesi Neyman Çarpanlara Ayırma Teoremi'ne göre yeterli bir istatistiktir.

Olabilirlik fonksiyonu düzenlendiğinde

L(\theta) = \theta^n (\prod_{i=1}^n x_i)^{\theta - 1}

şeklinde elde edilir. Neyman Çarpanlara Ayırma Teoremi'ne göre bu eşitlik, parametreyi barındıran

g(T, \theta) = \theta^n (\prod_{i=1}^n x_i)^{\theta}

fonksiyonu ve parametreden bağımsız

h(x) = (\prod_{i=1}^n x_i)^{-1}

fonksiyonu olarak iki çarpan halinde ayrıştırılabilir. Parametre

\theta

, gözlem değerlerine sadece

\prod_{i=1}^n X_i

istatistiği vasıtasıyla bağlandığı için bu ifade yeterli bir istatistiktir.

Adım Adım Çözüm

1

Olabilirlik (Likelihood) fonksiyonunu kurun.

L(\theta) = \prod_{i=1}^n f(x_i; \theta) = \prod_{i=1}^n (\theta x_i^{\theta - 1})

Örneklem birimleri birbirinden bağımsız ve aynı dağılımlı olduğu için ortak olasılık yoğunluk fonksiyonu, marjinal fonksiyonların çarpımına eşittir.

2

Çarpım işlemini düzenleyin.

L(\theta) = \theta^n \left( \prod_{i=1}^n x_i \right)^{\theta - 1}

Sabit

\theta

terimi

n

kez çarpılarak başa alınır, tabanları aynı olan

x_i

terimlerinin üsleri ortak kuvvette toplanır.

3

İfadeyi Neyman Çarpanlara Ayırma Teoremi yapısına (

g(t, \theta) \cdot h(x)

) uygun şekilde dönüştürün.

L(\theta) = \left[ \theta^n \left( \prod_{i=1}^n x_i \right)^{\theta} \right] \cdot \left[ \left( \prod_{i=1}^n x_i \right)^{-1} \right]

Teoreme göre, olabilirlik fonksiyonu yalnızca parametre ve istatistiğe bağlı

g

fonksiyonu ile yalnızca gözlemlere bağlı

h

fonksiyonunun çarpımı olarak yazılmalıdır.

4

Yeterli istatistiği (

T(X)

) belirleyin.

T(X) = \prod_{i=1}^n X_i

\theta

parametresi ile birlikte çalışan

g

fonksiyonunun içindeki veriye bağlı terim, rastgele değişkenlerin çarpımıdır.

Anahtar Kavram

Neyman Çarpanlara Ayırma Teoremi (Factorization Theorem)

Soru 56Soru →

Bir rüzgar enerjisi santrali projesinde, rüzgar hızları $X$ , aşağıdaki olasılık yoğunluk fonksiyonuna sahip bir dağılım ile modellenmektedir:

f(x; \theta) = \frac{x}{\theta^2} e^{-\frac{x^2}{2\theta^2}}, \quad x > 0, \theta > 0

Burada $\theta$ bilinmeyen bir parametredir. $\theta^2$ parametresini tahmin etmek amacıyla, rastgele seçilen $n$ hacimli bağımsız $X_1, X_2, \dots, X_n$ örneklemi kullanılarak,

T = \frac{1}{n} \sum_{i=1}^n X_i^2

tahmin edicisi önerilmiştir.

Buna göre, $T$ tahmin edicisinin $\theta^2$ parametresi için hata kareler ortalaması (MSE) aşağıdakilerden hangisidir?
*(Bilgi: Bu dağılım için $E[X^2] = 2\theta^2$ ve $E[X^4] = 8\theta^4$ olarak verilmektedir.)*

\frac{n+4}{n}\theta^4

\frac{4}{n}\theta^4

\frac{n+8}{n}\theta^4

\frac{n^2+4}{n^2}\theta^4

\frac{1}{n}\theta^4

Cevabı ve açıklamayı göster

Cevap: $\frac{n+4}{n}\theta^4$

Cevap

MSE(T) = \frac{n+4}{n}\theta^4

ifadesini veren seçenek doğru cevaptır.

Hata kareler ortalaması (MSE) hesaplanırken

MSE(T) = Var(T) + [Bias(T)]^2

formülü kullanılır. Soruda verilen bilgilere göre tahmin edicinin beklenen değeri

E[T] = \frac{1}{n} \sum E[X_i^2] = \frac{1}{n}(n \cdot 2\theta^2) = 2\theta^2

olarak bulunur. Tahmin edilmek istenen parametre

\theta^2

olduğundan, yan miktarı

Bias(T) = E[T] - \theta^2 = 2\theta^2 - \theta^2 = \theta^2

olur. Varyans hesabı için

Var(X^2) = E[X^4] - (E[X^2])^2 = 8\theta^4 - (2\theta^2)^2 = 4\theta^4

formülü uygulanır. Buradan

T

'nin varyansı

Var(T) = \frac{1}{n^2} \sum Var(X_i^2) = \frac{n \cdot 4\theta^4}{n^2} = \frac{4\theta^4}{n}

elde edilir. Sonuç olarak

MSE(T) = \frac{4\theta^4}{n} + (\theta^2)^2 = \frac{4\theta^4}{n} + \theta^4 = \frac{n+4}{n}\theta^4

bulunur.

Adım Adım Çözüm

1

T

tahmin edicisinin beklenen değerini ve yan miktarını (Bias) hesaplayın.

E[T] = 2\theta^2

ve

Bias(T) = \theta^2

MSE hesaplaması için öncelikle tahmin edicinin parametreden ne kadar saptığını (yanlılık durumunu) bulmak gerekir.

2

T

tahmin edicisinin varyansını hesaplayın.

Var(X^2) = 4\theta^4

olduğu için

Var(T) = \frac{4\theta^4}{n}

Varyans, MSE formülünün (MSE = Varyans + Yan^2) temel bileşenlerinden biridir.

3

Varyans ve yan miktarının karesini toplayarak MSE'yi elde edin.

MSE(T) = \frac{4\theta^4}{n} + (\theta^2)^2 = \frac{n+4}{n}\theta^4

Hata kareler ortalaması (MSE), varyans ile yan miktarının karesinin toplamına eşittir.

Anahtar Kavram

Hata Kareler Ortalaması (MSE) ve Yanlı Tahmin Ediciler

Soru 57Soru →

Bir otomotiv yan sanayi fabrikasında, üretilen özel bir valf parçasının kalite kontrol süreci şu şekilde işlemektedir: Kalite kontrol uzmanı, banttan çıkan ürünleri sırasıyla incelemekte ve ilk kusurlu valfi bulduğunda o partinin denetimini sonlandırmaktadır. Bu süreç birbirinden bağımsız olarak $n$ farklı partide $(n > 2)$ tekrarlanmış ve her bir partide incelenen toplam valf sayısı $X_1, X_2, \dots, X_n$ rassal değişkenleri ile ifade edilmiştir.

Bir valfin kusurlu olma olasılığı $p$ olmak üzere, $X_i$ değişkenlerinin $f(x; p) = p(1-p)^{x-1}, \quad x=1,2,3,\dots$ şeklinde Geometrik dağılıma sahip olduğu bilinmektedir.

Buna göre, Lehmann-Scheffe teoremi dikkate alındığında, kusurlu ürün bulma olasılığı olan $p$ parametresi için düzgün en küçük varyanslı yansız tahmin edici (UMVUE) aşağıdakilerden hangisidir?

\frac{n}{\sum_{i=1}^n X_i}

\frac{n}{\sum_{i=1}^n X_i - 1}

\frac{n-1}{\sum_{i=1}^n X_i - 1}

\frac{n-1}{\sum_{i=1}^n X_i}

\frac{\sum_{i=1}^n X_i}{n}

Cevabı ve açıklamayı göster

Cevap: $\frac{n-1}{\sum_{i=1}^n X_i - 1}$

Cevap

p parametresi için UMVUE,

(n-1) / (\sum_{i=1}^n X_i - 1)

ifadesidir.

Lehmann-Scheffe teoremine göre, tam ve yeterli bir istatistiğin yansız bir fonksiyonu biricik (unique) UMVUE'dir. Geometrik dağılımlı veride

T = \sum X_i

istatistiği tam ve yeterlidir. Bu istatistiğin Negatif Binom dağılımı üzerinden beklenen değeri alındığında,

E[(n-1)/(T-1)] = p

eşitliği sağlanır. Bu nedenle düzgün en küçük varyanslı yansız tahmin edici

\frac{n-1}{\sum_{i=1}^n X_i - 1}

olur.

Adım Adım Çözüm

1

Yeterli ve tam istatistiği belirleme

T = \sum_{i=1}^n X_i

istatistiği p için yeterli ve tamdır.

Geometrik dağılım üstel aileye aittir. Olabilirlik fonksiyonu

L(p) = p^n (1-p)^{\sum X_i - n}

şeklindedir ve Neyman Çarpanlara Ayırma teoremine göre

T = \sum X_i

yeterli istatistiktir.

2

Yeterli istatistiğin dağılımını bulma

T \sim \text{Negatif Binom}(n, p)

dağılımına sahiptir.

n adet bağımsız Geometrik dağılımlı rassal değişkenin toplamı Negatif Binom dağılımına uyar. Olasılık fonksiyonu:

P(T=t) = \binom{t-1}{n-1} p^n (1-p)^{t-n}

,

t = n, n+1, \dots

3

Lehmann-Scheffe teoremini uygulama

E\left[\frac{n-1}{T-1}\right] = p

olduğu kanıtlanır.

Beklenen değer hesabında

E[g(T)] = \sum_{t=n}^{\infty} g(t) \binom{t-1}{n-1} p^n (1-p)^{t-n} = p

eşitliğini sağlayacak

g(t)

fonksiyonu aranır.

g(t) = (n-1)/(t-1)

seçildiğinde toplam içindeki ifade

p \cdot \sum \binom{t-2}{n-2} p^{n-1} (1-p)^{t-n}

halini alır ve bu toplam Negatif Binom(n-1, p) dağılımının tüm olasılıkları toplamı (1) olduğu için sonuç p çıkar.

Anahtar Kavram

Tamlık ve Lehmann-Scheffe Teoremi

Soru 58Soru →

Türkiye İstatistik Kurumu (TÜİK) veritabanında yer alan hanehalkı aylık tüketim harcamalarının, şekil parametresi $\alpha > 0$ ve ölçek parametresi $\beta > 0$ olan Gama dağılımına uyduğu varsayılmaktadır. Gama dağılımının olasılık yoğunluk fonksiyonu aşağıdaki gibidir:

f(x; \alpha, \beta) = \frac{1}{\Gamma(\alpha)\beta^\alpha} x^{\alpha-1} e^{-x/\beta}, \quad x > 0

Bu kitleden alınan $n$ birimlik bağımsız $X_1, X_2, \dots, X_n$ örneklemi kullanılarak $\boldsymbol{\theta} = (\alpha, \beta)$ bilinmeyen parametre vektörü tahmin edilmek istenmektedir.

Buna göre, Neyman Çarpanlara Ayırma Teoremi dikkate alındığında, $(\alpha, \beta)$ parametre vektörü için ortak yeterli (jointly sufficient) istatistik aşağıdakilerden hangisidir?

\left( \prod_{i=1}^n X_i, \sum_{i=1}^n X_i \right)

\left( \sum_{i=1}^n X_i, \sum_{i=1}^n X_i^2 \right)

\left( \min_{1 \leq i \leq n} X_i, \sum_{i=1}^n X_i \right)

\left( \prod_{i=1}^n X_i, \max_{1 \leq i \leq n} X_i \right)

\sum_{i=1}^n X_i

Cevabı ve açıklamayı göster

Cevap: $\left( \prod_{i=1}^n X_i, \sum_{i=1}^n X_i \right)$

Cevap

Ortak yeterli istatistik, gözlemlerin çarpımı ve toplamından oluşan

(\prod_{i=1}^n X_i, \sum_{i=1}^n X_i)

vektörüdür.

Neyman Çarpanlara Ayırma Teoremine göre, olabilirlik fonksiyonu parametrelere ve bir istatistiğe bağlı olan

g(T(x)|\theta)

fonksiyonu ile sadece gözlemlere bağlı olan

h(x)

fonksiyonunun çarpımı olarak yazılabiliyorsa,

T(x)

yeterli istatistiktir. Gama dağılımı için olabilirlik fonksiyonu düzenlendiğinde parametrelere bağlı kısım hem gözlemlerin çarpımını (

\prod X_i

) hem de gözlemlerin toplamını (

\sum X_i

) içerdiği için, bu iki değer ortak yeterli istatistik vektörünü oluşturur.

Adım Adım Çözüm

1

Olabilirlik (Likelihood) fonksiyonunu oluşturun.

L(\alpha, \beta; \mathbf{x}) = \prod_{i=1}^n \left[ \frac{1}{\Gamma(\alpha)\beta^\alpha} x_i^{\alpha-1} e^{-x_i/\beta} \right]

Yeterli istatistikleri bulmak için gözlemlerin ortak olasılık yoğunluk fonksiyonunun parametrelere göre ifade edilmesi gerekir.

2

Çarpım işlemini dağıtarak olabilirlik fonksiyonunu düzenleyin.

L(\alpha, \beta; \mathbf{x}) = \left( \frac{1}{\Gamma(\alpha)\beta^\alpha} \right)^n \left( \prod_{i=1}^n x_i \right)^{\alpha-1} \exp\left( -\frac{1}{\beta} \sum_{i=1}^n x_i \right)

Neyman teoremine hazırlık yapmak için parametre içeren terimler ile örneklem değerlerini gruplamak şarttır.

3

Neyman Çarpanlara Ayırma Teoremini (

L = g(T(\mathbf{x}) | \boldsymbol{\theta}) \cdot h(\mathbf{x})

) uygulayın.

g(T, \boldsymbol{\theta}) = \left( \frac{1}{\Gamma(\alpha)\beta^\alpha} \right)^n \left( \prod_{i=1}^n x_i \right)^{\alpha-1} \exp\left( -\frac{1}{\beta} \sum_{i=1}^n x_i \right)

ve

h(\mathbf{x}) = 1

olarak ayrıştırılır.

Parametrelere (

\alpha, \beta

) bağlı olan

g

fonksiyonunun içindeki örneklem fonksiyonları, aranan ortak yeterli istatistikleri verir. Bu fonksiyonlar

\prod X_i

ve

\sum X_i

'dir.

Anahtar Kavram

Neyman Çarpanlara Ayırma Teoremi (Yeterlilik)

Soru 59Soru →

Bir endüstriyel üretim hattında üretilen elektronik sensörlerin arıza süreleri $X$ , aşağıdaki olasılık yoğunluk fonksiyonuna sahip bir dağılım ile modellenmektedir:

f(x;\theta) = \begin{cases} e^{\theta - x}, & x > \theta \\ 0, & \text{diğer} \end{cases}

Burada $\theta > 0$ bilinmeyen bir parametre olup sensörün garanti edilen minimum çalışma süresini göstermektedir. Rassal olarak seçilen $n$ adet sensörün arıza süreleri $X_1, X_2, \dots, X_n$ olmak üzere, $\theta$ parametresini tahmin etmek için $T = \min(X_1, X_2, \dots, X_n)$ istatistiği (birinci sıra istatistiği) öneriliyor.

Buna göre, $T$ tahmin edicisinin $\theta$ için Hata Kareler Ortalaması (MSE) aşağıdakilerden hangisidir?

\frac{1}{n^2}

\frac{n+1}{n^2}

\frac{2}{n^2}

\frac{n^2+1}{n^2}

\frac{1}{n}

Cevabı ve açıklamayı göster

Cevap: $\frac{2}{n^2}$

Cevap

\frac{2}{n^2}

ifadesini veren seçenek doğru cevaptır.

Hata Kareler Ortalaması (MSE), varyans ile yan miktarının karesinin toplamına eşittir (

MSE = Var(T) + Bias^2

).

T = \min(X_1, \dots, X_n)

istatistiği için kaydırılmış üstel dağılımın özellikleri kullanıldığında varyans

1/n^2

ve yan miktarı

1/n

olarak bulunur. Bunların formülde yerine konulup toplanmasıyla

(1/n^2) + (1/n)^2 = 2/n^2

sonucuna ulaşılır.

Adım Adım Çözüm

1

T

tahmin edicisinin (1. sıra istatistiği) dağılımını belirleme

P(X > x) = e^{\theta - x}

olduğundan,

P(T > t) = [P(X > t)]^n = e^{n(\theta - t)}

elde edilir. Buradan

T

'nin olasılık yoğunluk fonksiyonu

f_T(t) = n e^{n(\theta - t)}

(

t > \theta

) olarak bulunur.

T

tahmin edicisinin beklenen değerini ve varyansını hesaplayabilmek için kendi dağılımının bilinmesi gerekir.

2

T

tahmin edicisinin beklenen değerini ve yan miktarını (Bias) hesaplama

Bu dağılım, kaydırma parametresi

\theta

ve ölçek parametresi

1/n

olan üstel bir dağılımdır. Dolayısıyla

E[T] = \theta + \frac{1}{n}

bulunur. Buradan

Bias(T) = E[T] - \theta = \frac{1}{n}

elde edilir.

MSE formülündeki yan (bias) bileşenini bulmak için.

3

T

tahmin edicisinin varyansını hesaplama

Üstel dağılımın özelliği gereği varyans,

(1/n)^2 = \frac{1}{n^2}

olarak bulunur.

MSE formülündeki varyans bileşenini bulmak için.

4

Hata Kareler Ortalamasını (MSE) hesaplama

MSE(T) = Var(T) + [Bias(T)]^2 = \frac{1}{n^2} + \left(\frac{1}{n}\right)^2 = \frac{2}{n^2}

olarak hesaplanır.

Tüm hesaplanan bileşenleri temel MSE formülünde yerine koyarak nihai sonuca ulaşmak için.

Anahtar Kavram

Tahmin Edicilerin Özellikleri: Yansızlık ve Hata Kareler Ortalaması (MSE)

Soru 60Soru →

Bir tarım araştırma enstitüsünde, yeni geliştirilen bir buğday türünün belirli bir alandaki verimi (ton) $X$ rastgele değişkeni ile ifade edilmektedir. Bu verimin olasılık yoğunluk fonksiyonu, $\theta > 0$ bilinmeyen bir parametre olmak üzere aşağıda verilmiştir:

f(x; \theta) = \begin{cases} \frac{2x}{\theta^2}, & 0 < x < \theta \\ 0, & \text{diğer durumlarda} \end{cases}

Buğday verimine ilişkin $n$ çaplı rastgele bir örneklem alındığında, $\theta$ parametresinin momentler yöntemi (Method of Moments) ile elde edilen tahmin edicisi ( $\hat{\theta}_{MoM}$ ) aşağıdakilerden hangisidir? ( $\bar{X}$ , örneklem ortalamasıdır.)

\frac{2\bar{X}}{3}

2\bar{X}

\frac{3\bar{X}}{2}

3\bar{X}

\sqrt{2\bar{X}}

Cevabı ve açıklamayı göster

Cevap: $\frac{3\bar{X}}{2}$

Cevap

\frac{3\bar{X}}{2}

Momentler yönteminde tahmin edici bulmak için

E[X] = \bar{X}

eşitliği kullanılır. Verilen olasılık yoğunluk fonksiyonu için beklenen değer

E[X] = \int_0^\theta x f(x) dx = \int_0^\theta x \left(\frac{2x}{\theta^2}\right) dx = \frac{2}{\theta^2} \left[ \frac{x^3}{3} \right]_0^\theta = \frac{2\theta}{3}

olarak bulunur. Bu değer örneklem ortalaması olan

\bar{X}

'e eşitlendiğinde

\frac{2\theta}{3} = \bar{X}

denklemi elde edilir. Buradan parametre çekildiğinde momentler yöntemi tahmin edicisi

\hat{\theta}_{MoM} = \frac{3\bar{X}}{2}

olarak bulunur.

Adım Adım Çözüm

1

Kitleye ait birinci momenti (beklenen değeri) hesaplayın.

E[X] = \int_0^\theta x \cdot \frac{2x}{\theta^2} dx = \frac{2}{\theta^2} \left[ \frac{x^3}{3} \right]_0^\theta = \frac{2\theta}{3}

Momentler yönteminde ilk adım, teorik kitle momentlerini bulmaktır.

2

Birinci kitle momentini birinci örneklem momentine (

\bar{X}

) eşitleyin.

\frac{2\theta}{3} = \bar{X}

Yöntemin temel prensibi, bilinmeyen parametreyi tahmin etmek için

E[X] = \bar{X}

eşitliğini kurmaktır.

3

Elde edilen denklemde bilinmeyen

\theta

parametresini yalnız bırakın.

\hat{\theta}_{MoM} = \frac{3\bar{X}}{2}

Eşitlikten parametrenin tahmin edicisine matematiksel olarak ulaşılır.

Anahtar Kavram

Momentler yöntemi, kitlenin teorik momentleri ile örneklemin ampirik momentlerinin birbirine eşitlenmesi esasına dayanır. Tek parametreli bir dağılım için yalnızca birinci momentlerin (beklenen değer ve örneklem ortalaması) hesaplanıp eşitlenmesi yeterlidir.

Parametre Tahmin Yöntemleri

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Alternatif Yöntem

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm