Parametre Tahmin Yöntemleri Alıştırma Soruları — KPSS İstatistik — Sayfa 6

Soru 101Soru →

Orijinden geçen basit doğrusal regresyon modelinde ( $Y_i = \beta X_i + \epsilon_i$ ), $\beta$ parametresinin tahmini için En Küçük Kareler (EKK) yöntemi uygulanmıştır. Bu yöntemle elde edilen kalıntılar $e_i = Y_i - \hat{Y}_i$ ( $i = 1, 2, \dots, n$ ) şeklinde tanımlandığına göre, normal denklemlerin bir sonucu olarak aşağıdakilerden hangisi her zaman doğrudur?

Kalıntıların toplamı sıfıra eşittir (

\sum_{i=1}^{n} e_i = 0

).

Tahmin edilen regresyon doğrusu mutlaka değişkenlerin ortalamasından (

\bar{X}, \bar{Y}

) geçer.

Bağımsız değişken değerleri ile kalıntıların çarpımlarının toplamı sıfıra eşittir (

\sum_{i=1}^{n} X_i e_i = 0

).

Kalıntıların toplamı, bağımsız değişken değerlerinin toplamına eşittir (

\sum e_i = \sum X_i

).

Kalıntıların varyansı her zaman hata terimlerinin varyansından büyüktür.

Cevabı ve açıklamayı göster

Cevap: Bağımsız değişken değerleri ile kalıntıların çarpımlarının toplamı sıfıra eşittir ( $\sum_{i=1}^{n} X_i e_i = 0$ ).

Cevap

Bağımsız değişken değerleri ile kalıntıların çarpımlarının toplamı sıfıra eşittir (

\sum X_i e_i = 0

)

En Küçük Kareler yöntemi, hata kareler toplamının (

S

) parametrelere göre kısmi türevlerinin alınması ve sıfıra eşitlenmesi prensibine dayanır.

Y_i = \beta X_i + \epsilon_i

modelinde sadece

\beta

parametresi bulunduğundan,

\frac{dS}{d\beta} = 0

koşulu

-2\sum(Y_i - \beta X_i)X_i = 0

denklemini verir. Bu denklemde

Y_i - \hat{\beta}X_i

ifadesi kalıntıyı (

e_i

) temsil ettiğinden, doğrudan

\sum X_i e_i = 0

sonucuna ulaşılır. Bu, bağımsız değişken ile kalıntıların ortogonal (dik) olduğunu gösteren temel bir cebirsel özelliktir.

Adım Adım Çözüm

1

Minimize edilecek olan hata kareler toplamı fonksiyonunu (S) tanımla.

S(\beta) = \sum_{i=1}^{n} (Y_i - \beta X_i)^2

En Küçük Kareler yöntemi, gözlenen değerler ile tahmin edilen değerler arasındaki farkların karelerinin toplamını minimize eder.

2

Fonksiyonun

\beta

parametresine göre türevini al ve sıfıra eşitle.

\frac{dS}{d\beta} = -2 \sum_{i=1}^{n} (Y_i - \beta X_i) X_i = 0

Bir fonksiyonun minimum noktasında birinci türev sıfıra eşittir.

3

Elde edilen denklemi kalıntılar (

e_i

) cinsinden yeniden düzenle.

\sum_{i=1}^{n} X_i (Y_i - \hat{\beta} X_i) = 0 \Rightarrow \sum_{i=1}^{n} X_i e_i = 0

e_i = Y_i - \hat{\beta} X_i

olduğu için parantez içi kalıntı değerini ifade eder ve sonuç sıfır olur.

Anahtar Kavram

Normal denklemlerin türetilmesi ve cebirsel özellikleri

Soru 102Soru →

Bir tekstil fabrikasında kumaşların dayanıklılık testi sonuçları $X$ rassal değişkeni ile modellenmektedir. $\theta > 0$ olmak üzere, $X$ değişkeninin olasılık yoğunluk fonksiyonu aşağıda verilmiştir:

f(x; \theta) = \frac{3(\theta-x)^2}{\theta^3}, \quad 0 < x < \theta

Bu kitleden seçilen $n$ birimlik bir örneklem için $\bar{X}$ örneklem ortalaması olmak üzere, $\theta$ parametresini tahmin etmek amacıyla $T = 2\bar{X}$ tahmin edicisi önerilmiştir. Buna göre, $T$ tahmin edicisinin Hata Kareler Ortalaması (MSE) aşağıdakilerden hangisidir?

\frac{(5n+3)\theta^2}{20n}

\frac{3\theta^2}{20n}

\frac{(2n+3)\theta^2}{20n}

\frac{(5n+1)\theta^2}{20n}

\frac{(3n+5)\theta^2}{20n}

Cevabı ve açıklamayı göster

Cevap: $\frac{(5n+3)\theta^2}{20n}$

Cevap

Tahmin edicinin Hata Kareler Ortalaması

\frac{(5n+3)\theta^2}{20n}

ifadesine eşittir.

Tahmin edicinin beklenen değeri

E[T] = \theta/2

olup

\theta

parametresinden farklıdır, bu nedenle yan miktarı

-\theta/2

olur. Varyans terimi ile bu yan miktarının karesi (

\theta^2/4

) toplandığında payda eşitleme sonucu doğru ifadeye ulaşılır.

Adım Adım Çözüm

1

Kitle beklenen değerini (

E[X]

) hesaplayın.

E[X] = \int_0^\theta x \frac{3(\theta-x)^2}{\theta^3} dx = \frac{\theta}{4}

Örneklem ortalamasının beklenen değerini bulmak için kitlenin beklenen değeri gereklidir.

2

Kitle varyansını (

Var(X)

) hesaplayın.

E[X^2] = \frac{\theta^2}{10} \Rightarrow Var(X) = \frac{\theta^2}{10} - \left(\frac{\theta}{4}\right)^2 = \frac{3\theta^2}{80}

Tahmin edicinin varyansını hesaplamak için kitle varyansına ihtiyaç vardır.

3

Tahmin edicinin varyansını (

Var(T)

) ve yan (bias) miktarını hesaplayın.

Var(T) = 4 \frac{Var(X)}{n} = \frac{3\theta^2}{20n}

ve

Bias(T) = E[2\bar{X}] - \theta = 2\frac{\theta}{4} - \theta = -\frac{\theta}{2}

MSE formülü varyans ve yan miktarının karesinin toplamından oluşur.

4

MSE formülünü uygulayın.

MSE(T) = Var(T) + [Bias(T)]^2 = \frac{3\theta^2}{20n} + \frac{\theta^2}{4} = \frac{(5n+3)\theta^2}{20n}

Tanım gereği Hata Kareler Ortalaması, varyans ile yan karesinin toplamıdır.

Anahtar Kavram

Hata Kareler Ortalaması (MSE) bileşenleri

Soru 103Soru →

Bir kamu araştırma laboratuvarında hassas bir ölçüm cihazı kullanılarak bir kimyasal bileşenin saflık derecesi ( $\theta$ ) ölçülmektedir. Ölçüm değerlerinin ( $X$ ), $\theta$ ortalamalı ve $\sigma^2 = 9$ varyanslı normal dağılıma sahip olduğu bilinmektedir. $\theta$ parametresi için önsel (prior) dağılım $N(20, 18)$ olarak belirlenmiştir. Yapılan tek bir ölçüm sonucunda saflık derecesi $x = 26$ olarak elde edildiğine göre, karesel hata kayıp fonksiyonu (squared error loss) altında $\theta$ parametresinin Bayes tahmin edicisi kaçtır?

20

22

23

24

26

Cevabı ve açıklamayı göster

Cevap: 24

Cevap

Bayes tahmin edicisi sonsal dağılımın ortalaması olup, hesaplama sonucunda 24 olarak bulunur.

Verilen problemde normal dağılımın ortalaması için yine normal bir önsel dağılım kullanılmıştır. Karesel hata kayıp fonksiyonu altında Bayes tahmin edicisi, sonsal dağılımın beklenen değerine (ortalamasına) eşittir. Bu değer, örneklem ortalaması (

x

) ile önsel ortalamanın (

\mu_0

), hassasiyetleri (varyansların tersi) ile ağırlıklandırılmasıyla hesaplanır. Formül gereği

24

sonucu elde edilir.

Adım Adım Çözüm

1

Likelihood (olabilirlik) ve önsel (prior) dağılım parametrelerini belirle.

X | \theta \sim N(\theta, \sigma^2=9)

ve

\theta \sim N(\mu_0=20, \tau_0^2=18)

. Gözlem değeri

x=26

.

Normal dağılımın ortalaması için normal önsel dağılım kullanıldığında sonsal dağılım da normal olur (eşlenik önsel).

2

Karesel hata kayıp fonksiyonu için Bayes tahmin edicisinin formülünü tanımla.

Bayes tahmin edicisi

\hat{\theta}_B = E[\theta | x]

(sonsal beklenen değer).

Karesel hata kaybı durumunda riski minimize eden tahmin edici sonsal dağılımın ortalamasıdır.

3

Sonsal dağılımın ortalamasını (

\mu_1

) hesapla.

\mu_1 = \frac{\frac{x}{\sigma^2} + \frac{\mu_0}{\tau_0^2}}{\frac{1}{\sigma^2} + \frac{1}{\tau_0^2}} = \frac{\frac{26}{9} + \frac{20}{18}}{\frac{1}{9} + \frac{1}{18}}

Normal-Normal konjuge çiftinde sonsal ortalama, önsel ve örneklem bilgilerinin varyanslarıyla ters orantılı ağırlıklandırılmış ortalamasıdır.

4

Sayısal işlemi tamamla.

\mu_1 = \frac{\frac{52+20}{18}}{\frac{2+1}{18}} = \frac{72/18}{3/18} = \frac{72}{3} = 24

.

Payda ve paydaki ortak çarpanlar sadeleştirilerek sonuca ulaşılır.

Anahtar Kavram

Normal-Normal Eşlenik Önsel Dağılım ve Bayes Tahmin Edicisi

Daha Fazla Pratik

Eğer kayıp fonksiyonu karesel hata yerine mutlak hata (absolute error loss) olsaydı, Bayes tahmin edicisinin sonsal dağılımın medyanı olacağını unutmayın.

Alternatif Yöntem

Sonsal ortalamayı şu şekilde de düşünebilirsiniz:

\mu_1 = w \cdot x + (1-w) \cdot \mu_0

. Burada

w

ağırlığı, örneklem hassasiyetinin toplam hassasiyete oranıdır:

w = \frac{1/9}{1/9 + 1/18} = \frac{2/18}{3/18} = 2/3

. Buradan

\mu_1 = (2/3) \cdot 26 + (1/3) \cdot 20 = 52/3 + 20/3 = 72/3 = 24

.

Tahmini Süre:1m 30s

Soru 104Soru →

Bir hidroloji istasyonunda, bir nehrin yıllık debisinin kritik eşiği aşma durumu (Aştı: 1, Aşmadı: 0) $p$ parametreli bağımsız Bernoulli denemeleri ile izlenmektedir. $n$ yıllık bir gözlem süresi sonunda, nehrin kritik eşiği toplam $T = \sum_{i=1}^n X_i$ kez aştığı saptanmıştır. Nehrin ardışık iki yıl boyunca kritik eşiği aşma olasılığı olan $p^2$ parametresinin Düzgün En Küçük Varyanslı Yansız Tahmin Edicisi (UMVUE) aşağıdakilerden hangisidir?

\frac{T(T-1)}{n(n-1)}

\frac{T^2}{n^2}

\frac{T}{n}

\frac{T(T-1)}{n^2}

\frac{T^2}{n(n-1)}

Cevabı ve açıklamayı göster

Cevap: $\frac{T(T-1)}{n(n-1)}$

Cevap

Düzgün En Küçük Varyanslı Yansız Tahmin Edici (UMVUE), toplam başarı sayısının

T(T-1)/n(n-1)

şeklinde oranlanmasıyla elde edilir.

Doğru cevap olan ifade, Bernoulli örnekleminde tam yeterli istatistik olan toplam gözlem değerinin (

T

) bir fonksiyonudur.

E[T(T-1)] = n(n-1)p^2

eşitliği sağlandığı için bu ifade

p^2

parametresi için yansızdır. Lehmann-Scheffe teoremine göre, tam yeterli bir istatistiğe dayanan yansız bir tahmin edici, düzgün en küçük varyanslı yansız tahmin edicidir (UMVUE).

Adım Adım Çözüm

1

Dağılımın ve yeterli istatistiğin belirlenmesi

T = \sum X_i

tam yeterli istatistiktir.

Bernoulli dağılımı üstel aileye aittir ve

T

istatistiği bu aile için tam ve yeterlidir.

2

T

istatistiğinin beklenen değerinin hesaplanması

E[T] = np

ve

E[T^2] = np(1-p) + n^2p^2

T \sim Binom(n, p)

dağılımına sahiptir.

3

p^2

için yansız bir fonksiyon kurgulanması

E[T(T-1)] = E[T^2] - E[T] = np - np^2 + n^2p^2 - np = n(n-1)p^2

Amacımız beklenen değeri

p^2

olan bir istatistik bulmaktır.

4

Lehmann-Scheffe teoreminin uygulanması

E[\frac{T(T-1)}{n(n-1)}] = p^2

Tam yeterli istatistiğin yansız her fonksiyonu biricik UMVUE'dir.

Anahtar Kavram

Lehmann-Scheffe Teoremi ve UMVUE

Daha Fazla Pratik

Benzer şekilde varyans olan

p(1-p)

parametresi için UMVUE hesaplaması yaparak sonuçları karşılaştırınız.

Tahmini Süre:1m 40s

Soru 105Soru →

Bir kamu kurumuna belirli bir süre zarfında gelen başvuru sayısının $\lambda$ parametreli Poisson dağılımına uygun olduğu bilinmektedir:

f(x; \lambda) = \frac{e^{-\lambda} \lambda^x}{x!}, \quad x = 0, 1, 2, \dots

Sistem verimliliğini analiz etmek amacıyla, belirli bir zaman diliminde hiç başvuru gelmeme olasılığı olan $\tau(\lambda) = e^{-\lambda}$ parametresi tahmin edilmek istenmektedir. $n$ birimlik bağımsız ve aynı dağılımlı bir örneklem temel alındığında, $\tau(\lambda)$ parametresinin herhangi bir yansız tahmin edicisinin varyansı için Cramer-Rao alt sınırı aşağıdakilerden hangisidir?

\frac{\lambda e^{-2\lambda}}{n}

\frac{e^{-2\lambda}}{n\lambda}

\lambda e^{-2\lambda}

\frac{e^{-2\lambda}}{n}

\frac{\lambda e^{-\lambda}}{n}

Cevabı ve açıklamayı göster

Cevap: $\frac{\lambda e^{-2\lambda}}{n}$

Cevap

Cramer-Rao alt sınırı

\frac{\lambda e^{-2\lambda}}{n}

olarak hesaplanır.

Cramer-Rao alt sınırı, tahmin edilmek istenen fonksiyonun türevinin karesinin toplam Fisher bilgisine bölünmesiyle bulunur. Poisson dağılımı için birim Fisher bilgisi

1/\lambda

ve

e^{-\lambda}

fonksiyonunun türevinin karesi

e^{-2\lambda}

olduğundan,

n

birimlik örneklem için alt sınır

\frac{\lambda e^{-2\lambda}}{n}

olur.

Adım Adım Çözüm

1

Tek bir gözlem için Fisher bilgi miktarını (

I(\lambda)

) hesapla.

I(\lambda) = -E\left[ \frac{\partial^2 \ln f(X; \lambda)}{\partial \lambda^2} \right] = 1/\lambda

Cramer-Rao alt sınırı formülünün paydası için birim bilgi miktarına ihtiyaç vardır.

2

Tahmin edilmek istenen

\tau(\lambda) = e^{-\lambda}

fonksiyonunun türevini al ve karesini hesapla.

\tau'(\lambda) = -e^{-\lambda} \Rightarrow [\tau'(\lambda)]^2 = e^{-2\lambda}

Alt sınır, tahmin edilen fonksiyonun değişim hızının karesiyle doğru orantılıdır.

3

Örneklem büyüklüğü

n

için Cramer-Rao alt sınırı formülünü uygula.

Var(\hat{\tau}) \geq \frac{[\tau'(\lambda)]^2}{n I(\lambda)} = \frac{e^{-2\lambda}}{n (1/\lambda)} = \frac{\lambda e^{-2\lambda}}{n}

Bağımsız

n

gözlem için toplam bilgi miktarı

n I(\lambda)

olur.

Anahtar Kavram

Cramer-Rao eşitsizliği, yansız bir tahmin edicinin sahip olabileceği teorik en küçük varyans değerini belirler.

Tahmini Süre:2m 30s

Soru 106Soru →

Bir devlet matbaasında basılan resmi belgelerin her birinde teknik bir hata bulunma olasılığı $\theta$ parametresi ile ifade edilmektedir. $\theta$ parametresi için uzman görüşleri doğrultusunda belirlenen önsel (prior) dağılım $Beta(2, 2)$ biçimindedir. Kalite kontrol süreci kapsamında rastgele seçilen 10 belgeden sadece 1 tanesinin hatalı olduğu saptanmıştır.

Karesel hata kayıp fonksiyonu kullanıldığına göre, $\theta$ parametresinin Bayes tahmin edicisi aşağıdakilerden hangisidir?

3/14

1/10

1/2

1/6

3/10

Cevabı ve açıklamayı göster

Cevap: $3/14$

Cevap

Bayes tahmin edicisi

3/14

olarak hesaplanır.

Verilen önsel

Beta(2, 2)

dağılımı ve Binom olabilirlik fonksiyonu (

n=10, x=1

) birleştirildiğinde, sonsal dağılım

Beta(3, 11)

olarak elde edilir. Karesel hata kayıp fonksiyonu altında Bayes tahmin edicisi, bu sonsal dağılımın beklenen değeridir ve

3 / (3 + 11) = 3/14

şeklinde hesaplanır.

Adım Adım Çözüm

1

Önsel dağılım ve örneklem parametrelerini belirleyin.

Önsel:

Beta(\alpha=2, \beta=2)

, Örneklem:

n=10, x=1

.

Bayesyen güncelleme için başlangıç parametrelerine ihtiyaç vardır.

2

Eşlenik önsel (conjugate prior) özelliğini kullanarak sonsal dağılım parametrelerini hesaplayın.

\alpha' = x + \alpha = 1 + 2 = 3

ve

\beta' = n - x + \beta = 10 - 1 + 2 = 11

.

Beta-Binom eşlenik yapısında sonsal dağılım

Beta(x+\alpha, n-x+\beta)

olur.

3

Karesel hata kayıp fonksiyonu altında Bayes tahmin edicisini bulun.

E[\theta|x] = \frac{\alpha'}{\alpha' + \beta'} = \frac{3}{3 + 11} = \frac{3}{14}

.

Karesel hata kaybı durumunda Bayes tahmin edicisi, sonsal dağılımın beklenen değerine eşittir.

Anahtar Kavram

Beta-Binom Eşlenik Dağılımları ve Bayesyen Nokta Tahmini

Soru 107Soru →

Bir kamu kurumunda işlem gören dosyaların tamamlanma süreleri $0$ ile $\theta$ gün arasında düzgün (uniform) dağılım göstermektedir. Bu kurumdan rastgele seçilen $n$ birimlik bir örneklem $X_1, X_2, \dots, X_n$ ile gösterildiğine göre, $\theta$ parametresinin düzgün en küçük varyanslı yansız tahmin edicisi (UMVUE) aşağıdakilerden hangisidir?

\frac{n+1}{n} X_{(n)}

2\bar{X}

X_{(n)}

\frac{n}{n+1} X_{(n)}

\bar{X} + \frac{X_{(n)}}{2}

Cevabı ve açıklamayı göster

Cevap: $\frac{n+1}{n} X_{(n)}$

Cevap

\frac{n+1}{n} X_{(n)}

ifadesi

\theta

parametresi için düzgün en küçük varyanslı yansız tahmin edicidir (UMVUE).

Düzgün dağılımda

X_{(n)}

istatistiği hem yeterli hem de tamdır. Lehmann-Scheffe teoremine göre, bu istatistiğin yansız bir fonksiyonu olan

\frac{n+1}{n} X_{(n)}

, varyansı tüm yansız tahmin ediciler arasında en küçük olan yegane tahmin edicidir.

Adım Adım Çözüm

1

Yeterli ve tam istatistiğin belirlenmesi

T = X_{(n)} = \max(X_1, \dots, X_n)

istatistiği yeterli ve tamdır.

Neyman-Fisher çarpanlara ayırma teoremine göre

[0, \theta]

düzgün dağılımı için maksimum gözlem değeri yeterli istatistiktir ve bu aile tamdır.

2

Yeterli istatistiğin beklenen değerinin hesaplanması

E[X_{(n)}] = \frac{n}{n+1}\theta

X_{(n)}

istatistiğinin olasılık yoğunluk fonksiyonu

f_{X_{(n)}}(x) = \frac{nx^{n-1}}{\theta^n}

olup,

0

ile

\theta

arasında integral alındığında sonuç

\frac{n}{n+1}\theta

bulunur.

3

Lehmann-Scheffe teoreminin uygulanması

\hat{\theta} = \frac{n+1}{n} X_{(n)}

E[\frac{n+1}{n} X_{(n)}] = \frac{n+1}{n} E[X_{(n)}] = \frac{n+1}{n} \cdot \frac{n}{n+1}\theta = \theta

olduğundan, yeterli ve tam istatistiğin bu yansız fonksiyonu UMVUE olur.

Anahtar Kavram

Lehmann-Scheffe Teoremi

Tahmini Süre:2m 30s

Soru 108Soru →

Bir kamu kurumu tarafından gerçekleştirilen kalite denetimi kapsamında, bir üretim bandından çıkan ürünlerin her birinin kusurlu olma olasılığı $p$ olan Bernoulli dağılımına uyduğu kabul edilmektedir. Denetim amacıyla rastgele seçilen $n$ birimlik bağımsız ve özdeş dağılımlı bir örneklem olan $X_1, X_2, \dots, X_n$ gözlemlerinin aritmetik ortalaması $\bar{X}$ olarak hesaplanmıştır. Buna göre, bu ürün grubunun 'kusur oranı' (odds) olarak tanımlanan $\theta = \frac{p}{1-p}$ parametresinin en çok olabilirlik tahmin edicisi aşağıdakilerden hangisidir?

\frac{\bar{X}}{1-\bar{X}}

\bar{X}

\frac{1-\bar{X}}{\bar{X}}

n\bar{X}

\frac{\bar{X}}{n}

Cevabı ve açıklamayı göster

Cevap: $\frac{\bar{X}}{1-\bar{X}}$

Cevap

En çok olabilirlik tahmin edicilerinin değişmezlik özelliği gereğince,

\theta = \frac{p}{1-p}

parametresinin tahmin edicisi

\frac{\bar{X}}{1-\bar{X}}

olarak bulunur.

Bernoulli dağılımı için

p

parametresinin en çok olabilirlik tahmin edicisi örneklem ortalaması olan

\bar{X}

'dır. En çok olabilirlik yönteminde, eğer

\hat{\theta}

,

\theta

için bir MLE ise,

g(\theta)

fonksiyonunun MLE'si de

g(\hat{\theta})

olur. Bu nedenle

\frac{p}{1-p}

fonksiyonunun MLE'si

\frac{\bar{X}}{1-\bar{X}}

olacaktır.

Adım Adım Çözüm

1

Bernoulli dağılımı için olabilirlik fonksiyonunun oluşturulması.

L(p) = \prod_{i=1}^{n} p^{x_i}(1-p)^{1-x_i} = p^{\sum x_i} (1-p)^{n-\sum x_i}

Parametre tahminine temel oluşturacak olabilirlik fonksiyonunu belirlemek.

2

Log-olabilirlik fonksiyonunun türevi alınarak

p

için en çok olabilirlik tahmin edicisinin bulunması.

\ell(p) = (\sum x_i)\ln p + (n-\sum x_i)\ln(1-p) \Rightarrow \frac{d\ell}{dp} = 0 \Rightarrow \hat{p} = \bar{X}

Ana parametre olan

p

için en çok olabilirlik tahmin edicisini (MLE) elde etmek.

3

Değişmezlik (Invariance) özelliğinin uygulanması.

\hat{\theta} = g(\hat{p}) = \frac{\hat{p}}{1-\hat{p}} = \frac{\bar{X}}{1-\bar{X}}

Bir parametrenin fonksiyonu olan

\theta

'nın tahmin edicisini, değişmezlik kuralı uyarınca

\hat{p}

cinsinden ifade etmek.

Anahtar Kavram

En Çok Olabilirlik Tahmin Edicilerinin Değişmezlik Özelliği

Tahmini Süre:1m 30s

Soru 109Soru →

Bir tekstil fabrikasındaki dokuma makinelerinin arıza yapana kadar geçen süresi (gün), $\theta > 0$ parametreli bir üstel dağılıma sahiptir:

f(x; \theta) = \frac{1}{\theta} e^{-x/\theta}, \quad x > 0

Bu kitleden rastgele seçilen $n$ birimlik bir örnekleme dayanarak, kitlenin beklenen değeri olan $\theta$ parametresinin herhangi bir yansız tahmin edicisinin varyansı için Cramer-Rao alt sınırı aşağıdakilerden hangisidir?

\frac{\theta}{n}

\frac{\theta^2}{n^2}

\theta^2

\frac{\theta^2}{n}

\frac{1}{n\theta^2}

Cevabı ve açıklamayı göster

Cevap: $\frac{\theta^2}{n}$

Cevap

Üstel dağılım için Cramer-Rao alt sınırı

\frac{\theta^2}{n}

olarak hesaplanır.

Cramer-Rao alt sınırı, Fisher bilgi miktarının (

I_n(\theta)

) çarpmaya göre tersidir. Üstel dağılımda

f(x; \theta) = (1/\theta)e^{-x/\theta}

için tek bir gözlemin Fisher bilgisi

I(\theta) = 1/\theta^2

olarak hesaplanır.

n

birimlik bağımsız örneklem için toplam Fisher bilgisi

n/\theta^2

olur. Bu değerin tersi alındığında alt sınır

\theta^2/n

olarak bulunur.

Adım Adım Çözüm

1

Olasılık yoğunluk fonksiyonunun logaritmasını alarak log-olabilirlik fonksiyonunu oluşturun.

\ln f(x; \theta) = -\ln \theta - \frac{x}{\theta}

Fisher bilgisini hesaplamak için log-olabilirlik üzerinden türev almak gereklidir.

2

Log-olabilirlik fonksiyonunun

\theta

parametresine göre birinci ve ikinci türevlerini alın.

\frac{\partial \ln f}{\partial \theta} = -\frac{1}{\theta} + \frac{x}{\theta^2}

ve

\frac{\partial^2 \ln f}{\partial \theta^2} = \frac{1}{\theta^2} - \frac{2x}{\theta^3}

Fisher bilgisi, ikinci türevin negatif beklenen değeridir.

3

Fisher bilgi miktarını (I(\theta)) beklenen değer üzerinden hesaplayın.

I(\theta) = -E\left[\frac{1}{\theta^2} - \frac{2X}{\theta^3}\right] = -\frac{1}{\theta^2} + \frac{2E[X]}{\theta^3}

. Üstel dağılımda

E[X] = \theta

olduğundan

I(\theta) = \frac{1}{\theta^2}

olur.

Tek bir gözlem için Fisher bilgisi parametrenin hassasiyetini belirler.

4

Cramer-Rao alt sınır formülünü

n

birimlik örneklem için uygulayın.

Var(\hat{\theta}) \geq \frac{1}{n I(\theta)} = \frac{1}{n (1/\theta^2)} = \frac{\theta^2}{n}

Cramer-Rao eşitsizliği, yansız bir tahmin edicinin sahip olabileceği minimum varyansı verir.

Anahtar Kavram

Cramer-Rao Alt Sınırı (CRLB), bir yansız tahmin edicinin varyansı için teorik alt limiti belirler ve Fisher bilgisinin tersine eşittir.

Soru 110Soru →

Bir kamu kurumunun e-devlet portalı üzerinden sunulan bir hizmette, başvuruların eksiksiz tamamlanma olasılığı $\theta$ parametresi ile modellenmektedir. Bu parametreye ilişkin uzman görüşlerine dayanılarak belirlenen önsel (prior) dağılım $Beta(2, 2)$ olarak tanımlanmıştır. Sistemden rastgele seçilen $10$ başvuruluk bir örneklemde $8$ başvurunun eksiksiz tamamlandığı gözlemlenmiştir. Karesel hata kayıp fonksiyonu (squared error loss) kullanıldığına göre, $\theta$ parametresinin Bayes nokta tahmini aşağıdakilerden hangisidir?

\frac{5}{7}

\frac{4}{5}

\frac{1}{2}

\frac{2}{3}

\frac{3}{4}

Cevabı ve açıklamayı göster

Cevap: $\frac{5}{7}$

Cevap

Bayes nokta tahmini, sonsal dağılımın beklenen değeri olan 5/7'dir.

Verilen problemde önsel dağılım

Beta(2, 2)

ve gözlemler Binom dağılımına uygundur. Beta ve Binom dağılımları eşlenik olduğundan, sonsal dağılım da bir Beta dağılımıdır. Başarı sayısı

8

ve başarısızlık sayısı

2

olduğu için, sonsal parametreler

\alpha'=8+2=10

ve

\beta'=2+2=4

olarak güncellenir. Karesel hata kayıp fonksiyonu kullanıldığında Bayes tahmin edicisi sonsal dağılımın beklenen değerine (ortalamasına) eşittir. Bu değer

\frac{10}{10+4} = \frac{10}{14} = \frac{5}{7}

olarak hesaplanır.

Adım Adım Çözüm

1

Önsel dağılım ve olabilirlik fonksiyonunun belirlenmesi

Önsel:

\pi(\theta) \sim Beta(\alpha=2, \beta=2)

, Olabilirlik:

X \sim Binomial(n=10, \theta)

ve gözlemlenen başarı

x=8

.

Bayesyen güncelleme için gerekli başlangıç bileşenlerini tanımlamak gerekir.

2

Sonsal (posterior) dağılım parametrelerinin hesaplanması

\alpha' = x + \alpha = 8 + 2 = 10

ve

\beta' = n - x + \beta = 10 - 8 + 2 = 4

. Sonsal dağılım

Beta(10, 4)

olur.

Beta-Binomial eşlenik ailesinde sonsal dağılım parametreleri doğrudan toplama yoluyla güncellenir.

3

Kayıp fonksiyonuna göre Bayes tahmin edicisinin seçilmesi

Karesel hata kayıp fonksiyonu altında Bayes tahmin edicisi, sonsal dağılımın beklenen değeridir:

E[\theta|x] = \frac{\alpha'}{\alpha' + \beta'} = \frac{10}{10 + 4} = \frac{10}{14} = \frac{5}{7}

.

Karesel hata kaybı (squared error loss), Bayes riskini minimize eden değer olarak her zaman sonsal ortalamayı verir.

Anahtar Kavram

Beta-Binomial Eşlenik Dağılımlar ve Sonsal Ortalama

Daha Fazla Pratik

Mutlak hata kayıp fonksiyonu (absolute error loss) kullanılsaydı Bayes tahmin edicisinin sonsal medyan olacağını unutmayın.

Tahmini Süre:2m 0s

Soru 111Soru →

Bir trafik şube müdürlüğünde, vatandaşların ehliyet yenileme işlemleri için katettikleri mesafe ( $x$ ), $\theta > 0$ olmak üzere aşağıdaki olasılık yoğunluk fonksiyonu ile modellenmektedir:

f(x; \theta) = \begin{cases} \frac{2(\theta - x)}{\theta^2}, & 0 < x < \theta \\ 0, & \text{diğer durumlar} \end{cases}

Bu kitleden çekilen $n$ birimlik bir rastgele örneklem $X_1, X_2, \dots, X_n$ ve örneklem ortalaması $\bar{X}$ olmak üzere, $\theta$ parametresi için önerilen $T = 2\bar{X}$ tahmin edicisinin Hata Kareler Ortalaması ( $MSE(T)$ ) aşağıdakilerden hangisidir?

\frac{(n+2)\theta^2}{9n}

\frac{2\theta^2}{9n}

\frac{(n+1)\theta^2}{9n}

\frac{\theta^2}{9}

\frac{(n+2)\theta^2}{18n}

Cevabı ve açıklamayı göster

Cevap: $\frac{(n+2)\theta^2}{9n}$

Cevap

Tahmin edicinin Hata Kareler Ortalaması

\frac{(n+2)\theta^2}{9n}

ifadesine eşittir.

Tahmin edicinin beklenen değeri

2\theta/3

olduğu için yan miktarı

-\theta/3

olarak bulunur. Varyansı ise

2\theta^2/9n

şeklindedir. MSE, varyans ile yan miktarının karesinin toplamı olduğundan, bu iki değer toplandığında sonuç payda eşitleme ile elde edilir.

Adım Adım Çözüm

1

Kitlenin beklenen değerini (

E[X]

) hesaplayın.

E[X] = \int_0^\theta x \frac{2(\theta - x)}{\theta^2} dx = \frac{2}{\theta^2} \left[ \frac{\theta x^2}{2} - \frac{x^3}{3} \right]_0^\theta = \frac{2}{\theta^2} \left( \frac{\theta^3}{6} \right) = \frac{\theta}{3}

Tahmin edicinin beklenen değerini ve yan (bias) miktarını belirlemek için gereklidir.

2

Kitlenin varyansını (

Var(X)

) hesaplayın.

E[X^2] = \int_0^\theta x^2 \frac{2(\theta - x)}{\theta^2} dx = \frac{2}{\theta^2} \left( \frac{\theta^4}{12} \right) = \frac{\theta^2}{6}

Var(X) = E[X^2] - (E[X])^2 = \frac{\theta^2}{6} - \frac{\theta^2}{9} = \frac{\theta^2}{18}

Tahmin edicinin varyansını bulmak için temel kitle varyansı gereklidir.

3

Tahmin edicinin beklenen değerini ve yan miktarını bulun.

E[T] = E[2\bar{X}] = 2 E[X] = \frac{2\theta}{3}

Yan(T) = E[T] - \theta = \frac{2\theta}{3} - \theta = -\frac{\theta}{3}

MSE formülündeki yan (bias) bileşenini belirlemek için gereklidir.

4

Tahmin edicinin varyansını hesaplayın.

Var(T) = Var(2\bar{X}) = 4 Var(\bar{X}) = 4 \frac{Var(X)}{n} = \frac{4\theta^2}{18n} = \frac{2\theta^2}{9n}

MSE formülündeki varyans bileşenini belirlemek için gereklidir.

5

Hata Kareler Ortalamasını (

MSE

) hesaplayın.

MSE(T) = Var(T) + [Yan(T)]^2 = \frac{2\theta^2}{9n} + \left(-\frac{\theta}{3}\right)^2 = \frac{2\theta^2}{9n} + \frac{\theta^2}{9} = \frac{(n+2)\theta^2}{9n}

MSE = Varyans + Yan^2

formülünü uygulayarak sonuca ulaşılır.

Anahtar Kavram

Hata Kareler Ortalaması (MSE), bir tahmin edicinin varyansı ile yan miktarının karesinin toplamına eşittir.

Tahmini Süre:2m 30s

Soru 112Soru →

Bir kamu kurumundaki veri analiz biriminde, birim zamanda gelen başvuru sayısının $\lambda$ parametreli Poisson dağılımına sahip olduğu varsayılmaktadır. Bu kitleden alınan $n$ birimlik bağımsız bir rastgele örneklem $X_1, X_2, \dots, X_n$ ve örneklem toplamı $S = \sum_{i=1}^n X_i$ olarak tanımlanmıştır. $P(X=0) = e^{-\lambda}$ değerini tahmin etmek için kullanılan $T = \begin{cases} 1, & X_1 = 0 \\ 0, & X_1 > 0 \end{cases}$ yansız tahmin edicisi göz önüne alındığında, Rao-Blackwell teoremi kullanılarak elde edilen iyileştirilmiş tahmin edici $E[T|S]$ aşağıdakilerden hangisidir?

(1 - \frac{1}{n})^S

e^{-S/n}

(1 - \frac{S}{n})^n

\frac{S}{n} e^{-1/n}

1 - (\frac{1}{n})^S

Cevabı ve açıklamayı göster

Cevap: $(1 - \frac{1}{n})^S$

Cevap

İyileştirilmiş tahmin edici

(1 - 1/n)^S

ifadesidir.

Rao-Blackwell teoremi uyarınca,

T

yansız bir tahmin edici ve

S

yeterli bir istatistik ise

T^* = E[T|S]

tahmin edicisi de yansızdır ve varyansı

T

'den küçüktür. Poisson kitleleri için

X_1=0

durumunun koşullu olasılığı hesaplandığında, toplamda

n

birimden gelen bilgilerin oranlanmasıyla

(1 - 1/n)^S

yapısına ulaşılır.

Adım Adım Çözüm

1

Yeterli istatistiği belirleyin.

S = \sum X_i

istatistiği

\lambda

için yeterlidir.

Poisson dağılımı üstel aile üyesidir ve toplam istatistiği Neyman çarpanlara ayırma teoremi gereği yeterlidir.

2

Koşullu beklentiyi

E[T|S=s]

formunda kurun.

E[T|S=s] = P(X_1=0 | S=s)

T

bir gösterge değişkeni olduğundan, beklenen değeri ilgili olayın olasılığına eşittir.

3

Koşullu olasılık tanımını uygulayın.

P(X_1=0 | S=s) = \frac{P(X_1=0, \sum_{i=2}^n X_i = s)}{P(S=s)}

X_i

değişkenlerinin bağımsızlığı kullanılarak pay kısmı çarpım şeklinde yazılır.

4

Olasılık kütle fonksiyonlarını yerleştirin.

\frac{e^{-\lambda} \cdot \frac{e^{-(n-1)\lambda} [(n-1)\lambda]^s}{s!}}{\frac{e^{-n\lambda} (n\lambda)^s}{s!}}

X_1 \sim Poisson(\lambda)

ve bağımsız toplam

\sum_{i=2}^n X_i \sim Poisson((n-1)\lambda)

özelliklerinden yararlanılır.

5

İfadeyi sadeleştirin.

\frac{(n-1)^s}{n^s} = (1 - \frac{1}{n})^s

e^{-n\lambda}

terimleri ve

s!

değerleri birbirini götürür.

Anahtar Kavram

Rao-Blackwell Teoremi ve Koşullu Beklenti

Tahmini Süre:2m 0s

Soru 113Soru →

Bir kamu personeli seçme sınavında adayların başarılı olma durumu (Başarılı: 1, Başarısız: 0), $p$ parametreli Bernoulli dağılımına uymaktadır. Bu sınavdan rastgele seçilen $n$ kişilik bir örneklemde başarılı olanların toplam sayısı $T = \sum_{i=1}^n X_i$ olarak tanımlanmıştır. Buna göre, bu kitlenin varyansı olan $p(1-p)$ parametresinin Düzgün En Küçük Varyanslı Yansız Tahmin Edicisi (UMVUE) aşağıdakilerden hangisidir?

\frac{T(n-T)}{n^2}

\frac{T(n-T)}{n(n-1)}

\frac{T}{n}

\frac{T(T-1)}{n(n-1)}

\frac{T(n-T)}{(n-1)^2}

Cevabı ve açıklamayı göster

Cevap: $\frac{T(n-T)}{n(n-1)}$

Cevap

Kitlenin varyansı

p(1-p)

için UMVUE ifadesi

\frac{T(n-T)}{n(n-1)}

şeklindedir.

T = \sum X_i

istatistiği Bernoulli dağılımı için yeterli ve tam bir istatistiktir. Lehmann-Scheffe teoremi, bu istatistiğin bir fonksiyonu olan yansız bir tahmin edicinin eşsiz ve düzgün en küçük varyanslı yansız tahmin edici (UMVUE) olacağını belirtir.

E[T(n-T)] = n E[T] - E[T^2]

hesaplandığında sonuç

n(n-1)p(1-p)

olarak bulunur. Bu ifade

n(n-1)

'e bölündüğünde varyans parametresi için yansızlık sağlanır.

Adım Adım Çözüm

1

Yeterli ve tam istatistiği belirle.

T = \sum X_i \sim Binomial(n, p)

Bernoulli dağılımı üstel aileye aittir ve toplam istatistiği bu aile için hem yeterli hem de tamdır.

2

T(n-T)

ifadesinin beklenen değerini hesapla.

E[T(n-T)] = n(n-1)p(1-p)

E[T] = np

ve

E[T^2] = np(1-p) + n^2p^2

değerleri kullanılarak yansızlık katsayısı bulunur.

3

Yansızlık için gerekli düzeltmeyi yap.

E[\frac{T(n-T)}{n(n-1)}] = p(1-p)

Beklenen değerden elde edilen katsayıya bölünerek aranan parametre için yansız bir yapı elde edilir.

4

Lehmann-Scheffe teoremini uygula.

UMVUE:

\frac{T(n-T)}{n(n-1)}

Tam ve yeterli bir istatistiğin fonksiyonu olan yansız tahmin edici eşsizdir ve en küçük varyanslıdır.

Anahtar Kavram

Lehmann-Scheffe Teoremi uyarınca, tam ve yeterli istatistiklerin fonksiyonu olan yansız tahmin ediciler UMVUE özelliğine sahiptir.

Daha Fazla Pratik

Aynı dağılım için

p^2

parametresinin UMVUE'sini hesaplayarak farkı gözlemleyiniz.

Alternatif Yöntem

Alternatif olarak,

\bar{X}

ve

\bar{X}^2

üzerinden gidilebilir.

E[\bar{X}] = p

ve

E[\bar{X}^2] = \frac{p(1-p)}{n} + p^2

olduğu bilinmektedir. Bu iki denklemi kullanarak

p(1-p)

yalnız bırakıldığında UMVUE yapısına ulaşılabilir.

Tahmini Süre:1m 30s

Soru 114Soru →

Kitle ortalaması $\mu$ ve varyansı $\sigma^2 < \infty$ olan bir ana kütleden $n$ hacimli bir rastgele örneklem çekilmiştir. $\mu$ parametresini tahmin etmek amacıyla önerilen $T_n = \frac{\sum_{i=1}^n X_i + 1}{n}$ tahmin edicisinin asimptotik davranışları dikkate alındığında, tutarlılık (consistency) özelliği ile ilgili aşağıdakilerden hangisi doğrudur?

Yanlı bir tahmin edicidir ancak örneklem hacmi sonsuza giderken hata kareler ortalaması sıfıra yaklaştığı için tutarlıdır.

Yansız bir tahmin edicidir ve varyansı sıfıra yaklaştığı için tutarlı bir tahmin edicidir.

Yanlı bir tahmin edicidir ve yanlılık terimi örneklem hacminden bağımsız olduğu için tutarsızdır.

Beklenen değeri parametreye eşit olmadığı için olasılıkta yakınsama şartını sağlamaz ve tutarsızdır.

Sadece kitle varyansının sıfır olduğu özel durumda tutarlı hale gelir, aksi halde tutarsızdır.

Cevabı ve açıklamayı göster

Cevap: Yanlı bir tahmin edicidir ancak örneklem hacmi sonsuza giderken hata kareler ortalaması sıfıra yaklaştığı için tutarlıdır.

Cevap

Önerilen tahmin edici yanlıdır fakat örneklem hacmi sonsuza giderken hata kareler ortalaması sıfıra yaklaştığı için tutarlıdır.

Tahmin edicinin beklenen değeri

\mu + 1/n

olduğu için

n

değerinin her sonlu seçimi için yanlıdır. Ancak

n \rightarrow \infty

iken beklenen değer

\mu

değerine yakınsar ve varyansı

\sigma^2/n

de sıfıra gider. Bu iki durum Hata Kareler Ortalamasının (MSE) sıfıra gitmesini sağlar, bu da tutarlılık için yeterli bir şarttır.

Adım Adım Çözüm

1

Tahmin edicinin beklenen değerini hesaplayın.

E(T_n) = E\left(\frac{\sum X_i + 1}{n}\right) = \frac{1}{n} [E(\sum X_i) + 1] = \frac{n\mu + 1}{n} = \mu + \frac{1}{n}

Yansızlık ve asimptotik yansızlık durumunu belirlemek için beklenen değer hesaplanmalıdır.

2

Tahmin edicinin varyansını hesaplayın.

Var(T_n) = Var\left(\frac{\sum X_i + 1}{n}\right) = \frac{1}{n^2} Var(\sum X_i + 1) = \frac{1}{n^2} (n\sigma^2) = \frac{\sigma^2}{n}

Tutarlılık için varyansın örneklem hacmi arttıkça davranışını incelemek gerekir.

3

Hata Kareler Ortalamasının (MSE) limitini kontrol edin.

MSE(T_n) = Var(T_n) + [Bias(T_n)]^2 = \frac{\sigma^2}{n} + \left(\frac{1}{n}\right)^2

.

n \rightarrow \infty

iken

MSE(T_n) \rightarrow 0

.

Bir tahmin edicinin MSE'sinin sıfıra gitmesi, o tahmin edicinin parametreye olasılıkta yakınsadığını (tutarlı olduğunu) gösteren yeterli bir koşuldur.

Anahtar Kavram

Bir tahmin edicinin tutarlı olması için örneklem hacmi sonsuza giderken parametreye olasılıkta yakınsaması gerekir (

T_n \xrightarrow{P} \theta

). Eğer

MSE(T_n) \rightarrow 0

ise bu koşul sağlanır.

Tahmini Süre:1m 30s

Soru 115Soru →

Bir sigorta şirketinin belirli bir bölgede karşılaştığı günlük trafik kazası sayısı, bilinmeyen $\lambda > 0$ parametreli Poisson dağılımı ile modellenmektedir. $\lambda$ parametresini tahmin etmek için $n$ günlük rastgele bir örneklem olan $X_1, X_2, \dots, X_n$ alınmış ve tahmin edici olarak örneklem ortalaması ( $\hat{\lambda} = \bar{X}$ ) önerilmiştir.

Bu tahmin problemi için kullanılacak kayıp fonksiyonu, tahmin hatasını parametrenin büyüklüğüne göre ölçeklendiren

L(\lambda, \hat{\lambda}) = \frac{(\hat{\lambda} - \lambda)^2}{\lambda}

şeklinde belirlenmiştir.

Buna göre, belirtilen kayıp fonksiyonu altında $\hat{\lambda}$ tahmin edicisinin risk fonksiyonu $R(\lambda, \hat{\lambda})$ ve bu tahmin edicinin istatistiksel özelliği aşağıdakilerden hangisinde doğru ifade edilmiştir?

R(\lambda, \hat{\lambda}) = \frac{\lambda}{n}

'dir ve risk parametreye bağlı olarak sınırsız artabildiği için minimax bir tahmin edici olamaz.

R(\lambda, \hat{\lambda}) = \frac{1}{n\lambda}

'dır ve risk

\lambda

sıfıra yaklaşırken sonsuza gittiği için minimax bir tahmin edici olamaz.

R(\lambda, \hat{\lambda}) = \frac{1}{n^2}

'dir ve risk sabit olmasına rağmen örneklem çapının karesiyle azaldığı için minimax değildir.

R(\lambda, \hat{\lambda}) = \frac{1}{n}

'dir ve risk parametreden bağımsız (sabit) olduğu için uygunluk (admissibility) koşulu altında bir minimax tahmin edicidir.

R(\lambda, \hat{\lambda}) = \frac{\lambda^2}{n}

'dir ve risk karesel olarak arttığı için minimax özelliği göstermez.

Cevabı ve açıklamayı göster

Cevap: $R(\lambda, \hat{\lambda}) = \frac{1}{n}$ 'dir ve risk parametreden bağımsız (sabit) olduğu için uygunluk (admissibility) koşulu altında bir minimax tahmin edicidir.

Cevap

Tahmin edicinin risk fonksiyonu 1/n olarak hesaplanır. Risk, bilinmeyen parametreden (λ) bağımsız ve sabit olduğu için, bu tahmin edici (uygunluk şartı altında) minimax özellik gösterir.

Risk fonksiyonu, kayıp fonksiyonunun beklenen değeri hesaplanarak bulunur:

R(\lambda, \hat{\lambda}) = E\left[\frac{(\bar{X} - \lambda)^2}{\lambda}\right] = \frac{1}{\lambda} E[(\bar{X} - \lambda)^2]

. Burada

E[(\bar{X} - \lambda)^2]

ifadesi

\bar{X}

'in varyansını ifade eder. Kitle Poisson dağıldığı için kitle varyansı

\lambda

'dır ve

\bar{X}

'in varyansı

\lambda/n

olur. Formülde yerine konulduğunda risk

\frac{1}{\lambda} \cdot \frac{\lambda}{n} = \frac{1}{n}

olarak elde edilir. Bu risk değeri tahmin edilecek parametre olan

\lambda

'ya bağlı olmadığından 'sabit risk' söz konusudur. Karar teorisinde, sabit bir riske sahip olan ve uygun (admissible) olan bir tahmin edici aynı zamanda minimax tahmin edicidir.

Adım Adım Çözüm

1

Risk fonksiyonunun matematiksel tanımını kayıp fonksiyonu üzerinden yazmak.

R(\lambda, \hat{\lambda}) = E[L(\lambda, \hat{\lambda})] = E\left[\frac{(\bar{X} - \lambda)^2}{\lambda}\right]

Risk fonksiyonu, kullanılan kayıp fonksiyonunun örneklem uzayı üzerindeki beklenen değeridir.

2

Beklenen değer operatörünün özelliklerini kullanarak ifadeyi düzenlemek.

R(\lambda, \hat{\lambda}) = \frac{1}{\lambda} E[(\bar{X} - \lambda)^2]

\lambda

sabit bir parametre olduğu için beklenen değer operatörünün dışına katsayı olarak alınabilir.

3

İfadede yer alan

E[(\bar{X} - \lambda)^2]

teriminin neye karşılık geldiğini belirlemek ve Poisson dağılımı için hesaplamak.

E[(\bar{X} - \lambda)^2] = Var(\bar{X}) = \frac{Var(X)}{n} = \frac{\lambda}{n}

Örneklem ortalaması yansız bir tahmin edici olduğu için hatasının karesel beklenen değeri doğrudan varyansına eşittir ve Poisson dağılımında kitle varyansı

\lambda

'dır.

4

Bulunan varyans değerini risk formülünde yerine yazmak ve minimax özelliğini yorumlamak.

R(\lambda, \hat{\lambda}) = \frac{1}{\lambda} \cdot \frac{\lambda}{n} = \frac{1}{n}

Sonuç

\lambda

'dan bağımsızdır (sabittir). İstatistiksel karar teorisine göre sabit riske sahip olan uygun (admissible) bir tahmin edici, maksimum riskini minimize ettiği için minimax tahmin edicidir.

Anahtar Kavram

Kayıp Fonksiyonları ve Sabit Riskli Minimax Tahmin Ediciler

Soru 116Soru →

Bir tarımsal araştırma merkezinde üretilen paketlerin ağırlıklarının, ortalaması $\mu = 500$ gram olan normal dağılıma uygun olduğu bilinmektedir. Paket ağırlıklarının varyansı ( $\sigma^2$ ) ise bilinmeyen bir parametredir. $n$ birimlik rastgele bir örneklem üzerinden yapılan analiz sonucunda $\sigma^2$ parametresinin en çok olabilirlik (MLE) tahmin edicisi $\hat{\sigma}^2$ olarak hesaplanmıştır. En çok olabilirlik tahmin edicilerinin değişmezlik (invariance) özelliği dikkate alındığında, paket ağırlıklarının varyasyon katsayısı olan $VK = \frac{\sigma}{\mu}$ ifadesinin en çok olabilirlik tahmin edicisi aşağıdakilerden hangisidir?

\frac{\sqrt{\hat{\sigma}^2}}{500}

\frac{\hat{\sigma}^2}{500}

\frac{\sqrt{\hat{\sigma}^2}}{n \cdot 500}

\frac{\hat{\sigma}^2}{500^2}

500 \cdot \sqrt{\hat{\sigma}^2}

Cevabı ve açıklamayı göster

Cevap: $\frac{\sqrt{\hat{\sigma}^2}}{500}$

Cevap

Varyasyon katsayısının en çok olabilirlik tahmin edicisi

\frac{\sqrt{\hat{\sigma}^2}}{500}

ifadesidir.

En çok olabilirlik tahmin edicilerinin değişmezlik özelliği (Invariance property) uyarınca, eğer

\hat{\theta}

,

\theta

için bir MLE ise, o halde

\theta

'nın herhangi bir fonksiyonu olan

g(\theta)

'nın MLE'si

g(\hat{\theta})

'dır. Bu soruda

\sigma^2

parametresinin MLE'si

\hat{\sigma}^2

olarak verildiğinden ve varyasyon katsayısı

g(\sigma^2) = \frac{\sqrt{\sigma^2}}{500}

şeklinde tanımlandığından, bu ifadenin MLE'si doğrudan parametre yerine tahmin edicisi konularak elde edilen

\frac{\sqrt{\hat{\sigma}^2}}{500}

olur.

Adım Adım Çözüm

1

Parametreyi ve mevcut tahmin ediciyi tanımla.

İlgili parametre

\sigma^2

ve bunun en çok olabilirlik tahmin edicisi

\hat{\sigma}^2

olarak verilmiştir.

Değişmezlik özelliğini uygulamak için temel parametrenin MLE'sini bilmek gerekir.

2

Tahmin edilmek istenen fonksiyonu (

g(\sigma^2)

) belirle.

g(\sigma^2) = VK = \frac{\sigma}{\mu} = \frac{\sqrt{\sigma^2}}{500}

Varyasyon katsayısı standart sapmanın ortalamaya oranıdır;

\mu=500

olduğu için fonksiyon bu şekilde kurulur.

3

En çok olabilirlik tahmin edicilerinin değişmezlik (invariance) özelliğini uygula.

\widehat{g(\sigma^2)} = g(\hat{\sigma}^2)

yani

\widehat{VK} = \frac{\sqrt{\hat{\sigma}^2}}{500}

Zehna Teoremi'ne göre, bir parametrenin fonksiyonunun MLE'si, o fonksiyonun parametre MLE'si altındaki değerine eşittir.

Anahtar Kavram

En Çok Olabilirlik Tahmin Edicilerinin Değişmezlik (Invariance) Özelliği

Alternatif Yöntem

Zehna Teoremi'nin genel tanımını hatırlayarak, parametrik uzaydaki herhangi bir dönüşümün olabilirlik fonksiyonunun tepe noktasını koruduğu mantığıyla da çözülebilir.

Tahmini Süre:1m 30s

Soru 117Soru →

Kitlenin ortalaması $\theta$ ve varyansı $\sigma^2 < \infty$ olan bir ana kütleden $n$ hacimli bir rastgele örneklem ( $X_1, X_2, \dots, X_n$ ) çekilmiştir. $\theta$ parametresini tahmin etmek amacıyla önerilen

T_n = \frac{\sum_{i=1}^n X_i + 1}{n+1}

tahmin edicisi için aşağıdakilerden hangisi doğrudur?

Yansız ve tutarlı bir tahmin edicidir.

Yanlı bir tahmin edicidir ancak tutarlıdır.

Yanlı bir tahmin edicidir ve tutarlı değildir.

Yansız bir tahmin edicidir ancak tutarlı değildir.

Sadece

\theta = 1

durumunda tutarlı bir tahmin edicidir.

Cevabı ve açıklamayı göster

Cevap: Yanlı bir tahmin edicidir ancak tutarlıdır.

Cevap

Önerilen tahmin edici yanlı bir tahmin edicidir ancak tutarlıdır.

Hesaplamalar sonucunda tahmin edicinin beklenen değerinin

\theta

'ya eşit olmadığı (yanlı olduğu) ancak Ortalama Hata Karesinin (MSE)

n

sonsuza giderken sıfıra yaklaştığı görülmektedir. MSE'nin sıfıra gitmesi, tahmin edicinin olasılıkta

\theta

'ya yakınsadığını, yani tutarlı olduğunu kanıtlar.

Adım Adım Çözüm

1

Tahmin edicinin beklenen değerini hesaplayın.

E[T_n] = E\left[\frac{\sum X_i + 1}{n+1}\right] = \frac{n\theta + 1}{n+1}

Toplama işleminin beklenen değeri, beklenen değerlerin toplamına eşittir.

2

Yan (bias) miktarını belirleyin.

Bias(T_n) = E[T_n] - \theta = \frac{n\theta + 1}{n+1} - \theta = \frac{1 - \theta}{n+1}

\theta = 1

durumu hariç sonuç sıfır değildir, bu nedenle tahmin edici yanlıdır.

3

Tahmin edicinin varyansını hesaplayın.

Var(T_n) = Var\left[\frac{\sum X_i + 1}{n+1}\right] = \frac{n\sigma^2}{(n+1)^2}

Sabitlerin varyansı sıfırdır ve varyans operatörü katsayıyı karesiyle dışarı çıkarır.

4

Ortalama Hata Karesinin (MSE) limitini kontrol ederek tutarlılığı inceleyin.

\lim_{n \rightarrow \infty} MSE(T_n) = \lim_{n \rightarrow \infty} \left[ \frac{n\sigma^2}{(n+1)^2} + \left(\frac{1 - \theta}{n+1}\right)^2 \right] = 0 + 0 = 0

MSE'nin limitinin sıfır olması, tahmin edicinin parametreye olasılıksal olarak yakınsadığını (tutarlılığı) gösteren yeterli bir koşuldur.

Anahtar Kavram

Bir tahmin edicinin tutarlı olması için örneklem hacmi arttıkça Ortalama Hata Karesinin (MSE) sıfıra yaklaşması yeterlidir. Bu durum, tahmin edicinin hem varyansının hem de yan miktarının asimptotik olarak yok olması anlamına gelir.

Tahmini Süre:2m 0s

Soru 118Soru →

Bir ziraat mühendisi, toprağa verilen azot miktarı ( $X$ , kg/dekar) ile mısır verimi ( $Y$ , ton/dekar) arasındaki ilişkiyi belirlemek amacıyla aşağıdaki basit doğrusal regresyon modelini kurmuştur:

Y_i = \beta_0 + \beta_1 X_i + \epsilon_i

Deney yapılan 5 farklı parselden elde edilen verilerin özet istatistikleri şu şekildedir:

İstatistik	Değer
$n$	$5$
$\sum X_i$	$15$
$\sum Y_i$	$20$
$\sum X_i^2$	$55$
$\sum X_i Y_i$	$66$

Bu verilere göre, En Küçük Kareler (EKK) yöntemi kullanılarak hesaplanan eğim katsayısı (mısır verimindeki artış oranı) tahmini $\hat{\beta}_1$ kaçtır?

0,6

1,2

2,2

1,3

0,4

Cevabı ve açıklamayı göster

Cevap: 0,6

Cevap

En Küçük Kareler yöntemiyle hesaplanan eğim parametresi tahmini 0,6'dır.

Verilen özet istatistikler kullanılarak önce değişkenlerin ortalamaları (3 ve 4), ardından düzeltilmiş kareler toplamı (10) ve çarpımlar toplamı (6) hesaplanır. Eğim katsayısı tahmini, çarpımlar toplamının bağımsız değişkenin kareler toplamına oranı (

6/10

) sonucu

0,6

olarak bulunur.

Adım Adım Çözüm

1

Aritmetik ortalamaların hesaplanması

\bar{X} = \frac{15}{5} = 3

ve

\bar{Y} = \frac{20}{5} = 4

Regresyon parametrelerinin sapmalı (devotional) formda hesaplanabilmesi için ortalamalara ihtiyaç duyulur.

2

Düzeltilmiş kareler toplamının (

S_{XX}

) hesaplanması

S_{XX} = \sum X_i^2 - n\bar{X}^2 = 55 - 5(3^2) = 55 - 45 = 10

Eğim katsayısının paydasını oluşturan bağımsız değişkenin varyasyonu ile ilgili terimdir.

3

Düzeltilmiş çarpımlar toplamının (

S_{XY}

) hesaplanması

S_{XY} = \sum X_i Y_i - n\bar{X}\bar{Y} = 66 - 5(3)(4) = 66 - 60 = 6

Eğim katsayısının payını oluşturan değişkenler arasındaki eş-değişimi temsil eden terimdir.

4

Eğim katsayısının (

\hat{\beta}_1

) hesaplanması

\hat{\beta}_1 = \frac{S_{XY}}{S_{XX}} = \frac{6}{10} = 0,6

EKK yöntemiyle elde edilen normal denklemlerin çözümünden gelen standart tahmin edici formülüdür.

Anahtar Kavram

Basit doğrusal regresyonda En Küçük Kareler (EKK) yöntemi ile parametre tahmini süreci normal denklemlerin çözümüne dayanır.

Tahmini Süre:2m 0s

Soru 119Soru →

Bir enerji dağıtım şirketi, belirli bir bölgedeki günlük elektrik tüketimindeki dalgalanmaları $X$ (megawatt cinsinden) rassal değişkeni ile izlemektedir. $\theta > 0$ bilinmeyen bir parametre olmak üzere, $X$ değişkeninin olasılık yoğunluk fonksiyonu şu şekildedir:

f(x; \theta) = \begin{cases} \frac{5x^4}{\theta^5}, & 0 < x < \theta \\ 0, & \text{diğer durumlar} \end{cases}

Şirket, $\theta$ değerini tahmin etmek amacıyla bu kitleden $n$ birimlik bir rastgele örneklem seçmiş ve $\bar{X}$ örneklem ortalamasını bir tahmin edici olarak önermiştir. Buna göre, $\bar{X}$ tahmin edicisinin hata kareler ortalaması (MSE) aşağıdakilerden hangisidir?

\frac{5\theta^2}{252n}

\frac{(7n+5)\theta^2}{252n}

\frac{(n+5)\theta^2}{252n}

\frac{(7n+1)\theta^2}{252n}

\frac{(5n+7)\theta^2}{252n}

Cevabı ve açıklamayı göster

Cevap: $\frac{(7n+5)\theta^2}{252n}$

Cevap

Tahmin edicinin hata kareler ortalaması

\frac{(7n+5)\theta^2}{252n}

olarak hesaplanır.

Tahmin edicinin beklenen değeri

5/6\theta

olup,

\theta

parametresi için yanlı bir tahmin edicidir. Hata kareler ortalaması, tahmin edicinin varyansı olan

5\theta^2/252n

ile yan miktarının karesi olan

\theta^2/36

değerlerinin toplanmasıyla elde edilen payda eşitlenmiş halidir.

Adım Adım Çözüm

1

Kitlenin beklenen değerini hesaplayın.

E[X] = \int_{0}^{\theta} x \cdot \frac{5x^4}{\theta^5} dx = \frac{5}{\theta^5} [\frac{x^6}{6}]_0^{\theta} = \frac{5}{6}\theta

Tahmin edicinin yanlı olup olmadığını belirlemek ve varyans hesabında kullanmak için kitlenin ortalaması gereklidir.

2

Kitlenin varyansını hesaplayın.

E[X^2] = \int_{0}^{\theta} x^2 \cdot \frac{5x^4}{\theta^5} dx = \frac{5}{7}\theta^2

. Buradan

Var(X) = \frac{5}{7}\theta^2 - (\frac{5}{6}\theta)^2 = \frac{180-175}{252}\theta^2 = \frac{5}{252}\theta^2

.

Örneklem ortalamasının varyansını bulmak için kitlenin varyansına ihtiyaç vardır.

3

Tahmin edicinin beklenen değerini ve varyansını bulun.

E[\bar{X}] = E[X] = \frac{5}{6}\theta

ve

Var(\bar{X}) = \frac{Var(X)}{n} = \frac{5\theta^2}{252n}

.

MSE formülündeki bileşenleri elde etmek için istatistiğin örnekleme dağılımı özellikleri kullanılır.

4

Yan (bias) miktarını hesaplayın.

Yan(\bar{X}) = E[\bar{X}] - \theta = \frac{5}{6}\theta - \theta = -\frac{1}{6}\theta

.

Tahmin edici parametreye eşit olmadığından MSE hesabına yan miktarının karesi eklenmelidir.

5

MSE formülünü uygulayın.

MSE(\bar{X}) = Var(\bar{X}) + [Yan(\bar{X})]^2 = \frac{5\theta^2}{252n} + (-\frac{1}{6}\theta)^2 = \frac{5\theta^2}{252n} + \frac{\theta^2}{36} = \frac{5\theta^2 + 7n\theta^2}{252n}

.

Hata kareler ortalaması, varyans ve yan miktarının karesinin toplamıdır.

Anahtar Kavram

Hata Kareler Ortalaması (MSE) Hesabı

Daha Fazla Pratik

Tahmin edicinin katsayısı değiştirilerek yansız hale getirilmesi durumunda varyansın nasıl değişeceğini inceleyebilirsiniz.

Tahmini Süre:2m 30s

Soru 120Soru →

Bir vergi dairesinde mükelleflerin işlem süreleri, ortalaması $\theta > 0$ olan bir üstel dağılıma ( $E[X]=\theta$ ) uygunluk göstermektedir. Bu daireden tesadüfi olarak seçilen $n$ birimlik bağımsız ve özdeş dağılımlı bir örneklem $X_1, X_2, \dots, X_n$ olarak gözlemlenmiştir. Buna göre, bir işlemin $t$ dakikadan uzun sürme olasılığı olan $P(X > t)$ ifadesinin en çok olabilirlik (ML) tahmin edicisi aşağıdakilerden hangisidir?

e^{-t/\bar{X}}

1 - e^{-t/\bar{X}}

e^{-t \bar{X}}

\bar{X} e^{-t}

\frac{1}{\bar{X}} e^{-t/\bar{X}}

Cevabı ve açıklamayı göster

Cevap: $e^{-t/\bar{X}}$

Cevap

İşlemin

t

dakikadan uzun sürme olasılığının en çok olabilirlik tahmin edicisi

e^{-t/\bar{X}}

ifadesidir.

Ortalaması

\theta

olan üstel dağılımda

\theta

parametresinin en çok olabilirlik tahmin edicisi örneklem ortalaması olan

\bar{X}

'dir. En çok olabilirlik tahmin edicileri değişmezlik özelliğine sahip olduğundan, bir olasılık fonksiyonunun (

P(X > t) = e^{-t/\theta}

) tahmin edicisi, bilinmeyen parametre yerine onun tahmin edicisinin yazılmasıyla elde edilen

e^{-t/\bar{X}}

olur.

Adım Adım Çözüm

1

Olabilirlik fonksiyonunu (

L(\theta)

) ve log-olabilirlik fonksiyonunu (

l(\theta)

) oluşturun.

L(\theta) = \prod_{i=1}^{n} \frac{1}{\theta} e^{-x_i/\theta} = \theta^{-n} e^{-\frac{\sum x_i}{\theta}}

ve

l(\theta) = -n \ln \theta - \frac{\sum x_i}{\theta}

Parametre tahmin edicisini bulmak için tüm gözlemlerin ortak yoğunluk fonksiyonu üzerinden işlem yapılır.

2

Log-olabilirlik fonksiyonunun

\theta

parametresine göre türevini alıp sıfıra eşitleyerek

\hat{\theta}_{ML}

değerini bulun.

\frac{d}{d\theta} l(\theta) = -\frac{n}{\theta} + \frac{\sum x_i}{\theta^2} = 0 \implies \hat{\theta}_{ML} = \frac{\sum x_i}{n} = \bar{X}

En çok olabilirlik tahmin edicisi, olabilirlik fonksiyonunu maksimum yapan değerdir.

3

Tahmin edilmek istenen fonksiyonu (

g(\theta) = P(X > t)

) belirleyin.

P(X > t) = \int_{t}^{\infty} \frac{1}{\theta} e^{-x/\theta} dx = [-e^{-x/\theta}]_t^{\infty} = e^{-t/\theta}

Soruda istenen olasılık değeri, yoğunluk fonksiyonunun

t

ile sonsuz arasındaki integralidir.

4

En çok olabilirlik tahmin edicilerinin değişmezlik (invariance) özelliğini uygulayın.

\hat{g}(\theta) = g(\hat{\theta}_{ML}) = e^{-t/\bar{X}}

Bir parametrenin fonksiyonunun ML tahmin edicisi, o fonksiyonun içine parametrenin kendi ML tahmin edicisinin yazılmasıyla elde edilir.

Anahtar Kavram

En Çok Olabilirlik Tahmin Edicilerinin Değişmezlik (Invariance) Özelliği

Daha Fazla Pratik

Varyansın (

\theta^2

) en çok olabilirlik tahmin edicisini bulmak için de benzer şekilde değişmezlik özelliğini kullanarak

\bar{X}^2

sonucuna ulaşabilirsiniz.

Tahmini Süre:1m 30s

Parametre Tahmin Yöntemleri

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Daha Fazla Pratik

Alternatif Yöntem

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Daha Fazla Pratik

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Daha Fazla Pratik

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Daha Fazla Pratik

Alternatif Yöntem

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Alternatif Yöntem

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar

Cevap

Adım Adım Çözüm

Anahtar Kavram

Sık Yapılan Hatalar