X_1, X_2, \dots, X_n rastgele örneklemi, beklenen değeri 0 ve varyansı \theta olan normal … — KPSS İstatistik

$X_1, X_2, \dots, X_n$ rastgele örneklemi, beklenen değeri $0$ ve varyansı $\theta$ olan normal dağılımdan alınmıştır.

Buna göre, $\theta$ parametresinin yansız bir tahmin edicisi için Cramer-Rao alt sınırı (CRLB) aşağıdakilerden hangisidir?

Cramer-Rao alt sınırı (CRLB)

\frac{2\theta^2}{n}

ifadesine eşittir.

Cramer-Rao alt sınırı (CRLB), yansız bir tahmin edicinin varyansının alabileceği en küçük değeri verir ve

\frac{1}{n \cdot I(\theta)}

formülü ile hesaplanır. Burada

I(\theta)

, tek bir gözlem için Fisher bilgisidir.

N(0, \theta)

dağılımı için log-olabilirlik fonksiyonu

\ln f(x; \theta) = -\frac{1}{2}\ln(2\pi) - \frac{1}{2}\ln(\theta) - \frac{x^2}{2\theta}

şeklindedir.

\theta

'ya göre birinci türev

-\frac{1}{2\theta} + \frac{x^2}{2\theta^2}

ve ikinci türev

\frac{1}{2\theta^2} - \frac{x^2}{\theta^3}

olur. İkinci türevin beklenen değerini alırken

E[X^2] = \theta

eşitliği kullanılır ve beklenen değer

-\frac{1}{2\theta^2}

olarak bulunur. Fisher bilgisi

I(\theta) = \frac{1}{2\theta^2}

olur. Sonuç olarak CRLB,

1 / \left(n \cdot \frac{1}{2\theta^2}\right) = \frac{2\theta^2}{n}

olarak hesaplanır.

Normal dağılımın olasılık yoğunluk fonksiyonunu yazıp doğal logaritmasını alma.

\ln f(x; \theta) = -\frac{1}{2}\ln(2\pi) - \frac{1}{2}\ln(\theta) - \frac{x^2}{2\theta}

Fisher bilgisi, olasılık yoğunluk fonksiyonunun logaritmasının (log-olabilirlik) türevlerine dayanır.

Log-olabilirlik fonksiyonunun

\theta

'ya göre birinci ve ikinci türevlerini alma.

Birinci türev:

-\frac{1}{2\theta} + \frac{x^2}{2\theta^2}

İkinci türev:

\frac{1}{2\theta^2} - \frac{x^2}{\theta^3}

Cramer-Rao alt sınırını hesaplamak için ikinci türevin beklenen değeri formülü kullanılır.

İkinci türevin beklenen değerini (

E[X^2] = \theta

bilgisini kullanarak) hesaplama ve Fisher bilgisini (

I(\theta)

) bulma.

E\left[\frac{1}{2\theta^2} - \frac{X^2}{\theta^3}\right] = \frac{1}{2\theta^2} - \frac{\theta}{\theta^3} = -\frac{1}{2\theta^2}

olup,

I(\theta) = -E\left[ \frac{\partial^2}{\partial \theta^2} \ln f(x; \theta) \right] = \frac{1}{2\theta^2}

elde edilir.

Tek bir gözlem için Fisher bilgisi, log-olabilirliğin ikinci türevinin beklenen değerinin eksi işaretlisidir.

n

çaplı örneklem için Cramer-Rao alt sınırını hesaplama.

CRLB = \frac{1}{n \cdot I(\theta)} = \frac{1}{n \cdot \frac{1}{2\theta^2}} = \frac{2\theta^2}{n}

Yansız bir tahmin edicinin varyansının alt sınırı (CRLB), toplam Fisher bilgisinin tersine eşittir.

Cramer-Rao Eşitsizliği ve Fisher Bilgisi

Question