Examkin

Soru

Zorluk: KolayCramer-Rao Eşitsizliği ve Alt Sınırı

XX rastgele değişkeni, 0<p<10 < p < 1 olmak üzere pp parametreli Bernoulli dağılımına sahiptir. Bu dağılımın olasılık fonksiyonu f(x;p)=px(1−p)1−x,x∈{0,1}f(x; p) = p^x (1-p)^{1-x}, x \in \{0, 1\} olarak verildiğine göre, tek bir gözlem için Fisher bilgi miktarı (I(p)I(p)) aşağıdakilerden hangisidir?

  1. 1p(1−p)\frac{1}{p(1-p)}Cevap
  2. B
    p(1−p)p(1-p)
  3. C
    np(1−p)\frac{n}{p(1-p)}
  4. D
    1p2\frac{1}{p^2}
  5. E
    1p\frac{1}{p}

Cevap

Bernoulli dağılımı için tek bir gözleme dayalı Fisher bilgi miktarı 1p(1−p)\frac{1}{p(1-p)} ifadesine eşittir.
Bernoulli dağılımı için log-olabilirlik fonksiyonunun ikinci türevinin negatif beklenen değeri hesaplandığında, sonuç paydada p(1−p)p(1-p) çarpımını veren rasyonel ifadeye ulaşır. Bu değer, verinin parametre hakkında taşıdığı bilgi miktarını temsil eder.

Adım Adım Çözüm

1
Log-olabilirlik fonksiyonunu oluşturun.
ln⁡f(x;p)=xln⁡p+(1−x)ln⁡(1−p)\ln f(x; p) = x \ln p + (1-x) \ln(1-p)
Fisher bilgisini hesaplamak için olasılık fonksiyonunun doğal logaritması alınmalıdır.
2
pp parametresine göre birinci türevi alın.
∂ln⁡f∂p=xp−1−x1−p\frac{\partial \ln f}{\partial p} = \frac{x}{p} - \frac{1-x}{1-p}
Skor fonksiyonunu (score function) bulmak için birinci türev gereklidir.
3
pp parametresine göre ikinci türevi hesaplayın.
∂2ln⁡f∂p2=−xp2−1−x(1−p)2\frac{\partial^2 \ln f}{\partial p^2} = -\frac{x}{p^2} - \frac{1-x}{(1-p)^2}
Fisher bilgisi tanımı gereği ikinci türevin beklenen değerini kullanır.
4
Negatif beklenen değeri hesaplayarak Fisher bilgisini bulun.
I(p)=−E[−Xp2−1−X(1−p)2]=pp2+1−p(1−p)2=1p+11−p=1p(1−p)I(p) = -E\left[-\frac{X}{p^2} - \frac{1-X}{(1-p)^2}\right] = \frac{p}{p^2} + \frac{1-p}{(1-p)^2} = \frac{1}{p} + \frac{1}{1-p} = \frac{1}{p(1-p)}
E[X]=pE[X]=p olduğu kullanılarak sonuç sadeleştirilir.

Anahtar Kavram

Fisher Bilgi Miktarı (Fisher Information)

İpuçları

1
Fisher bilgisini bulmak için önce olasılık fonksiyonunun logaritmasını alarak işe başlayın.
2
Logaritması alınmış fonksiyonun parametreye (pp) göre iki kez türevini almanız ve sonucun negatif beklenen değerine bakmanız gerekir.
3
Bernoulli dağılımında E[X]=pE[X] = p olduğunu hatırlayın ve ikinci türevdeki XX terimi yerine bu değeri koyun.

Daha Fazla Pratik

Aynı dağılım için nn örneklem hacmi verildiğinde, örneklem ortalamasının varyansının Cramer-Rao alt sınırına ulaşıp ulaşmadığını kontrol edebilirsiniz.

Alternatif Yöntem

Fisher bilgisi aynı zamanda birinci türevin karesinin beklenen değeri E[(∂∂pln⁡f(X;p))2]E[(\frac{\partial}{\partial p} \ln f(X; p))^2] formülüyle de hesaplanabilir. Bu yolla varyans tanımına ulaşarak aynı sonucu elde edebilirsiniz.
Tahmini Süre:45s
Bu soruyu puanla

Konular

Cramer-Rao Eşitsizliği ve Alt Sınırı

Bu konudan daha fazla soru