Soru

Zorluk: OrtaEn Çok Olabilirlik Yöntemi (Maximum Likelihood Estimation)

Bir fabrikada üretilen elektronik çipler kalite kontrol sürecinden geçmektedir. Kusurlu bir çip bulana kadar incelenen kusursuz (sağlam) çip sayısı XX rastgele değişkeni ile modellenmektedir. XX'in olasılık fonksiyonu, 0<p<10 < p < 1 olmak üzere;

P(X=x)=p(1p)x,x=0,1,2,P(X=x) = p(1-p)^x, \quad x=0, 1, 2, \dots

şeklinde verilmiştir.

Bu fabrikadan rastgele seçilen nn farklı inceleme sürecinde, ilk kusurlu çip bulunana kadar geçen kusursuz çip sayıları X1,X2,,XnX_1, X_2, \dots, X_n bağımsız ve özdeş dağılımlı (i.i.d.) olarak kaydedilmiş ve örneklem ortalaması Xˉ\bar{X} olarak hesaplanmıştır.

Buna göre, yeni yapılacak bir incelemede ilk incelenen çipin kusursuz, ikinci incelenen çipin ise kusurlu olma olasılığının en çok olabilirlik (MLE) tahmin edicisi aşağıdakilerden hangisidir?

  1. Xˉ(1+Xˉ)2\frac{\bar{X}}{(1+\bar{X})^2}Cevap
  2. B
    11+Xˉ\frac{1}{1+\bar{X}}
  3. C
    Xˉ1+Xˉ\frac{\bar{X}}{1+\bar{X}}
  4. D
    Xˉ1Xˉ2\frac{\bar{X}-1}{\bar{X}^2}
  5. E
    Xˉ(1Xˉ)\bar{X}(1-\bar{X})

Cevap

İstenen olasılığın tahmin edicisi Xˉ(1+Xˉ)2\frac{\bar{X}}{(1+\bar{X})^2} olarak bulunur.
Soru, pp parametresinin kendisini değil, P(X=1)=p(1p)P(X=1) = p(1-p) olayının olasılığını tahmin etmemizi istemektedir. En çok olabilirlik yönteminin değişmezlik (invariance) özelliğine göre, θ\theta'nın MLE'si θ^\hat{\theta} ise g(θ)g(\theta)'nın MLE'si g(θ^)g(\hat{\theta})'dır. Dağılımın log-olabilirlik fonksiyonu lnL=nlnp+xiln(1p)\ln L = n \ln p + \sum x_i \ln(1-p) olup türevi sıfıra eşitlendiğinde p^=1/(1+Xˉ)\hat{p} = 1/(1+\bar{X}) bulunur. Bulunan bu p^\hat{p} değeri, olasılık fonksiyonu olan p(1p)p(1-p)'de yerine konulduğunda Xˉ(1+Xˉ)2\frac{\bar{X}}{(1+\bar{X})^2} sonucuna ulaşılır.

Adım Adım Çözüm

1
Olabilirlik (Likelihood) fonksiyonunu L(p)L(p) oluştur.
L(p)=i=1np(1p)Xi=pn(1p)i=1nXiL(p) = \prod_{i=1}^n p(1-p)^{X_i} = p^n (1-p)^{\sum_{i=1}^n X_i}
Bağımsız örneklemlerin ortak olasılık fonksiyonu, marjinal fonksiyonların çarpımına eşittir.
2
Log-olabilirlik fonksiyonunu lnL(p)\ln L(p) yazıp pp'ye göre türevini al ve sıfıra eşitle.
lnLp=npXi1p=0\frac{\partial \ln L}{\partial p} = \frac{n}{p} - \frac{\sum X_i}{1-p} = 0
Çarpım formundaki ifadeyi toplam formuna çevirip maksimum noktasını bulmak için türev sıfıra eşitlenir.
3
Türev denkleminden pp parametresinin MLE'si olan p^\hat{p} değerini çek.
n(1p)pXi=0    n=p(n+Xi)    p^=nn+Xi=11+Xˉn(1-p) - p\sum X_i = 0 \implies n = p(n + \sum X_i) \implies \hat{p} = \frac{n}{n + \sum X_i} = \frac{1}{1 + \bar{X}}
Denklemin kökü, parametrenin en çok olabilirlik tahmin edicisini verir.
4
Soruda istenen 'ilk çipin kusursuz, ikincinin kusurlu olması' olayının olasılığını pp cinsinden yaz.
Bu durum X=1X=1 olması demektir. Olasılığı: P(X=1)=p(1p)1=p(1p)P(X=1) = p(1-p)^1 = p(1-p)
Değişmezlik özelliğini kullanacağımız asıl fonksiyonu g(p)g(p) belirlememiz gerekir.
5
Değişmezlik (Invariance) özelliğini uygula.
p(1p)^=p^(1p^)=11+Xˉ(111+Xˉ)=11+Xˉ(Xˉ1+Xˉ)=Xˉ(1+Xˉ)2\widehat{p(1-p)} = \hat{p}(1-\hat{p}) = \frac{1}{1+\bar{X}} \left(1 - \frac{1}{1+\bar{X}}\right) = \frac{1}{1+\bar{X}} \left(\frac{\bar{X}}{1+\bar{X}}\right) = \frac{\bar{X}}{(1+\bar{X})^2}
Bir fonksiyonun MLE'si, parametrenin MLE'sinin o fonksiyonda yerine yazılmasıyla elde edilir.

Anahtar Kavram

En Çok Olabilirlik Yöntemi ve Değişmezlik (Invariance) Özelliği

Alternatif Yöntem

Alternatif olarak Momentler Yöntemi ile tahmin edici bulunabilir. Geometrik dağılımda (x=0'dan başlayan) beklenen değer E[X]=(1p)/pE[X] = (1-p)/p'dir. Örneklem ortalamasına eşitlendiğinde Xˉ=(1p)/p    pXˉ=1p    p(1+Xˉ)=1    p^=1/(1+Xˉ)\bar{X} = (1-p)/p \implies p\bar{X} = 1-p \implies p(1+\bar{X}) = 1 \implies \hat{p} = 1/(1+\bar{X}) hızlıca elde edilebilir. Daha sonra yine değişmezlik özelliği ile P(X=1)P(X=1) için yerine konur.
Tahmini Süre:2m 0s
Bu soruyu puanla