Parametre Tahmin Yöntemleri

228 soru

Soru 221Soru

Bir fabrikada üretilen ürünlerin kalite kontrol sürecinde, rastgele seçilen 4 ürün incelenmektedir. İncelenen ürünler arasındaki kusurlu ürün sayısı XX ile gösterilmekte olup, XBinom(4,θ)X \sim \text{Binom}(4, \theta) dağılımına sahiptir. Burada θ(0,1)\theta \in (0,1), üretilen herhangi bir ürünün kusurlu olma olasılığıdır.

Karesel kayıp fonksiyonu L(θ,d)=(θd)2L(\theta, d) = (\theta - d)^2 altında θ\theta parametresi için T(X)=cX+dT(X) = cX + d biçiminde doğrusal bir tahmin edici oluşturulmak isteniyor.

Bu tahmin edicinin riskinin (hata kareler ortalaması) θ\theta'dan bağımsız olarak sabit bir değer alması ve aynı zamanda bir minimax tahmin edici olması için (c,d)(c, d) sabitleri sırasıyla aşağıdakilerden hangisi olmalıdır?

Cevabı ve açıklamayı göster

Cevap: (16,16)\left(\frac{1}{6}, \frac{1}{6}\right)

Cevap

Minimax tahmin ediciyi sağlayan ve riski minimize ederek sabitleyen katsayılar (16,16)\left(\frac{1}{6}, \frac{1}{6}\right) değerleridir.
Karesel kayıp fonksiyonu altında risk, Var(T)+[Yan(T)]2\text{Var}(T) + [\text{Yan}(T)]^2 formülü ile bulunur. Sabit bir risk elde etmek için, bu ifade açıldığında θ\theta ve θ2\theta^2'li terimlerin katsayıları sıfır olmalıdır. θ2\theta^2'nin katsayısı olan 12c28c+1=012c^2 - 8c + 1 = 0 denkleminin çözümünden c=1/6c=1/6 ve c=1/2c=1/2 kökleri çıkar. Minimax kuralı, olası en yüksek riski minimize etmeyi gerektirir. c=1/2,d=1/2c=1/2, d=-1/2 ikilisi 1/41/4 risk üretirken; c=1/6,d=1/6c=1/6, d=1/6 ikilisi 1/361/36 değerinde daha küçük bir maksimum risk üretir. Bu sebeple minimax çözüm (1/6,1/6)(1/6, 1/6) olmalıdır.

Adım Adım Çözüm

1
T(X)=cX+dT(X) = cX + d tahmin edicisi için karesel kayıp altında risk fonksiyonunu (Hata Kareler Ortalaması) oluşturunuz.
R(θ,T)=Var(cX+d)+[Yan(cX+d)]2=4c2θ(1θ)+(θ(4c1)+d)2R(\theta, T) = \text{Var}(cX+d) + [\text{Yan}(cX+d)]^2 = 4c^2\theta(1-\theta) + (\theta(4c-1) + d)^2
Karesel kayıp fonksiyonunda beklenen risk, varyans ile yan miktarının karesinin toplamı olarak ifade edilir.
2
Elde edilen risk fonksiyonunu θ\theta parametresinin kuvvetlerine göre düzenleyerek katsayıları gruplayınız.
R(θ,T)=θ2[4c2+(4c1)2]+θ[4c2+2d(4c1)]+d2R(\theta, T) = \theta^2[-4c^2 + (4c-1)^2] + \theta[4c^2 + 2d(4c-1)] + d^2
Riskin θ\theta'dan bağımsız sabit bir değer olabilmesi için, denklemdeki θ2\theta^2 ve θ\theta terimlerinin yok edilmesi gerekir.
3
Öncelikle θ2\theta^2'nin katsayısını sıfıra eşitleyerek olası cc köklerini hesaplayınız.
12c28c+1=0    (6c1)(2c1)=012c^2 - 8c + 1 = 0 \implies (6c-1)(2c-1) = 0. Buradan kökler c1=1/6c_1 = 1/6 ve c2=1/2c_2 = 1/2 bulunur.
İkinci dereceden bağımlılığı ortadan kaldırmak sabit risk için ilk koşuldur.
4
Bulunan iki farklı cc değeri için θ\theta'nın katsayısını sıfırlayan dd değerlerini ve ortaya çıkan sabit riskleri karşılaştırınız.
c=1/2c=1/2 için d=1/2d=-1/2 olur, Sabit Risk =d2=1/4= d^2 = 1/4'tür.
c=1/6c=1/6 için d=1/6d=1/6 olur, Sabit Risk =d2=1/36= d^2 = 1/36'dır.
1/36<1/41/36 < 1/4 olduğu için maksimum riski minimize eden değerler seçilir.
Minimax tahmin edici, sabit risk değerleri arasından en küçük olanı (minimum maksimum risk) sağlayan parametre çiftini gerektirir.

Anahtar Kavram

Minimax Tahmin Edici ve Sabit Risk İncelemesi
Tahmini Süre:2m 0s
Soru 222Soru

Bir çevre araştırma enstitüsünde, belirli bir göl suyundaki mikroplastik yoğunluğu ölçülmektedir. X1,X2,,XnX_1, X_2, \dots, X_n rastgele değişkenleri, alınan su örneklerindeki yoğunluk oranlarını temsil etmekte olup, değer kümesi (0,1)(0, 1) aralığında olan ve olasılık yoğunluk fonksiyonu

f(x;θ)=θxθ1,0<x<1,θ>0f(x; \theta) = \theta x^{\theta-1}, \quad 0 < x < 1, \quad \theta > 0

şeklinde verilen bağımsız ve özdeş dağılımlı (i.i.d.) bir kitleden alınmış rastgele bir örneklemdir.

Araştırmacılar, bu göldeki mikroplastik yoğunluk oranının beklenen değerini (kitle ortalamasını) en çok olabilirlik yöntemiyle tahmin etmek istemektedir.

Buna göre, kitle ortalamasının en çok olabilirlik tahmin edicisi aşağıdakilerden hangisidir?

Cevabı ve açıklamayı göster

Cevap: nni=1nlnXi\frac{n}{n - \sum_{i=1}^n \ln X_i}

Cevap

nni=1nlnXi\frac{n}{n - \sum_{i=1}^n \ln X_i} formülü, kitle ortalamasının en çok olabilirlik tahmin edicisidir.
Verilen dağılımda kitle ortalaması E(X)=θθ+1E(X) = \frac{\theta}{\theta+1}'dir. En çok olabilirlik yöntemi kullanılarak log-olabilirlik fonksiyonunun maksimize edilmesiyle θ\theta'nın tahmin edicisi θ^=nlnXi\hat{\theta} = -\frac{n}{\sum \ln X_i} olarak bulunur. Tahmin edicilerin değişmezlik (invariance) prensibi gereği, kitle ortalamasının tahmin edicisi E(X)^=θ^θ^+1\widehat{E(X)} = \frac{\hat{\theta}}{\hat{\theta}+1} yapısına sahiptir. Formülde yerine yazılıp payda eşitlendiğinde doğru cevap nni=1nlnXi\frac{n}{n - \sum_{i=1}^n \ln X_i} olarak elde edilir.

Adım Adım Çözüm

1
Kitlenin beklenen değerini (kitle ortalamasını) θ\theta cinsinden hesaplayın.
E(X)=01xf(x;θ)dx=01xθxθ1dx=θ01xθdx=θ[xθ+1θ+1]01=θθ+1E(X) = \int_0^1 x \cdot f(x; \theta) dx = \int_0^1 x \cdot \theta x^{\theta-1} dx = \theta \int_0^1 x^\theta dx = \theta \left[ \frac{x^{\theta+1}}{\theta+1} \right]_0^1 = \frac{\theta}{\theta+1} bulunur.
Değişmezlik özelliğini kullanabilmek için öncelikle tahmin edilmek istenen parametrik fonksiyonun açık yapısı bilinmelidir.
2
Örneklemin olabilirlik ve log-olabilirlik fonksiyonlarını yazın.
L(θ)=i=1nθxiθ1=θni=1nxiθ1L(\theta) = \prod_{i=1}^n \theta x_i^{\theta-1} = \theta^n \prod_{i=1}^n x_i^{\theta-1}. Logaritması alındığında: lnL(θ)=nlnθ+(θ1)i=1nlnxi\ln L(\theta) = n \ln \theta + (\theta-1) \sum_{i=1}^n \ln x_i elde edilir.
En çok olabilirlik tahmin edicisini (MLE) bulmak için olabilirlik fonksiyonunu maksimize etmek, bunun için de fonksiyonun logaritmasını alarak türev işlemlerini kolaylaştırmak gerekir.
3
Log-olabilirlik fonksiyonunun θ\theta'ya göre türevini alıp sıfıra eşitleyerek θ^\hat{\theta} tahmin edicisini bulun.
lnL(θ)θ=nθ+i=1nlnxi=0    θ^=ni=1nlnxi\frac{\partial \ln L(\theta)}{\partial \theta} = \frac{n}{\theta} + \sum_{i=1}^n \ln x_i = 0 \implies \hat{\theta} = -\frac{n}{\sum_{i=1}^n \ln x_i} olarak bulunur.
Bir fonksiyonun maksimum noktasını bulmanın standart analitik yolu, birinci türevini sıfıra eşitlemektir.
4
En çok olabilirlik tahmin edicilerinin değişmezlik (invariance) özelliğini uygulayın.
E(X)^=θ^θ^+1\widehat{E(X)} = \frac{\hat{\theta}}{\hat{\theta}+1} eşitliğinde θ^\hat{\theta} yerine konulur: nlnxinlnxi+1=nlnxin+lnxilnxi=nn+i=1nlnxi=nni=1nlnXi\frac{-\frac{n}{\sum \ln x_i}}{-\frac{n}{\sum \ln x_i} + 1} = \frac{-\frac{n}{\sum \ln x_i}}{\frac{-n + \sum \ln x_i}{\sum \ln x_i}} = \frac{-n}{-n + \sum_{i=1}^n \ln x_i} = \frac{n}{n - \sum_{i=1}^n \ln X_i} elde edilir.
Değişmezlik özelliği, bir τ(θ)\tau(\theta) fonksiyonunun en çok olabilirlik tahmin edicisinin, τ(θ^)\tau(\hat{\theta}) olduğunu ifade eder.

Anahtar Kavram

En Çok Olabilirlik Tahmin Edicilerinin Değişmezlik (Invariance) Özelliği
Soru 223Soru

Bir eğitim kurumunda ölçme ve değerlendirme uzmanı olarak görev yapan Ayşe, uygulanan bir standart testte öğrencilerin belirli bir soruyu doğru yanıtlama davranışlarını incelemektedir. Ayşe, mm adet farklı öğrencinin katıldığı her bir sınav salonundaki doğru cevap sayısını XX rastgele değişkeni ile modellemektedir. Her bir öğrencinin soruyu doğru cevaplama olasılığının aynı ve pp (0<p<10 < p < 1) olduğu, öğrencilerin birbirinden bağımsız cevap verdiği varsayılmaktadır. Bu durumda XBinom(m,p)X \sim \text{Binom}(m, p) dağılışına sahiptir ve olasılık kütle fonksiyonu aşağıda verilmiştir:

f(x;p)=(mx)px(1p)mx,x=0,1,,mf(x; p) = \binom{m}{x} p^x (1-p)^{m-x}, \quad x = 0, 1, \dots, m

Ayşe, farklı bölgelerden rastgele seçilen nn adet sınav salonundan veri toplayarak X1,X2,,XnX_1, X_2, \dots, X_n şeklinde bir örneklem oluşturmuştur. Uzman, elde ettiği bu verileri kullanarak tek bir salondaki doğru cevap sayısının varyansını, yani τ(p)=mp(1p)\tau(p) = m p (1-p) fonksiyonunu tahmin etmek istemektedir.

Buna göre, τ(p)\tau(p) parametresi için oluşturulacak herhangi bir yansız tahmin edicinin varyansı için Cramer-Rao alt sınırı (CRLB) aşağıdakilerden hangisidir?

Cevabı ve açıklamayı göster

Cevap: mp(1p)(12p)2n\frac{m p(1-p)(1-2p)^2}{n}

Cevap

Doğru yansız tahmin edici sınırı mp(1p)(12p)2n\frac{m p(1-p)(1-2p)^2}{n} formülü ile verilir.
Cramer-Rao alt sınırı, ilgilenilen bir τ(p)\tau(p) fonksiyonunun yansız tahmin edicisinin varyansının alabileceği en küçük değeri verir. Formülü [τ(p)]2/In(p)[\tau'(p)]^2 / I_n(p) şeklindedir. İlk olarak Binom dağılımı için n çaplı örneklemin Fisher bilgi miktarı In(p)=nm/(p(1p))I_n(p) = nm / (p(1-p)) bulunur. Tahmin edilmek istenen varyans fonksiyonu τ(p)=mp(1p)\tau(p) = mp(1-p) olduğundan, p'ye göre türevi τ(p)=m(12p)\tau'(p) = m(1-2p) elde edilir. Formülde yerine yazıldığında pay kısmına m2(12p)2m^2(1-2p)^2, payda kısmına nm/(p(1p))nm / (p(1-p)) gelir ve ifade ters çevrilip çarpıldığında alt sınır mp(1p)(12p)2/nmp(1-p)(1-2p)^2 / n olarak hesaplanır.

Adım Adım Çözüm

1
Olasılık kütle fonksiyonunun logaritmasını alıp p parametresine göre türevini hesaplamak.
plnf(x;p)=xpmx1p=xmpp(1p)\frac{\partial}{\partial p} \ln f(x; p) = \frac{x}{p} - \frac{m-x}{1-p} = \frac{x - mp}{p(1-p)}
Fisher bilgi miktarını bulmak için log-olabilirlik fonksiyonunun birinci türevine ihtiyaç vardır.
2
Tek bir gözlem ve n çaplı örneklem için Fisher bilgi miktarını elde etmek.
I1(p)=E[(Xmpp(1p))2]=Var(X)p2(1p)2=mp(1p)p2(1p)2=mp(1p)    In(p)=nmp(1p)I_1(p) = E\left[\left(\frac{X-mp}{p(1-p)}\right)^2\right] = \frac{Var(X)}{p^2(1-p)^2} = \frac{mp(1-p)}{p^2(1-p)^2} = \frac{m}{p(1-p)} \implies I_n(p) = \frac{nm}{p(1-p)}
Cramer-Rao formülünün paydası tüm örneklem üzerinden elde edilen Fisher bilgi miktarından oluşur.
3
Tahmin edilecek τ(p)\tau(p) fonksiyonunun p parametresine göre türevini almak.
τ(p)=mpmp2    τ(p)=m2mp=m(12p)\tau(p) = mp - mp^2 \implies \tau'(p) = m - 2mp = m(1-2p)
Cramer-Rao formülünün payında tahmin edilmek istenen fonksiyonun türevinin karesi yer alır.
4
Cramer-Rao Alt Sınırı (CRLB) formülünü uygulamak ve sadeleştirmek.
CRLB=[τ(p)]2In(p)=m2(12p)2nmp(1p)=mp(1p)(12p)2nCRLB = \frac{[\tau'(p)]^2}{I_n(p)} = \frac{m^2(1-2p)^2}{\frac{nm}{p(1-p)}} = \frac{mp(1-p)(1-2p)^2}{n}
İstenen yansız tahmin edicinin varyans alt sınırını nihai olarak elde etmektir.

Anahtar Kavram

Bir fonksiyonun tahmin edicisi için Cramer-Rao Alt Sınırı
Soru 224Soru

Bir üniversitenin veri bilimi araştırma laboratuvarında görevli bir araştırmacı, sensörlerden gelen gürültülü veriler üzerinden kitleye ait bilinmeyen bir μ\mu parametresini modellemek için yeni bir tahmin edici (WnW_n) önermiştir.

Araştırmacının makalesini hakem değerlendirmesinden geçirebilmesi için, önerdiği WnW_n istatistiğinin μ\mu parametresi için 'tutarlı (consistent) bir tahmin edici' olduğunu matematiksel olarak şüpheye yer bırakmayacak şekilde ispatlaması istenmektedir.

İstatistiksel tahmin teorisi dikkate alındığında, araştırmacının aşağıdaki koşullardan hangisini ispatlaması WnW_n'nin tutarlı bir tahmin edici olduğunu göstermek için yeterli olacaktır?

Cevabı ve açıklamayı göster

Cevap: Asimptotik olarak limnE[(Wnμ)2]=0\lim_{n \to \infty} E[(W_n - \mu)^2] = 0 koşulunun sağlandığını

Cevap

Asimptotik olarak limnE[(Wnμ)2]=0\lim_{n \to \infty} E[(W_n - \mu)^2] = 0 koşulunun sağlandığını
Bir tahmin edicinin ilgilenilen parametreye olasılıkta yakınsaması (tutarlı olması) için matematiksel yeter koşul, tahmin edicinin Hata Kareler Ortalamasının (MSE) limit durumunda sıfıra eşit olmasıdır. Formül olarak MSE(Wn)=E[(Wnμ)2]MSE(W_n) = E[(W_n - \mu)^2] şeklinde ifade edilir. Chebyshev eşitsizliğine göre P(Wnμϵ)MSE(Wn)ϵ2P(|W_n - \mu| \ge \epsilon) \le \frac{MSE(W_n)}{\epsilon^2}'dir. Dolayısıyla limnMSE(Wn)=0\lim_{n \to \infty} MSE(W_n) = 0 olduğunda limit durumunda bu olasılık sıfıra gider ve WnW_n'nin μ\mu'ye olasılıkta yakınsadığı (tutarlı olduğu) kesin olarak ispatlanmış olur.

Adım Adım Çözüm

1
Tutarlılık kavramının matematiksel tanımını hatırlama
Tutarlılık, örneklem çapı nn \to \infty iken tahmin edicinin μ\mu değerine olasılıkta yakınsamasıdır: limnP(Wnμϵ)=0\lim_{n \to \infty} P(|W_n - \mu| \ge \epsilon) = 0
Tutarlılığı ispatlamak için sağlanması gereken asimptotik şartın ne olduğunun belirlenmesi.
2
Tutarlılık için kullanılabilecek matematiksel yeter koşulun analiz edilmesi
Olasılıkta yakınsama için en yaygın ve güçlü yeter koşul, karesel ortalamada yakınsamadır. Bu koşul, Hata Kareler Ortalamasının (MSE) limit durumunda sıfıra gitmesi ile ifade edilir. MSE(Wn)=E[(Wnμ)2]=Var(Wn)+[Bias(Wn)]2MSE(W_n) = E[(W_n - \mu)^2] = Var(W_n) + [Bias(W_n)]^2. Chebyshev eşitsizliği gereği MSE sıfıra giderse olasılıkta yakınsama da sağlanır.
Hangi ifadenin olasılıkta yakınsamayı doğrudan zorunlu kıldığının tespit edilmesi.
3
Seçeneklerde verilen istatistiksel özelliklerin yeterlilik durumlarının değerlendirilmesi
Yansızlık veya sadece varyansın sıfıra gitmesi tek başlarına eksik kalır. MLE veya yeterli istatistik olmak tutarlılığı zorunlu kılmaz. Sadece MSE'nin asimptotik olarak sıfıra eşit olması (D seçeneği) tutarlılığı kesin olarak ispatlar.
Yanlış varsayımları eleyerek doğru matematiksel teoremin seçilmesi.

Anahtar Kavram

Hata Kareler Ortalaması (MSE) ve Tutarlılık İlişkisi
Soru 225Soru

Bir büyükşehir belediyesinin ulaştırma birimi, belirli bir kavşakta meydana gelen haftalık trafik kazası sayısının λ\lambda parametreli Poisson dağılımına uyduğunu modellemiştir. Bu kavşakta rastgele seçilen nn (n2n \ge 2) farklı hafta için kaza sayıları X1,X2,,XnX_1, X_2, \dots, X_n olarak kaydedilmiştir.

Bir araştırmacı, λ\lambda parametresini tahmin etmek için yansız bir tahmin edici olarak
T=3X1+2X25T = \frac{3X_1 + 2X_2}{5}
istatistiğini önermiştir.

Ancak, λ\lambda için yeterli istatistik olan S=i=1nXiS = \sum_{i=1}^n X_i bilindiğinde, Rao-Blackwell teoremi kullanılarak TT tahmin edicisi iyileştirilerek TT^* tahmin edicisi (T=E[TS]T^* = E[T|S]) elde ediliyor.

Buna göre, ilk önerilen TT tahmin edicisinin varyansı ile iyileştirilmiş TT^* tahmin edicisinin varyansı arasındaki fark (Var(T)Var(T)Var(T) - Var(T^*)) aşağıdakilerden hangisidir?

Cevabı ve açıklamayı göster

Cevap: (13n25)λ25n\frac{(13n - 25)\lambda}{25n}

Cevap

İlk önerilen tahmin edicinin varyansı ile iyileştirilmiş tahmin edicinin varyansı arasındaki fark (13n25)λ25n\frac{(13n - 25)\lambda}{25n} değerine eşittir.
Poisson dağılımlı bir örneklemde XiX_i değişkenleri bağımsızdır ve varyansları λ\lambda'dır. Araştırmacının önerdiği TT tahmin edicisinin varyansı doğrusal kombinasyon kurallarıyla Var(T)=9λ+4λ25=13λ25Var(T) = \frac{9\lambda + 4\lambda}{25} = \frac{13\lambda}{25} olarak bulunur. Yeterli istatistik S=XiS = \sum X_i üzerine koşullandırma yapıldığında Rao-Blackwell teoremine göre T=E[TS]=XˉT^* = E[T|S] = \bar{X} elde edilir ve bunun varyansı λn\frac{\lambda}{n}'dir. Aralarındaki fark 13λ25λn\frac{13\lambda}{25} - \frac{\lambda}{n} işleminin payda eşitlenmesiyle (13n25)λ25n\frac{(13n - 25)\lambda}{25n} olarak doğru şekilde elde edilir.

Adım Adım Çözüm

1
İlk tahmin edicinin (TT) varyansını hesapla.
Var(T)=Var(3X1+2X25)=32Var(X1)+22Var(X2)52=9λ+4λ25=13λ25Var(T) = Var\left(\frac{3X_1 + 2X_2}{5}\right) = \frac{3^2 Var(X_1) + 2^2 Var(X_2)}{5^2} = \frac{9\lambda + 4\lambda}{25} = \frac{13\lambda}{25}
Bağımsız değişkenlerin doğrusal kombinasyonunun varyansı alınırken katsayıların kareleri kullanılarak dağılım özelliği uygulanır.
2
Rao-Blackwell teoremini uygulayarak koşullu beklenen değeri kurgula.
T=E[TS]=E[3X1+2X25S]=35E[X1S]+25E[X2S]T^* = E[T|S] = E\left[\frac{3X_1 + 2X_2}{5} \Big| S\right] = \frac{3}{5}E[X_1|S] + \frac{2}{5}E[X_2|S]
TT'nin SS yeterli istatistiğine göre koşullu beklenen değeri, koşulsuz varyansı daha düşük (ya da eşit) olan iyileştirilmiş tahmin ediciyi verir.
3
Koşullu beklenen değerleri hesapla ve TT^*'ı sadeleştir.
Poisson dağılımında E[XiS]=SnE[X_i|S] = \frac{S}{n} olduğundan, T=35(Sn)+25(Sn)=55(Sn)=XˉT^* = \frac{3}{5}\left(\frac{S}{n}\right) + \frac{2}{5}\left(\frac{S}{n}\right) = \frac{5}{5}\left(\frac{S}{n}\right) = \bar{X} bulunur.
Her bir gözlemin toplam SS'ye göre koşullu beklenen değeri, toplamın örneklem hacmine bölümüdür.
4
İyileştirilmiş tahmin edicinin varyansını belirle.
Var(T)=Var(Xˉ)=λnVar(T^*) = Var(\bar{X}) = \frac{\lambda}{n}
Rao-Blackwell teoremi sonucunda ulaşılan tahmin edici örneklem ortalamasıdır ve varyansı bilinen temel bir formüldür.
5
İki varyans arasındaki farkı bul.
Var(T)Var(T)=13λ25λn=13nλ25λ25n=(13n25)λ25nVar(T) - Var(T^*) = \frac{13\lambda}{25} - \frac{\lambda}{n} = \frac{13n\lambda - 25\lambda}{25n} = \frac{(13n - 25)\lambda}{25n}
Soruda istenen, iyileştirme sonucunda varyansta meydana gelen düşüş miktarıdır.

Anahtar Kavram

Rao-Blackwell Teoremi ve Varyans İyileştirmesi
Soru 226Soru

Bir siber güvenlik merkezinde, sunuculara yapılan ardışık iki yetkisiz erişim girişimi arasındaki süre (milisaniye cinsinden) XX rastgele değişkeni ile modellenmektedir. XX'in olasılık yoğunluk fonksiyonu, θ>0\theta > 0 bilinmeyen bir parametre olmak üzere şu şekildedir:

f(x)={xθ2ex/θ,x>00,dig˘er durumlarda f(x) = \begin{cases} \frac{x}{\theta^2} e^{-x/\theta}, & x > 0 \\ 0, & \text{diğer durumlarda} \end{cases}

Bu merkezin log kayıtlarından rastgele seçilen nn adet (n>1)(n > 1) erişim süresi X1,X2,,XnX_1, X_2, \dots, X_n bağımsız örnekleminin ortalaması Xˉ\bar{X} olarak verilmiştir. Buna göre, ağ trafiği analizinde kritik bir ölçüt olan τ(θ)=1θ\tau(\theta) = \frac{1}{\theta} parametresinin Düzgün En Küçük Varyanslı Yansız Tahmin Edicisi (UMVUE) aşağıdakilerden hangisidir?

Cevabı ve açıklamayı göster

Cevap: 2n1nXˉ\frac{2n-1}{n\bar{X}}

Cevap

τ(θ)=1θ\tau(\theta) = \frac{1}{\theta} parametresinin UMVUE'si 2n1nXˉ\frac{2n-1}{n\bar{X}} istatistiğidir.
Lehmann-Scheffe teoremine göre, tam ve yeterli istatistiğin yansız bir fonksiyonu her zaman UMVUE'dir. Verilen Gamma dağılımı üstel aileye ait olduğundan T=nXˉT = n\bar{X} istatistiği tam ve yeterlidir. Bu toplam istatistiği TGamma(2n,θ)T \sim \text{Gamma}(2n, \theta) dağılımına sahiptir. E[1/T]E[1/T] integrali çözüldüğünde 1(2n1)θ\frac{1}{(2n-1)\theta} sonucu elde edilir. Bu ifadeyi 1/θ1/\theta'ya eşitlemek için (2n1)(2n-1) ile çarpmamız gerekir. Böylece 2n1nXˉ\frac{2n-1}{n\bar{X}} yansız bir tahmin edici olur ve teorem gereği UMVUE şartlarını sağlar.

Adım Adım Çözüm

1
Yeterli ve tam istatistiğin bulunması.
Örneklemin ortak olasılık yoğunluk fonksiyonu üstel aile formunda yazıldığında T=i=1nXi=nXˉT = \sum_{i=1}^n X_i = n\bar{X} istatistiği θ\theta için tam ve yeterli istatistik olarak bulunur.
Lehmann-Scheffe teoremine göre UMVUE bulmak için öncelikle tam ve yeterli bir istatistiğe ihtiyaç vardır.
2
TT'nin dağılımının belirlenmesi.
XiGamma(2,θ)X_i \sim \text{Gamma}(2, \theta) olduğundan, bağımsız toplamların dağılımı TGamma(2n,θ)T \sim \text{Gamma}(2n, \theta) olarak elde edilir.
Yansız bir tahmin edici oluşturmak için TT'nin beklenen değer özelliklerini kullanmalıyız.
3
1/T1/T'nin beklenen değerinin hesaplanması.
E[1T]=01t1Γ(2n)θ2nt2n1et/θdt=Γ(2n1)Γ(2n)θ=1(2n1)θE\left[\frac{1}{T}\right] = \int_0^\infty \frac{1}{t} \frac{1}{\Gamma(2n)\theta^{2n}} t^{2n-1} e^{-t/\theta} dt = \frac{\Gamma(2n-1)}{\Gamma(2n)\theta} = \frac{1}{(2n-1)\theta} olarak hesaplanır.
1/θ1/\theta'nın yansız bir tahmin edicisini, tam ve yeterli istatistik olan TT'nin bir fonksiyonu olarak bulmak.
4
Lehmann-Scheffe teoreminin uygulanması.
E[2n1T]=1θE\left[\frac{2n-1}{T}\right] = \frac{1}{\theta} olduğundan ve TT tam yeterli istatistik olduğundan, 2n1T=2n1nXˉ\frac{2n-1}{T} = \frac{2n-1}{n\bar{X}} ifadesi UMVUE'dir.
Tam ve yeterli bir istatistiğin yansız fonksiyonu her zaman tekil UMVUE'dir (Düzgün En Küçük Varyanslı Yansız Tahmin Edici).

Anahtar Kavram

Tamlık, Lehmann-Scheffe Teoremi ve UMVUE (En İyi Yansız Tahmin)
Soru 227Soru
X1,X2,,XnX_1, X_2, \dots, X_n, olasılık yoğunluk fonksiyonu
f(x;θ)={θxθ1,0<x<10,dig˘er durumlardaf(x; \theta) = \begin{cases} \theta x^{\theta - 1}, & 0 < x < 1 \\ 0, & \text{diğer durumlarda} \end{cases}
olarak verilen kitleye ait nn çaplı rastgele bir örneklem olsun.

Buna göre, θ\theta parametresinin yansız bir tahmin edicisi için Cramer-Rao alt sınırı aşağıdakilerden hangisidir? (θ>0\theta > 0)

Cevabı ve açıklamayı göster

Cevap: θ2n\frac{\theta^2}{n}

Cevap

θ2n\frac{\theta^2}{n} ifadesi θ\theta parametresinin yansız tahmin edicisi için doğru Cramer-Rao alt sınırıdır.
Cramer-Rao alt sınırı, yansız bir tahmin edicinin sahip olabileceği minimum varyansı ifade eder ve formülü 1/[nE(2lnfθ2)]1 / [-n E(\frac{\partial^2 \ln f}{\partial \theta^2})] şeklindedir. İkinci türev 1/θ2-1/\theta^2 olduğuna göre, payda n/θ2n/\theta^2 olur ve ters çevrildiğinde sonuç θ2/n\theta^2/n olarak bulunur.

Adım Adım Çözüm

1
Tek bir gözlem için log-olabilirlik fonksiyonunu yazın.
lnf(x;θ)=lnθ+(θ1)lnx\ln f(x; \theta) = \ln \theta + (\theta - 1)\ln x
Fisher bilgi miktarını hesaplamak için öncelikle yoğunluk fonksiyonunun doğal logaritmasına ihtiyaç vardır.
2
Log-olabilirlik fonksiyonunun θ\theta'ya göre birinci ve ikinci türevini alın.
Birinci türev: θlnf(x;θ)=1θ+lnx\frac{\partial}{\partial \theta} \ln f(x; \theta) = \frac{1}{\theta} + \ln x. İkinci türev: 2θ2lnf(x;θ)=1θ2\frac{\partial^2}{\partial \theta^2} \ln f(x; \theta) = -\frac{1}{\theta^2}.
İkinci türevin beklenen değeri, Fisher bilgi miktarını bulmanın en pratik yoludur.
3
Tek bir gözlem için Fisher Bilgi miktarını (I(θ)I(\theta)) hesaplayın.
I(θ)=E[2θ2lnf(x;θ)]=E[1θ2]=1θ2I(\theta) = -E\left[\frac{\partial^2}{\partial \theta^2} \ln f(x; \theta)\right] = -E\left[-\frac{1}{\theta^2}\right] = \frac{1}{\theta^2}
Fisher bilgi miktarı, eksi ikinci türevin beklenen değeridir ve bu soruda terim sabit olduğundan beklenen değer kendisine eşittir.
4
nn çaplı örneklem için toplam Fisher Bilgi miktarını bulun ve Cramer-Rao alt sınırını (CRLB) hesaplayın.
In(θ)=nI(θ)=nθ2I_n(\theta) = n \cdot I(\theta) = \frac{n}{\theta^2}. Yansız bir tahmin edici için CRLB=1In(θ)=θ2nCRLB = \frac{1}{I_n(\theta)} = \frac{\theta^2}{n}
Bağımsız ve aynı dağılımlı nn gözlem için bilgi miktarı nn ile çarpılır; alt sınır ise toplam bilginin çarpmaya göre tersidir.

Anahtar Kavram

Tahmin Edicilerin Özellikleri: Etkinlik ve Cramer-Rao Alt Sınırı
Soru 228Soru

Bir θ\theta parametresini tahmin etmek amacıyla geliştirilen θ^n\hat{\theta}_n tahmin edicisinin beklenen değeri E(θ^n)=θ+1nE(\hat{\theta}_n) = \theta + \frac{1}{n} ve varyansı Var(θ^n)=σ2n2Var(\hat{\theta}_n) = \frac{\sigma^2}{n^2} olarak verilmiştir. Buna göre, örneklem hacmi nn sonsuza giderken θ^n\hat{\theta}_n tahmin edicisinin asimptotik davranışı için aşağıdakilerden hangisi söylenebilir?

Cevabı ve açıklamayı göster

Cevap: Tutarlı bir tahmin edicidir.

Cevap

Tahmin edici tutarlıdır çünkü örneklem hacmi sonsuza giderken hata kareler ortalaması (MSE) sıfıra yaklaşmaktadır.
Tutarlılık özelliği, tahmin edicinin örneklem hacmi arttıkça gerçek parametre değerine yaklaşma kapasitesini ölçer. Verilen tahmin edicide hem varyans (Var0Var \to 0) hem de yan miktarının karesi (Bias20Bias^2 \to 0) sıfıra gittiği için Ortalama Hata Karesi (MSE) de sıfıra gitmektedir, bu da tahmin edicinin tutarlı olduğunu kanıtlar.

Adım Adım Çözüm

1
Yan (bias) miktarını belirleyin.
B(θ^n)=E(θ^n)θ=(θ+1n)θ=1nB(\hat{\theta}_n) = E(\hat{\theta}_n) - \theta = (\theta + \frac{1}{n}) - \theta = \frac{1}{n}
Tutarlılık analizi için yan miktarının hesaplanması gerekir.
2
Hata kareler ortalaması (MSE) formülünü oluşturun.
MSE(θ^n)=Var(θ^n)+[B(θ^n)]2=σ2n2+(1n)2=σ2+1n2MSE(\hat{\theta}_n) = Var(\hat{\theta}_n) + [B(\hat{\theta}_n)]^2 = \frac{\sigma^2}{n^2} + (\frac{1}{n})^2 = \frac{\sigma^2 + 1}{n^2}
Tutarlılık için yeter koşul olan MSE'nin asimptotik davranışını incelemek gerekir.
3
Örneklem hacmi sonsuza giderken MSE'nin limitini hesaplayın.
limnMSE(θ^n)=limnσ2+1n2=0\lim_{n \to \infty} MSE(\hat{\theta}_n) = \lim_{n \to \infty} \frac{\sigma^2 + 1}{n^2} = 0
Limit değeri sıfır ise tahmin edici tutarlıdır.

Anahtar Kavram

Bir tahmin edicinin tutarlı (consistent) olabilmesi için gerek ve yeter koşul, tahmin edicinin parametreye olasılıksal olarak yakınsamasıdır; MSE'nin sıfıra gitmesi ise bunun için güçlü bir yeter koşuldur.

Daha Fazla Pratik

Yanlı olup tutarlı olan başka tahmin ediciler (örneğin kitle varyansının n ile bölündüğü durum) üzerinde pratik yapabilirsiniz.
Tahmini Süre:45s
ÖncekiSayfa 12 / 12
Parametre Tahmin Yöntemleri Alıştırma Soruları — KPSS İstatistik — Sayfa 12 | Examkin