Parametre Tahmin Yöntemleri Practice Questions — KPSS İstatistik

Question 1Question →

Bir haberleşme mühendisi, kablosuz bir ağdaki sinyal genliklerini modellemek için Rayleigh dağılımından yararlanmaktadır. Sinyal genliklerini temsil eden $X_1, X_2, \dots, X_n$ bağımsız ve aynı dağılımlı rastgele değişkenlerinin olasılık yoğunluk fonksiyonu, bilinmeyen $\theta > 0$ parametresi için aşağıdaki gibidir:

f(x; \theta) = \frac{x}{\theta^2} e^{-\frac{x^2}{2\theta^2}}, \quad x > 0

Buna göre, Neyman Çarpanlara Ayırma Teoremi kullanılarak elde edilecek $\theta$ parametresi için yeterli (sufficient) istatistik aşağıdakilerden hangisidir?

\sum_{i=1}^n X_i^2

\sum_{i=1}^n X_i

\prod_{i=1}^n X_i

\max_{1 \leq i \leq n} X_i

\sum_{i=1}^n (X_i - \bar{X})^2

Show answer & explanation

Answer: $\sum_{i=1}^n X_i^2$

Answer

\sum_{i=1}^n X_i^2

ifadesi

\theta

için yeterli istatistiktir.

Olabilirlik fonksiyonu

L(\theta)

hesaplandığında, üstel ifadenin içinde gözlem değerlerinin karelerinin toplamı (

\sum_{i=1}^n X_i^2

) ve

\theta

parametresi bir arada yer almaktadır. Neyman Çarpanlara Ayırma Teoremi'ndeki

g(T, \theta)

fonksiyonu tanımlandığında

T

fonksiyonunun

\sum_{i=1}^n X_i^2

olduğu açıkça görülmektedir.

Step-by-Step Solution

1

Olabilirlik fonksiyonunu (L(θ)) oluşturmak

L(\theta) = \prod_{i=1}^n f(x_i; \theta) = \prod_{i=1}^n \left( \frac{x_i}{\theta^2} e^{-\frac{x_i^2}{2\theta^2}} \right)

Yeterli istatistiği bulmanın ilk adımı örneklemin ortak olasılık yoğunluk fonksiyonunu yazmaktır.

2

Olabilirlik fonksiyonunu düzenleyerek çarpımları ayırmak

L(\theta) = \left( \prod_{i=1}^n x_i \right) \frac{1}{\theta^{2n}} \exp\left(-\frac{1}{2\theta^2} \sum_{i=1}^n x_i^2\right)

Neyman çarpanlara ayırma teoremini uygulayabilmek için parametreye bağlı olan ve olmayan terimleri net bir şekilde ayırmak gereklidir.

3

Neyman Çarpanlara Ayırma Teoremine göre fonksiyonu eşleştirmek

Teoreme göre

L(\theta) = h(x) \cdot g(T, \theta)

formatına uydurulursa:

h(x) = \prod_{i=1}^n x_i

ve

g(T, \theta) = \frac{1}{\theta^{2n}} \exp\left(-\frac{1}{2\theta^2} \sum_{i=1}^n x_i^2\right)

olur.

Parametre

\theta

ile sadece veri kümelerinin hangi fonksiyonu (

T

) üzerinden ilişkili olduğunu belirlemek içindir. Bu durum yeterli istatistiğin

T = \sum_{i=1}^n X_i^2

olduğunu gösterir.

Key Concept

Neyman Çarpanlara Ayırma Teoremi

Question 2Question →

Matematiksel istatistik dersinde bir öğretim üyesi, tutarlılık (olasılıkta yakınsama) kavramının doğasını tartışırken öğrencilerine teorik bir tahmin edici sunmuştur.

Kitle ortalaması $\theta$ ve kitle varyansı $\sigma^2 < \infty$ olan bir dağılımdan alınan $n$ hacimli rastgele bir örneklemin ortalaması $\bar{X}_n$ olsun. Bilinmeyen $\theta$ parametresini tahmin etmek için aşağıdaki $T_n$ tahmin edicisi tanımlanmıştır:

T_n = \begin{cases} \bar{X}_n, & 1 - \frac{1}{n} \text{ olasılıkla} \\ n^2, & \frac{1}{n} \text{ olasılıkla} \end{cases}

Buna göre, $n \to \infty$ durumunda $T_n$ tahmin edicisinin özellikleri için aşağıdakilerden hangisi kesinlikle doğrudur?

T_n

,

\theta

için tutarlı bir tahmin edicidir; ancak asimptotik olarak yansız değildir ve ortalama hata karesi (MSE) sonsuza ıraksar.

T_n

'nin ortalama hata karesi (MSE) sonsuza ıraksadığı için, tutarlılık için zorunlu olan

\lim_{n \to \infty} MSE(T_n) = 0

şartı sağlanmaz ve

T_n

tutarsızdır.

Büyük örneklemlerde

T_n

'nin gerçekleşme olasılığı

\bar{X}_n

'ye yakınsadığından,

T_n

hem asimptotik olarak yansızdır hem de

\theta

için tutarlı bir tahmin edicidir.

Tutarlı tahmin edicilerin asimptotik olarak yansız olması matematiksel bir zorunluluk olduğundan ve

T_n

'nin yanlılık miktarı sonsuza gittiğinden,

T_n

tutarlı bir tahmin edici olamaz.

Tahmin edicinin varyansı

n

büyüdükçe sonsuza ıraksadığı için, Çebişev eşitsizliği gereği olasılıkta yakınsama gerçekleşmez ve

T_n

tutarsız bir tahmin edicidir.

Show answer & explanation

Answer: $T_n$ , $\theta$ için tutarlı bir tahmin edicidir; ancak asimptotik olarak yansız değildir ve ortalama hata karesi (MSE) sonsuza ıraksar.

Answer

T_n

tahmin edicisi, limit durumunda ortalama hata karesi sonsuza ıraksayan ve asimptotik yansız olmayan, ancak yine de tutarlılık özelliğini koruyan bir tahmin edicidir.

Verilen karışım dağılımlı tahmin edicide,

T_n

'nin

\bar{X}_n

'ye eşit olma olasılığı

(1 - 1/n)

'dir ve

n \to \infty

iken bu olasılık 1'e yaklaşır.

\bar{X}_n

halihazırda tutarlı olduğundan,

T_n

de olasılıkta

\theta

'ya yakınsar ve tutarlı olur. Ancak uç değer olan

n^2

,

1/n

olasılıkla gelse bile, beklenen değer hesabında

n^2 \cdot (1/n) = n

terimini ürettiği için

E[T_n]

ve dolayısıyla MSE sonsuza ıraksar. Bu durum, MSE'nin tutarlılık için zorunlu değil, yalnızca yeterli bir koşul olduğunu gösteren klasik bir matematiksel istatistik örneğidir.

Step-by-Step Solution

1

Tahmin edicinin beklenen değerini (E[T_n]) ve asimptotik yansızlığını incelemek.

E[T_n] = E[\bar{X}_n](1 - \frac{1}{n}) + n^2(\frac{1}{n}) = \theta(1 - \frac{1}{n}) + n

. Limit alındığında

\lim_{n \to \infty} E[T_n] = \infty

olur.

Bir tahmin edicinin asimptotik yansız olabilmesi için limit durumunda beklenen değerinin parametreye eşit olması gerekir. Beklenen değer sonsuza ıraksadığı için asimptotik yansız değildir.

2

Ortalama Hata Karesinin (MSE) limit durumunu incelemek.

MSE(T_n) = Var(T_n) + [Bias(T_n)]^2

. Yanlılık (Bias) miktarı

(E[T_n] - \theta)

sonsuza gittiğinden, MSE de sonsuza ıraksar.

MSE'nin asimptotik davranışını görmek için yanlılığın karesine bakmak yeterlidir. MSE sıfıra gitmez.

3

Tutarlılık için olasılıkta yakınsama şartını (

P(|T_n - \theta| > \epsilon) \to 0

) kontrol etmek.

Herhangi bir

\epsilon > 0

için,

P(|T_n - \theta| > \epsilon) \leq P(|\bar{X}_n - \theta| > \epsilon)(1 - \frac{1}{n}) + P(|n^2 - \theta| > \epsilon)(\frac{1}{n})

.

Karışım dağılımının olasılık limitini, bileşenlerinin olasılıkları üzerinden koşullu olarak ayrıştırarak hesaplamak gerekir.

4

Olasılık sınırlarının limitini almak.

\bar{X}_n

tutarlı olduğu için ilk terim

0 \cdot 1 = 0

'a yakınsar. İkinci terim ise maksimum

1 \cdot \frac{1}{n}

olabilir ve

n \to \infty

için

0

'a yakınsar. Toplam olasılık limiti

0

'dır.

Hata olasılığının limiti sıfır olduğu için,

T_n

tahmin edicisi olasılıkta

\theta

'ya yakınsar; yani tanım gereği tutarlıdır.

Key Concept

Olasılıkta Yakınsama (Tutarlılık) ve MSE İlişkisi

Estimated Time:2m 30s

Question 3Question →

Bir araştırma enstitüsünde görevli istatistikçi, bir bölgedeki hanelerin aylık ortalama su tüketim miktarını ( $\mu$ ) tahmin etmek amacıyla $n$ hacimli bir rastgele örneklem çekmiştir. Uzman, kitle varyansının $\sigma^2 < \infty$ olduğunu bilmekte ve $\mu$ parametresini tahmin etmek için $\hat{\mu}_n = \bar{X} + \frac{c}{n}$ tahmin edicisini önermektedir (burada $c \neq 0$ bilinen bir sabittir ve $\bar{X}$ örneklem ortalamasıdır).

Buna göre, $\hat{\mu}_n$ tahmin edicisinin yansızlık ve tutarlılık özellikleri dikkate alındığında aşağıdaki ifadelerden hangisi doğrudur?

\hat{\mu}_n

tahmin edicisi

\mu

için yanlı bir tahmin edici olduğundan, olasılıkta yakınsama şartını sağlayamaz ve dolayısıyla hiçbir durumda tutarlı olamaz.

\hat{\mu}_n

tahmin edicisinin varyansı

\frac{\sigma^2}{n}

olup

n \to \infty

için sıfıra yakınsadığından, bu tahmin edici her

n

değeri için hem yansız hem de tutarlıdır.

\hat{\mu}_n

tahmin edicisi sonlu örneklem hacimlerinde yanlı olmasına karşın,

n \to \infty

iken ortalama hata karesi sıfıra yakınsadığı için

\mu

için tutarlı bir tahmin edicidir.

Tutarlılık için yansızlık kesin bir ön koşul olduğundan,

\hat{\mu}_n

tahmin edicisinin asimptotik yansız olması onun tutarlı bir tahmin edici kabul edilmesi için yeterli değildir.

\hat{\mu}_n

tahmin edicisinin ortalama hata karesi (MSE), eklenen sabit terim nedeniyle varyansından büyük olduğu için örneklem çapı büyüdükçe tutarsız bir yapı sergiler.

Show answer & explanation

Answer: $\hat{\mu}_n$ tahmin edicisi sonlu örneklem hacimlerinde yanlı olmasına karşın, $n \to \infty$ iken ortalama hata karesi sıfıra yakınsadığı için $\mu$ için tutarlı bir tahmin edicidir.

Answer

\hat{\mu}_n

tahmin edicisi, sonlu örneklem çaplarında yanlı olmasına rağmen, asimptotik olarak ortalama hata karesi (MSE) sıfıra gittiği için

\mu

parametresi adına tutarlı bir tahmin edicidir.

Doğru ifade, tahmin edicinin yanlı olmasına rağmen tutarlı olduğunu belirten ifadedir.

E(\hat{\mu}_n) = \mu + \frac{c}{n}

olduğu için sonlu

n

değerlerinde tahmin edici yanlıdır. Varyansı

Var(\hat{\mu}_n) = \frac{\sigma^2}{n}

ve yan miktarı

\frac{c}{n}

olarak bulunmuştur. Ortalama Hata Karesi (MSE) hesaplandığında

MSE = \frac{\sigma^2}{n} + \frac{c^2}{n^2}

elde edilir.

n \to \infty

iken hem varyans hem de yan sıfıra yakınsadığı için MSE sıfıra gider. MSE'si asimptotik olarak sıfıra giden tahmin ediciler tutarlı olduğundan, bu tahmin edici sonlu örneklemde yanlı da olsa asimptotik olarak tutarlıdır.

Step-by-Step Solution

1

Tahmin edicinin beklenen değerini hesaplayarak yansızlık durumunu analiz et.

E(\hat{\mu}_n) = E(\bar{X}) + E(\frac{c}{n}) = \mu + \frac{c}{n}

bulunur ve tahmin edicinin yanlı olduğu görülür.

Yansızlık ve yan miktarını tespit etmek, MSE hesabı için gereklidir.

2

Tahmin edicinin varyansını hesapla.

Var(\hat{\mu}_n) = Var(\bar{X} + \frac{c}{n}) = Var(\bar{X}) = \frac{\sigma^2}{n}

elde edilir.

Sabit terimin varyansı sıfır olduğundan, varyans doğrudan örneklem ortalamasının varyansına eşittir.

3

Tahmin edicinin Ortalama Hata Karesini (MSE) oluştur.

MSE(\hat{\mu}_n) = Var(\hat{\mu}_n) + [Yan]^2 = \frac{\sigma^2}{n} + \frac{c^2}{n^2}

olarak bulunur.

Bir tahmin edicinin tutarlılığını göstermek için kullanılabilecek yeter koşul, asimptotik MSE davranışıdır.

4

MSE için

n \to \infty

limitini alarak tutarlılık kararını ver.

\lim_{n \to \infty} \left( \frac{\sigma^2}{n} + \frac{c^2}{n^2} \right) = 0

olduğundan tahmin edici tutarlıdır.

MSE değeri asimptotik olarak sıfıra yakınsıyorsa, Chebyshev eşitsizliğine göre tahmin edici olasılıkta yakınsar ve tutarlıdır.

Key Concept

Tutarlılık, Yansızlık ve Ortalama Hata Karesi (MSE) İlişkisi

Question 4Question →

Bir malzeme bilimcisi, yeni üretilen sentetik bir elyafın çekme mukavemetini ölçmektedir. Çekme mukavemeti değerlerinin ( $X$ ), ortalaması bilinmeyen $\theta$ ve varyansı $\sigma^2 = 16$ olan normal dağılıma sahip olduğu varsayılmaktadır.

Benzer elyaflar üzerinde yapılan önceki çalışmalara dayanarak, $\theta$ parametresinin önsel (prior) dağılımının, ortalaması $\mu = 10$ ve varyansı $\tau^2 = 4$ olan bir normal dağılım olduğu modellenmiştir.

Bilim insanı, yeni elyaftan rastgele seçilen $n = 5$ adet numuneyi test etmiş ve örneklem ortalamasını $\bar{x} = 28$ olarak hesaplamıştır.

Buna göre, karesel hata kayıp fonksiyonu (squared error loss) altında $\theta$ parametresinin Bayes tahmini aşağıdakilerden hangisidir?

13,6

18

19

20

28

Show answer & explanation

Answer: 20

Answer

Doğru yanıt 20 değerini gösteren seçenektir.

Karesel hata kayıp fonksiyonunda Bayes tahmini, sonsal (posterior) dağılımın beklenen değeridir. Verilen Normal-Normal modelinde hassasiyet ağırlıklı formül kullanıldığında,

(5 \cdot 4 \cdot 28 + 16 \cdot 10) / (5 \cdot 4 + 16) = 720 / 36 = 20

sonucu doğru yanıttır.

Step-by-Step Solution

1

Kayıp fonksiyonuna göre Bayes tahmin edicisinin formunu belirlemek.

Karesel hata kayıp fonksiyonu kullanıldığında Bayes tahmini, sonsal (posterior) dağılımın beklenen değeridir (

E[\theta | x]

).

Sonsal risk fonksiyonunu minimize eden tahmin edici, karesel kayıp için sonsal dağılımın ortalamasıdır.

2

Normal-Normal eşlenik (conjugate) modeli için sonsal beklenen değer formülünü belirlemek.

Sonsal beklenen değer formülü:

\mu_{post} = \frac{n \tau^2 \bar{x} + \sigma^2 \mu}{n \tau^2 + \sigma^2}

Varyansı bilinen normal kitle ve normal önsel dağılım varsayımı altında, sonsal dağılım da normaldir ve beklenen değeri (ortalaması) bu şekilde hesaplanır.

3

Verilen parametreleri formülde yerine koyarak matematiksel işlemi tamamlamak.

\mu_{post} = \frac{5 \cdot 4 \cdot 28 + 16 \cdot 10}{5 \cdot 4 + 16} = \frac{560 + 160}{36} = \frac{720}{36} = 20

Değerlerin formüle yerleştirilmesiyle nihai Bayes tahminine ulaşılır.

Key Concept

Normal-Normal Eşlenik Modelinde Sonsal Beklenen Değer

Question 5Question →

Bir üretim sürecinde belirli bir makinenin hatalı ürün üretme olasılığı $\theta$ olarak tanımlanmıştır. Geçmiş tecrübelere dayanarak, $\theta$ parametresinin önsel (prior) dağılımının $\alpha=2$ ve $\beta=2$ parametreli Beta dağılımı olduğu varsayılmaktadır.

Bu makinenin ürettiği ürünler arasından rastgele seçilen 6 üründen 1 tanesinin hatalı olduğu gözlemlenmiştir.

Buna göre, karesel hata kayıp fonksiyonu (squared error loss) kullanıldığında $\theta$ parametresi için Bayes tahmin edicisinin değeri aşağıdakilerden hangisidir?

\frac{3}{10}

\frac{1}{6}

\frac{1}{4}

\frac{7}{10}

\frac{1}{2}

Show answer & explanation

Answer: $\frac{3}{10}$

Answer

Bayes tahmin edicisi, karesel hata kayıp fonksiyonu altında sonsal dağılımın beklenen değerine eşit olduğundan

\frac{3}{10}

olarak bulunur.

Karesel hata kayıp (squared error loss) fonksiyonu altında parametrenin Bayes tahmin edicisi, sonsal (posterior) dağılımın beklenen değerine (ortalamasına) eşittir. Önsel dağılım

Beta(2, 2)

ve olabilirlik fonksiyonu

Binomial(n=6, x=1)

olduğunda, sonsal dağılım Beta-Binom eşleniği (conjugate) özelliğinden dolayı

Beta(2+1, 2+6-1) = Beta(3, 7)

olarak güncellenir.

Beta(a, b)

dağılımının beklenen değeri

a / (a+b)

'dir. Bu nedenle

\theta

için Bayes tahmin edicisi

\frac{3}{3+7} = \frac{3}{10}

olarak hesaplanır.

Step-by-Step Solution

1

Önsel (prior) dağılımı ve parametrelerini belirle.

\theta \sim Beta(\alpha=2, \beta=2)

Sonsal dağılımı bulmak için başlangıç parametrelerine ihtiyaç vardır.

2

Olabilirlik (likelihood) fonksiyonu için örneklem bilgisini özetle.

n=6

denemede

x=1

başarılı (hatalı) ürün gözlemlenmiştir. Dağılım Binom'dur.

Örneklem verisi önsel dağılımı güncellemek için kullanılacaktır.

3

Sonsal (posterior) dağılımı hesapla.

Beta-Binom eşleniği özelliğinden sonsal dağılım

Beta(\alpha+x, \beta+n-x) = Beta(2+1, 2+6-1) = Beta(3, 7)

olur.

Bayes tahmin edicisi sonsal dağılım üzerinden elde edilir.

4

Kayıp fonksiyonuna uygun istatistiği belirle ve hesapla.

Karesel hata kayıp fonksiyonu, sonsal dağılımın beklenen değerini (ortalama) gerektirir.

E(\theta|X) = \frac{\alpha^*}{\alpha^* + \beta^*} = \frac{3}{3+7} = \frac{3}{10}

.

Karesel hata kayıplarında riski minimize eden tahmin edici sonsal ortalamadır.

Key Concept

Bayes Tahmin Yöntemi ve Karesel Hata Kayıp Fonksiyonu

Question 6Question →

$X_1, X_2, \dots, X_n$ , olasılık yoğunluk fonksiyonu

f(x; \theta) = \begin{cases} \frac{2x}{\theta^2}, & 0 < x < \theta \\ 0, & \text{diğer durumlarda} \end{cases}

olan bir kitleden alınmış $n$ çaplı rastgele bir örneklem olsun. $\theta$ parametresini tahmin etmek için $T = \bar{X}$ (örneklem ortalaması) tahmin edicisi öneriliyor.

Buna göre, $T = \bar{X}$ tahmin edicisinin $\theta$ parametresi için Hata Kareler Ortalaması ( $MSE$ ) aşağıdakilerden hangisidir?

\frac{2n+1}{18n}\theta^2

\frac{1}{18n}\theta^2

\frac{1}{6}\theta^2

\frac{1}{9}\theta^2

\frac{2n+9}{18n}\theta^2

Show answer & explanation

Answer: $\frac{2n+1}{18n}\theta^2$

Answer

Doğru cevap, varyans ile yan miktarının karesinin toplamı olan

\frac{2n+1}{18n}\theta^2

ifadesidir.

Tahmin edicinin Hata Kareler Ortalaması (MSE) hesaplanırken

MSE(T) = Var(T) + [Bias(T)]^2

eşitliği kullanılır.

T = \bar{X}

için

E[T] = \frac{2}{3}\theta

olduğundan yan miktarı

-\frac{1}{3}\theta

, karesi ise

\frac{1}{9}\theta^2

'dir. Tahmin edicinin varyansı

Var(\bar{X}) = \frac{1}{18n}\theta^2

olarak bulunur. İki değer toplandığında

\frac{2n+1}{18n}\theta^2

sonucuna ulaşılır.

Step-by-Step Solution

1

Kitlenin beklenen değerini (

E[X]

) hesaplayınız.

E[X] = \int_0^\theta x \cdot \frac{2x}{\theta^2} dx = \int_0^\theta \frac{2x^2}{\theta^2} dx = \left[ \frac{2x^3}{3\theta^2} \right]_0^\theta = \frac{2}{3}\theta

Tahmin edicinin yansızlığını kontrol etmek ve yan miktarını bulmak için kitle ortalamasına ihtiyaç vardır.

2

Kitlenin varyansını (

Var(X)

) hesaplayınız.

E[X^2] = \int_0^\theta x^2 \cdot \frac{2x}{\theta^2} dx = \left[ \frac{2x^4}{4\theta^2} \right]_0^\theta = \frac{1}{2}\theta^2

. Buradan

Var(X) = E[X^2] - (E[X])^2 = \frac{1}{2}\theta^2 - \frac{4}{9}\theta^2 = \frac{1}{18}\theta^2

elde edilir.

Tahmin edicinin varyansını bulabilmek için temel kitle varyansının hesaplanması gerekir.

3

Tahmin edici

T = \bar{X}

'in beklenen değerini, varyansını ve yan miktarını (Bias) hesaplayınız.

E[T] = E[\bar{X}] = \frac{2}{3}\theta

. Yan miktar:

Bias(T) = E[T] - \theta = -\frac{1}{3}\theta

. Varyans:

Var(T) = \frac{Var(X)}{n} = \frac{1}{18n}\theta^2

.

MSE formülündeki eksik parçaları (varyans ve yan miktarını) örneklem istatistiği (

T

) bazında belirlemek için.

4

Hata Kareler Ortalaması (

MSE

) formülünü uygulayınız.

MSE(T) = Var(T) + [Bias(T)]^2 = \frac{1}{18n}\theta^2 + \left(-\frac{1}{3}\theta\right)^2 = \frac{1}{18n}\theta^2 + \frac{1}{9}\theta^2 = \frac{1 + 2n}{18n}\theta^2 = \frac{2n+1}{18n}\theta^2

.

Yanlı tahmin edicilerin performansını değerlendirmede MSE = Varyans + Yan^2 temel denklemi kullanılır.

Key Concept

Yanlı bir tahmin edicinin Hata Kareler Ortalaması (

MSE

), tahmin edicinin varyansı ile yansızlık miktarının (yan) karesinin toplamına eşittir.

Question 7Question →

$\theta > 0$ olmak üzere, $X_1, X_2, \ldots, X_n$ olabilirlik fonksiyonu düzenlilik koşullarını sağlayan ve Fisher bilgi miktarı $I(\theta) > 0$ olan bir kitleden çekilmiş bağımsız ve aynı dağılımlı bir rastgele örneklem olsun. $\theta$ parametresinin en çok olabilirlik tahmin edicisi (MLE) $\hat{\theta}_n$ olarak verilmiştir.

Buna göre, $\eta = \ln(\theta)$ parametresinin en çok olabilirlik tahmin edicisi olan $\hat{\eta}_n$ ve bu tahmin edicinin asimptotik özellikleri ile ilgili aşağıdaki ifadelerden hangisi kesinlikle doğrudur?

\eta = \ln(\theta)

doğrusal olmayan bir dönüşüm olduğundan, değişmezlik (invariance) özelliği gereği

\eta

'nın en çok olabilirlik tahmin edicisi doğrudan

\ln(\hat{\theta}_n)

olarak alınamaz.

\hat{\theta}_n

,

\theta

için yansız bir tahmin edici ise,

\hat{\eta}_n = \ln(\hat{\theta}_n)

de her

n

örneklem çapı için

\eta

'nın yansız bir tahmin edicisidir.

\hat{\eta}_n = \ln(\hat{\theta}_n)

'dir,

\eta

için tutarlı bir tahmin edicidir ve asimptotik varyansı

\frac{1}{\theta^2 n I(\theta)}

'dir.

\hat{\eta}_n = \ln(\hat{\theta}_n)

asimptotik olarak normal dağılıma sahiptir ve asimptotik varyansı

\frac{1}{\theta n I(\theta)}

'dir.

\hat{\eta}_n = \ln(\hat{\theta}_n)

tutarlı bir tahmin edici olmasına rağmen, dönüşüm doğrusal olmadığı için asimptotik etkinlik (efficiency) özelliğini kaybeder.

Show answer & explanation

Answer: $\hat{\eta}_n = \ln(\hat{\theta}_n)$ 'dir, $\eta$ için tutarlı bir tahmin edicidir ve asimptotik varyansı $\frac{1}{\theta^2 n I(\theta)}$ 'dir.

Answer

\hat{\eta}_n = \ln(\hat{\theta}_n)

'dir,

\eta

için tutarlı bir tahmin edicidir ve asimptotik varyansı

\frac{1}{\theta^2 n I(\theta)}

'dir.

En çok olabilirlik tahmin edicilerinin değişmezlik (invariance) özelliğine göre,

\theta

'nın MLE'si

\hat{\theta}_n

ise,

g(\theta)

fonksiyonunun MLE'si

g(\hat{\theta}_n)

olur. Bu özellik doğrusal olmayan dönüşümler için de geçerlidir, bu nedenle

\eta = \ln(\theta)

için MLE

\hat{\eta}_n = \ln(\hat{\theta}_n)

'dir. Ayrıca,

\hat{\theta}_n

asimptotik olarak etkin olduğundan, Delta metodu kullanılarak

g(\theta) = \ln(\theta)

için asimptotik varyans

[g'(\theta)]^2 \cdot \text{Var}(\hat{\theta}_n)

formülü ile hesaplanır.

g'(\theta) = 1/\theta

olduğundan, asimptotik varyans

(1/\theta)^2 \cdot \frac{1}{n I(\theta)} = \frac{1}{\theta^2 n I(\theta)}

olarak bulunur. Sürekli dönüşüm teoremi gereği de

\hat{\eta}_n

tutarlı olmaya devam eder ve MLE'lerin asimptotik etkinlik özelliği bozulmaz.

Step-by-Step Solution

1

En çok olabilirlik tahmin edicilerinin değişmezlik (invariance) özelliğini uygula.

\eta = \ln(\theta)

için tahmin edici

\hat{\eta}_n = \ln(\hat{\theta}_n)

olarak bulunur.

Değişmezlik özelliği, her türlü fonksiyon için MLE'nin doğrudan fonksiyonda yerine konulmasıyla bulunacağını belirtir.

2

Dönüştürülmüş parametrenin tutarlılığını değerlendir.

\hat{\theta}_n

tutarlı ve

g(\theta) = \ln(\theta)

sürekli bir fonksiyon olduğundan,

\hat{\eta}_n

de tutarlıdır.

Sürekli Dönüşüm Teoremi (Continuous Mapping Theorem) gereği, tutarlı bir tahmin edicinin sürekli bir fonksiyonu da parametrenin o fonksiyonu için tutarlı bir tahmin edicidir.

3

Delta metodu ile asimptotik varyansı hesapla.

g(\theta) = \ln(\theta)

için

g'(\theta) = 1/\theta

olur. Asimptotik varyans

[g'(\theta)]^2 \cdot \frac{1}{n I(\theta)} = \frac{1}{\theta^2 n I(\theta)}

olarak bulunur.

MLE'lerin asimptotik varyansı Fisher bilgi miktarının tersidir ve Delta metodu kullanılarak dönüşümlerin varyansı asıl varyansın fonksiyonun türevinin karesiyle çarpılması sonucu elde edilir.

Key Concept

En Çok Olabilirlik Tahmin Edicilerinde Değişmezlik ve Asimptotik Dağılım

Question 8Question →

X_1, X_2, \dots, X_n

, olasılık yoğunluk fonksiyonu

f(x; \theta) = \begin{cases} \frac{3x^2}{\theta^3}, & 0 < x < \theta \\ 0, & \text{diğer durumlar} \end{cases}

olan bir kitleden çekilen

n

birimlik rastgele bir örneklem ve

X_{(n)} = \max(X_1, X_2, \dots, X_n)

bu örneklemin en büyük sıra istatistiği olsun.

\theta > 0

bilinmeyen bir parametredir.

$\theta$ parametresini tahmin etmek için iki farklı tahmin edici tanımlanmıştır:
* $T_1 = c \cdot X_{(n)}$ ( $\theta$ için yansız bir tahmin edicidir)
* $T_2 = X_{(n)}$ ( $\theta$ için en çok olabilirlik tahmin edicisidir)

Buna göre, $T_2$ tahmin edicisinin Hata Kareler Ortalamasının (MSE), $T_1$ tahmin edicisinin Hata Kareler Ortalamasına (MSE) oranı olan $\left( \frac{MSE(T_2)}{MSE(T_1)} \right)$ değeri aşağıdakilerden hangisidir?

\frac{9n^2}{(3n+1)^2}

\frac{3n+1}{6n}

\frac{6n}{3n+1}

2

\frac{3n}{3n+2}

Show answer & explanation

Answer: $\frac{6n}{3n+1}$

Answer

\frac{6n}{3n+1}

ifadesi doğru orandır.

Doğru yanıt,

T_1

'in yansızlık sabiti bulunup MSE'sinin sadece varyans formülüyle,

T_2

'nin MSE'sinin ise varyansa yan miktarının karesi eklenerek bulunması ve bu iki değerin birbirine oranlanması ile elde edilen

\frac{6n}{3n+1}

ifadesidir.

Step-by-Step Solution

1

X_{(n)}

sıra istatistiğinin dağılım fonksiyonunu ve olasılık yoğunluk fonksiyonunu bulma.

Kümülatif dağılım:

F(x) = \int_0^x \frac{3t^2}{\theta^3} dt = \frac{x^3}{\theta^3}

. Buna göre

X_{(n)}

'in PDF'si:

f_{(n)}(y) = n [F(y)]^{n-1} f(y) = n \left(\frac{y^3}{\theta^3}\right)^{n-1} \frac{3y^2}{\theta^3} = \frac{3n y^{3n-1}}{\theta^{3n}}

(

0 < y < \theta

).

Sıra istatistiğinin beklenen değerini ve varyansını hesaplayabilmek için öncelikle dağılım fonksiyonuna ihtiyaç vardır.

2

X_{(n)}

istatistiğinin beklenen değer (

E[X_{(n)}]

) ve varyans (

Var(X_{(n)})

) değerlerini hesaplama.

E[X_{(n)}] = \int_0^\theta y \frac{3n y^{3n-1}}{\theta^{3n}} dy = \frac{3n}{3n+1}\theta

.

E[X_{(n)}^2] = \int_0^\theta y^2 \frac{3n y^{3n-1}}{\theta^{3n}} dy = \frac{3n}{3n+2}\theta^2

.

Var(X_{(n)}) = E[X_{(n)}^2] - (E[X_{(n)}])^2 = \frac{3n}{3n+2}\theta^2 - \frac{9n^2}{(3n+1)^2}\theta^2 = \frac{3n}{(3n+2)(3n+1)^2}\theta^2

.

Tahmin edicilerin yan miktarını (bias) ve varyanslarını bulmak için bu momentler zorunludur.

3

T_1

'in yansızlık sabiti olan

c

'yi bulma ve

MSE(T_1)

'i hesaplama.

E[T_1] = c E[X_{(n)}] = c \frac{3n}{3n+1}\theta = \theta

olmalıdır. Buradan

c = \frac{3n+1}{3n}

bulunur.

T_1

yansız olduğu için

MSE(T_1) = Var(T_1) = c^2 Var(X_{(n)}) = \left(\frac{3n+1}{3n}\right)^2 \frac{3n}{(3n+2)(3n+1)^2}\theta^2 = \frac{1}{3n(3n+2)}\theta^2

.

Yansız bir tahmin edicinin MSE'si doğrudan kendi varyansına eşittir. Sabit çarpana dikkat edilerek varyans hesaplanmalıdır.

4

T_2 = X_{(n)}

tahmin edicisinin MSE değerini formül (

MSE = Var + Yan^2

) ile hesaplama.

Yan(T_2) = E[X_{(n)}] - \theta = \frac{3n}{3n+1}\theta - \theta = \frac{-\theta}{3n+1}

.

MSE(T_2) = Var(X_{(n)}) + [Yan(T_2)]^2 = \frac{3n}{(3n+2)(3n+1)^2}\theta^2 + \frac{1}{(3n+1)^2}\theta^2 = \frac{3n + (3n+2)}{(3n+2)(3n+1)^2}\theta^2 = \frac{6n+2}{(3n+2)(3n+1)^2}\theta^2 = \frac{2(3n+1)}{(3n+2)(3n+1)^2}\theta^2 = \frac{2}{(3n+2)(3n+1)}\theta^2

.

T_2

yanlı bir tahmin edicidir, bu nedenle MSE hesabı için varyansa yan miktarının karesi eklenmek zorundadır.

5

MSE(T_2) / MSE(T_1)

oranını oluşturma.

\frac{MSE(T_2)}{MSE(T_1)} = \frac{\frac{2}{(3n+2)(3n+1)}\theta^2}{\frac{1}{3n(3n+2)}\theta^2} = \frac{2 \cdot 3n(3n+2)}{(3n+2)(3n+1)} = \frac{6n}{3n+1}

.

İki farklı tahmin edicinin verimliliklerini veya MSE'lerini kıyaslamak için istenen nihai işlem gerçekleştirilmiştir.

Key Concept

Hata Kareler Ortalaması (MSE) ve Yansızlık

Question 9Question →

Bir $X$ rassal değişkeninin olasılık yoğunluk fonksiyonu aşağıda verilmiştir:

f(x; \theta) = \begin{cases} \frac{2}{\theta} \left( 1 - \frac{x}{\theta} \right), & 0 < x < \theta \\ 0, & \text{diğer durumlarda} \end{cases}

Bu dağılımdan çekilen $n$ birimlik bir rastgele örneklemin ortalaması $\bar{X}$ olmak üzere, $\theta$ parametresi için $T = 2\bar{X}$ tahmin edicisi öneriliyor.

Buna göre, $T$ tahmin edicisinin hata kareler ortalaması (MSE) aşağıdakilerden hangisidir?

\frac{2-n}{9n}\theta^2

\frac{n+1}{9n}\theta^2

\frac{n+2}{9n}\theta^2

\frac{2}{9n}\theta^2

\frac{4n+2}{9n}\theta^2

Show answer & explanation

Answer: $\frac{n+2}{9n}\theta^2$

Answer

T

tahmin edicisinin hata kareler ortalaması (MSE)

\frac{n+2}{9n}\theta^2

ifadesine eşittir.

Hata kareler ortalaması (MSE), tahmin edicinin varyansı ile yan miktarının karesinin toplamına eşittir (

MSE = Var(T) + Bias^2

). Kütle ortalaması

E[X] = \theta/3

ve kütle varyansı

Var(X) = \theta^2/18

olarak hesaplanır. Önerilen

T = 2\bar{X}

tahmin edicisinin beklenen değeri

E[T] = 2\theta/3

olup, yan miktarı

E[T] - \theta = -\theta/3

şeklindedir. Tahmin edicinin varyansı ise

Var(T) = 4Var(\bar{X}) = 4(\theta^2 / 18n) = 2\theta^2 / 9n

olur. Formülde yerine konulduğunda

MSE(T) = (2\theta^2 / 9n) + (\theta^2 / 9) = \frac{n+2}{9n}\theta^2

sonucu elde edilir.

Step-by-Step Solution

1

X

rassal değişkeninin beklenen değerini (

E[X]

) ve ikinci momentini (

E[X^2]

) hesapla.

E[X] = \int_0^\theta x \frac{2}{\theta} (1 - \frac{x}{\theta}) dx = \frac{\theta}{3}

ve

E[X^2] = \int_0^\theta x^2 \frac{2}{\theta} (1 - \frac{x}{\theta}) dx = \frac{\theta^2}{6}

bulunur.

Kütle varyansını ve örneklem ortalamasının özelliklerini bulabilmek için kütlenin momentlerine ihtiyaç vardır.

2

Kütle varyansını (

Var(X)

) hesapla.

Var(X) = E[X^2] - (E[X])^2 = \frac{\theta^2}{6} - \left(\frac{\theta}{3}\right)^2 = \frac{\theta^2}{18}

olarak bulunur.

Tahmin edici olan

T

'nin varyansını hesaplayabilmek için ana kütle varyansının bilinmesi gereklidir.

3

T = 2\bar{X}

tahmin edicisinin beklenen değerini ve varyansını bul.

E[T] = 2E[\bar{X}] = 2\left(\frac{\theta}{3}\right) = \frac{2\theta}{3}

ve

Var(T) = 4Var(\bar{X}) = 4\left(\frac{\theta^2}{18n}\right) = \frac{2\theta^2}{9n}

olur.

MSE hesabı, tahmin edicinin varyansına ve parametreye olan uzaklığına (beklenen değerine) dayanır.

4

Tahmin edicinin yan miktarını (

B(\theta)

) bul ve Hata Kareler Ortalamasını (

MSE

) hesapla.

B(\theta) = E[T] - \theta = \frac{2\theta}{3} - \theta = -\frac{\theta}{3}

olur. Buradan

MSE(T) = Var(T) + B(\theta)^2 = \frac{2\theta^2}{9n} + \frac{\theta^2}{9} = \frac{n+2}{9n}\theta^2

elde edilir.

Yanlı tahmin edicilerde MSE, varyans ile yan miktarının karesinin toplamına eşittir.

Key Concept

Hata Kareler Ortalaması (MSE) ve Yansızlık

Question 10Question →

X_1, X_2, \dots, X_n

, ortalaması

\mu

ve varyansı

\sigma^2 < \infty

olan bir kitleye ait rastgele bir örneklem olsun. Kitle ortalaması olan

\mu

parametresini tahmin etmek için,

T_n = \frac{1}{n+1} \sum_{i=1}^n X_i

tahmin edicisi öneriliyor.

Buna göre, $T_n$ tahmin edicisi ile ilgili aşağıdakilerden hangisi doğrudur?

\mu

için yansız ve tutarlı bir tahmin edicidir.

\mu

için yanlı fakat tutarlı bir tahmin edicidir.

\mu

için yanlı ve tutarsız bir tahmin edicidir.

\mu

için yansız fakat tutarsız bir tahmin edicidir.

\mu

için asimptotik olarak yansız fakat tutarsız bir tahmin edicidir.

Show answer & explanation

Answer: $\mu$ için yanlı fakat tutarlı bir tahmin edicidir.

Answer

Tahmin edici,

\mu

parametresi için yanlı fakat tutarlı bir tahmin edicidir.

Tahmin edicinin beklenen değeri

E(T_n) = \frac{n}{n+1}\mu

olup

\mu

'den farklıdır, bu nedenle tahmin edici yanlıdır. Ancak

n \to \infty

iken

\lim E(T_n) = \mu

olduğu için asimptotik olarak yansızdır. Diğer taraftan varyansı

Var(T_n) = \frac{n}{(n+1)^2}\sigma^2

olup sonsuzda limiti sıfırdır. Varyans ve yan miktarının her ikisi de

n \to \infty

iken sıfıra gittiğinden, Hata Kareler Ortalaması (MSE) sıfıra yakınsar. MSE'si sıfıra giden bir tahmin edici tutarlı olduğundan,

T_n

yanlı fakat tutarlı bir tahmin edicidir.

Step-by-Step Solution

1

Tahmin edicinin beklenen değerini hesaplamak

E(T_n) = E\left(\frac{1}{n+1} \sum_{i=1}^n X_i\right) = \frac{1}{n+1} \sum_{i=1}^n E(X_i) = \frac{n}{n+1}\mu

Bir tahmin edicinin yansız olup olmadığını belirlemek için beklenen değerinin kitle parametresine (

\mu

) eşit olup olmadığına bakılır.

2

Yansızlık durumunu değerlendirmek

E(T_n) = \frac{n}{n+1}\mu \neq \mu

olduğundan tahmin edici yanlıdır. Yan miktarı

B(T_n) = \frac{n}{n+1}\mu - \mu = -\frac{\mu}{n+1}

olarak bulunur.

Beklenen değer parametreye eşit çıkmadığı için yanlılık tespiti yapılmış olur.

3

Varyans ve MSE limitlerini inceleyerek tutarlılığı test etmek

Var(T_n) = Var\left(\frac{1}{n+1} \sum X_i\right) = \frac{1}{(n+1)^2} \sum Var(X_i) = \frac{n}{(n+1)^2}\sigma^2

.

\lim_{n \to \infty} Var(T_n) = 0

ve

\lim_{n \to \infty} B(T_n) = 0

olduğundan, Hata Kareler Ortalamasının (MSE) limiti sıfırdır:

\lim_{n \to \infty} MSE(T_n) = 0

.

Bir tahmin edicinin tutarlı olması için,

n \to \infty

iken varyansının ve yan miktarının sıfıra yakınsaması yeterlidir.

4

Sonuçları birleştirmek

Tahmin edici yanlıdır, ancak tutarlıdır.

Yansızlık şartını sağlamamasına rağmen asimptotik özelliklerinden ötürü tutarlılık şartını sağlamaktadır.

Key Concept

Hata Kareler Ortalaması (MSE) üzerinden tutarlılık analizi ve asimptotik yansızlık

Question 11Question →

Bir fabrikada üretilen belirli bir ürünün üzerindeki kusur sayısının $\lambda$ parametreli Poisson dağılımına uyduğu bilinmektedir. Bu ürünlerden $n$ ( $n > 1$ ) tanesi rastgele seçilerek $X_1, X_2, \dots, X_n$ örneklemi oluşturuluyor. Bir ürünün kusursuz olma olasılığı olan $\theta = P(X_1 = 0) = e^{-\lambda}$ parametresinin tahmini ile ilgilenilmektedir.

Bu parametre için ilk olarak sadece ilk gözleme dayalı yansız bir tahmin edici olan $T = I(X_1 = 0)$ (burada $I$ gösterge fonksiyonudur) öneriliyor. Daha sonra $S = \sum_{i=1}^n X_i$ yeterli istatistiği kullanılarak Rao-Blackwell teoremi yardımıyla $T$ tahmin edicisi koşullu beklenen değer işlemiyle iyileştiriliyor ve $T^* = E(T|S)$ yansız tahmin edicisi elde ediliyor.

Buna göre, Rao-Blackwell teoreminin sağladığı varyans iyileştirmesi (kazancı) olan $Var(T) - Var(T^*)$ farkı aşağıdakilerden hangisine eşittir?

e^{-\lambda} - e^{-\lambda\left(\frac{2n-1}{n}\right)}

e^{-\lambda} - e^{-2\lambda}

e^{-\lambda\left(\frac{2n-1}{n}\right)} - e^{-2\lambda}

e^{-\lambda}\left(1 - e^{-\lambda/n}\right)

e^{-2\lambda} - e^{-\lambda\left(\frac{2n-1}{n}\right)}

Show answer & explanation

Answer: $e^{-\lambda} - e^{-\lambda\left(\frac{2n-1}{n}\right)}$

Answer

Rao-Blackwell teoreminin sağladığı varyans kazancı

e^{-\lambda} - e^{-\lambda\left(\frac{2n-1}{n}\right)}

şeklindedir.

Rao-Blackwell teoremine göre

T^* = E(T|S)

işlemi varyansı düşürür veya en azından aynı bırakır. İlk tahmin edici

T

'nin varyansı

e^{-\lambda} - e^{-2\lambda}

'dır. İyileştirilmiş tahmin edici

T^* = (1-1/n)^S

'nin varyansı, Poisson dağılımına ait olasılık üreten fonksiyon yardımıyla hesaplandığında

e^{-\lambda(2n-1)/n} - e^{-2\lambda}

bulunur. İyileştirme miktarı olan varyans farkı hesaplandığında,

e^{-2\lambda}

terimleri sadeleşir ve doğru sonuç

e^{-\lambda} - e^{-\lambda(2n-1)/n}

olarak bulunur.

Step-by-Step Solution

1

T

tahmin edicisinin varyansını hesaplama.

Var(T) = e^{-\lambda} - e^{-2\lambda}

T

, Bernoulli dağılımına sahip bir gösterge fonksiyonudur; başarı olasılığı

p = e^{-\lambda}

'dır. Dolayısıyla varyansı

p(1-p)

formülüyle bulunur.

2

T^* = E(T|S)

iyileştirilmiş tahmin edicisini bulma.

T^* = \left(1 - \frac{1}{n}\right)^S

Koşullu olasılık tanımından

P(X_1=0 | \sum X_i = S) = \frac{P(X_1=0)P(\sum_{i=2}^n X_i = S)}{P(\sum_{i=1}^n X_i = S)}

oranı hesaplandığında, Poisson dağılımının toplanabilirlik özelliği gereği bu sonuca ulaşılır.

3

T^*

'ın varyansını hesaplama.

Var(T^*) = e^{-\lambda\left(\frac{2n-1}{n}\right)} - e^{-2\lambda}

Var(T^*) = E[(T^*)^2] - [E(T^*)]^2

.

S \sim Poisson(n\lambda)

olduğundan,

E[a^S] = e^{n\lambda(a-1)}

olasılık üreten fonksiyonu kullanılarak

a = \left(1 - \frac{1}{n}\right)^2

için beklenen değer bulunur.

4

Varyans farkını (kazancı) hesaplama.

Var(T) - Var(T^*) = e^{-\lambda} - e^{-\lambda\left(\frac{2n-1}{n}\right)}

İki varyans değeri birbirinden çıkarıldığında,

e^{-2\lambda}

terimleri birbirini götürür ve sonuç elde edilir.

Key Concept

Rao-Blackwell Teoremi ve Varyans İyileştirmesi

Question 12Question →

$X_1, X_2, \dots, X_n$ bağımsız ve aynı dağılımlı rastgele değişkenler olmak üzere, olasılık yoğunluk fonksiyonu

f(x; \theta) = \begin{cases} \frac{1}{2}, & \theta - 1 \le x \le \theta + 1 \\ 0, & \text{diğer durumlarda} \end{cases}

olan dağılımdan rastgele bir örneklem çekilmiştir.

Buna göre, Neyman Çarpanlara Ayırma Teoremi (Neyman Factorization Theorem) dikkate alındığında, $\theta$ parametresi için yeterli (sufficient) istatistik aşağıdakilerden hangisidir?

(Not: $X_{(1)} = \min(X_i)$ ve $X_{(n)} = \max(X_i)$ sıra istatistiklerini ifade etmektedir.)

X_{(n)}

\bar{X}

X_{(1)}

X_{(n)} - X_{(1)}

(X_{(1)}, X_{(n)})

Show answer & explanation

Answer: $(X_{(1)}, X_{(n)})$

Answer

Doğru cevap, alt ve üst sınır koşullarını birlikte barındıran

(X_{(1)}, X_{(n)})

ortak istatistiğidir.

Neyman Çarpanlara Ayırma Teoremi'ne göre, olabilirlik fonksiyonu

L(\theta; \mathbf{x})

yazıldığında,

\theta

'ya bağlı kısmın indikatör fonksiyonu

I(x_{(n)} - 1 \le \theta \le x_{(1)} + 1)

şeklinde elde edilir. Bu durum,

\theta

parametresinin var olduğu aralığın hem örneklemin minimum değerine (

X_{(1)}

) hem de maksimum değerine (

X_{(n)}

) bağlı olarak sınırlandığını gösterir. Bu nedenle, olabilirlik fonksiyonunun

\theta

üzerinden çarpanlarına ayrılabilmesi için her iki istatistiğe de ihtiyaç vardır. Dolayısıyla,

\theta

parametresi hakkında tüm bilgiyi taşıyan yeterli istatistik

(X_{(1)}, X_{(n)})

vektörüdür.

Step-by-Step Solution

1

Örneklemin ortak olasılık yoğunluk (olabilirlik) fonksiyonunu yazın.

L(\theta; \mathbf{x}) = \prod_{i=1}^n f(x_i; \theta) = \left(\frac{1}{2}\right)^n \prod_{i=1}^n I(\theta - 1 \le x_i \le \theta + 1)

Yeterli istatistiği bulmak için olabilirlik fonksiyonunun elde edilmesi ve indikatör fonksiyonlarının açıkça yazılması gerekir.

2

İndikatör fonksiyonlarının çarpımını sıra istatistikleri cinsinden tek bir eşitsizlik sistemi olarak ifade edin.

Tüm gözlemler için

\theta - 1 \le x_i \implies \theta - 1 \le X_{(1)}

ve

x_i \le \theta + 1 \implies X_{(n)} \le \theta + 1

.

Bir sınırın tüm gözlemler için geçerli olması, alt sınırın örneklem minimumundan küçük eşit, üst sınırın ise örneklem maksimumundan büyük eşit olmasını gerektirir.

3

Elde edilen eşitsizlikleri

\theta

parametresini merkeze alarak yeniden düzenleyin.

X_{(n)} - 1 \le \theta \le X_{(1)} + 1

elde edilir. İndikatör fonksiyonu:

I(X_{(n)} - 1 \le \theta \le X_{(1)} + 1)

halini alır.

Neyman Çarpanlara Ayırma Teoremi'ni uygulamak için fonksiyonun

\theta

'ya bağlı olan

g(T(\mathbf{x}); \theta)

ve

\theta

'dan bağımsız

h(\mathbf{x})

kısımlarını netleştirmek gerekir.

4

Neyman Çarpanlara Ayırma Teoremi'ni uygulayarak yeterli istatistiği belirleyin.

L(\theta; \mathbf{x}) = \underbrace{\left(\frac{1}{2}\right)^n I(X_{(n)} - 1 \le \theta \le X_{(1)} + 1)}_{g(T(\mathbf{x}); \theta)} \cdot \underbrace{1}_{h(\mathbf{x})}

. Yeterli istatistik

(X_{(1)}, X_{(n)})

'dir.

Teoreme göre

\theta

'yı içeren ifade, sadece bir

T(\mathbf{x})

istatistiği üzerinden örneğe bağlıysa o istatistik yeterlidir. Burada fonksiyon açıkça örneklemin hem minimumuna hem de maksimumuna ihtiyaç duymaktadır.

Key Concept

Neyman Çarpanlara Ayırma Teoremi ve Düzgün Dağılımda Yeterli İstatistik

Question 13Question →

$X_1, X_2, \ldots, X_n$ , Cramer-Rao düzenlilik koşullarını sağlayan bir kitle dağılımından alınmış rastgele örneklemi göstersin. Bu dağılımın bilinmeyen parametresi $\theta$ için en çok olabilirlik tahmin edicisi (MLE) $\hat{\theta}_n$ ve birim gözleme ait Fisher bilgi miktarı $I(\theta) > 0$ 'dır.

$\tau(\theta)$ , $\theta$ 'nın birinci türevi sürekli olan ve $\tau'(\theta) \neq 0$ koşulunu sağlayan doğrusal olmayan bir fonksiyonu olsun. Değişmezlik (invariance) prensibi gereğince $\tau(\theta)$ 'nın en çok olabilirlik tahmin edicisi $T_n = \tau(\hat{\theta}_n)$ olarak belirlenmiştir.

Bu bilgilere göre, $T_n$ tahmin edicisinin özellikleri hakkında aşağıdakilerden hangisi doğrudur?

T_n

,

\tau(\theta)

için asimptotik olarak yansız ve tutarlıdır; ayrıca Delta yöntemi gereği asimptotik varyansı

\frac{[\tau'(\theta)]^2}{n I(\theta)}

olup asimptotik etkinliğe sahiptir.

Değişmezlik özelliği nedeniyle, eğer

\hat{\theta}_n

sonlu örneklem çaplarında

\theta

için yansız ise,

T_n

de

\tau(\theta)

için kesinlikle yansız bir tahmin edicidir.

T_n

,

\tau(\theta)

için tutarlı bir tahmin edici olduğundan,

E[T_n] = \tau(\theta)

eşitliği her örneklem çapı

n

için istisnasız sağlanır.

T_n

'nin asimptotik varyansı, dönüştürülmüş parametrenin Fisher bilgi miktarına bağlı olarak

\frac{\tau'(\theta)}{n I(\theta)}

değerine eşittir.

\tau(\theta)

doğrusal olmayan bir fonksiyon olduğundan, değişmezlik prensibi

T_n

'nin tutarlılığını garanti eder ancak asimptotik normallik özelliğini ortadan kaldırır.

Show answer & explanation

Answer: $T_n$ , $\tau(\theta)$ için asimptotik olarak yansız ve tutarlıdır; ayrıca Delta yöntemi gereği asimptotik varyansı $\frac{[\tau'(\theta)]^2}{n I(\theta)}$ olup asimptotik etkinliğe sahiptir.

Answer

Delta yöntemi kullanılarak

T_n

'nin asimptotik varyansının

[\tau'(\theta)]^2 / (n I(\theta))

olduğu ve asimptotik etkinliğe sahip olduğunu belirten ifadedir.

Doğru ifade, MLE'nin değişmezlik özelliği ile bulunan

T_n

tahmin edicisinin Delta yöntemi uyarınca asimptotik normal ve asimptotik etkin olduğunu, asimptotik varyansının ise Cramer-Rao alt sınırı ile eşleştiğini eksiksiz ve matematiksel olarak doğru biçimde açıklamaktadır.

Step-by-Step Solution

1

En çok olabilirlik tahmin edicisinin (MLE) asimptotik dağılımını belirleme.

Düzenlilik koşulları altında

\sqrt{n}(\hat{\theta}_n - \theta) \xrightarrow{d} N(0, I(\theta)^{-1})

asimptotik dağılımı geçerlidir.

MLE'nin temel asimptotik özellikleri, büyük örneklemlerde normal dağılıma yakınsadığını ve varyansının Fisher bilgi miktarının tersine eşit olduğunu gösterir.

2

Değişmezlik (invariance) prensibini ve Sürekli Dönüşüm Teoremini (Continuous Mapping Theorem) uygulama.

T_n = \tau(\hat{\theta}_n)

tahmin edicisi,

\tau

sürekli olduğundan

\tau(\theta)

için tutarlıdır.

Tutarlı bir tahmin edicinin sürekli bir fonksiyonu da tutarlılık özelliğini korur.

3

Delta yöntemini kullanarak

T_n

'nin asimptotik dağılımını ve varyansını bulma.

\sqrt{n}(\tau(\hat{\theta}_n) - \tau(\theta)) \xrightarrow{d} N(0, [\tau'(\theta)]^2 I(\theta)^{-1})

. Bu durumda asimptotik varyans

\frac{[\tau'(\theta)]^2}{n I(\theta)}

olur.

Delta yöntemi, asimptotik normal bir dizinin sürekli türevlenebilir bir fonksiyonunun asimptotik varyansını, orijinal varyansın türevin karesi ile çarpımı olarak verir.

4

Bulunan varyansı Cramer-Rao alt sınırı (CRLB) ile karşılaştırma.

Bir fonksiyon olan

\tau(\theta)

için CRLB tam olarak

\frac{[\tau'(\theta)]^2}{n I(\theta)}

'dır.

T_n

'nin asimptotik varyansı bu değere eşit olduğu için asimptotik etkindir.

Asimptotik etkinlik, tahmin edicinin varyansının asimptotik olarak Cramer-Rao alt sınırına ulaşması demektir.

5

Doğrusal olmayan dönüşümlerde yansızlık durumunu analiz etme.

Jensen eşitsizliği nedeniyle

E[\tau(\hat{\theta}_n)] \neq \tau(E[\hat{\theta}_n])

olur. MLE yansız olsa bile

T_n

sonlu örneklemlerde yanlı olabilir.

Beklenen değer operatörü doğrusal olmayan fonksiyonlarla yer değiştiremez. Bu nedenle yansızlık değişmezlik prensibi ile taşınmaz.

Key Concept

En Çok Olabilirlik Tahmin Edicilerinde Değişmezlik ve Delta Yöntemi

Question 14Question →

Bir sigorta şirketinde, belirli bir poliçe türü için hasar talebi gelene kadar geçen gün sayısı $X$ rastgele değişkeni ile modellenmektedir. $X_1, X_2, \dots, X_n$ , başarı olasılığı $p \in (0,1)$ olan geometrik dağılıma sahip bağımsız ve aynı dağılımlı bir rastgele örneklem olsun. Geometrik dağılımın olasılık kütle fonksiyonu

f(x; p) = p(1-p)^{x-1}, \quad x = 1, 2, 3, \dots

olarak verilmektedir.

Buna göre, $\tau(p) = \frac{p}{1-p}$ fonksiyonunun yansız bir tahmin edicisi için Cramer-Rao alt sınırı aşağıdakilerden hangisidir?

\frac{p^2}{n(1-p)}

\frac{p^2(1-p)}{n}

\frac{p^2}{n(1-p)^3}

\frac{p^2}{(1-p)^3}

\frac{p^2}{n(1-p)^4}

Show answer & explanation

Answer: $\frac{p^2}{n(1-p)^3}$

Answer

\frac{p^2}{n(1-p)^3}

Cramer-Rao alt sınırını

\tau(p)

gibi bir fonksiyon için bulmak istediğimizde pay kısmına fonksiyonun türevinin karesi

[\tau'(p)]^2

, payda kısmına ise

n

hacimli örneklem için Fisher bilgi miktarı

I_n(p)

yazılır. Geometrik dağılım için log-olabilirliğin ikinci türevinin beklenen değeri üzerinden Fisher bilgi miktarı

I_n(p) = \frac{n}{p^2(1-p)}

olarak bulunur.

\tau(p) = \frac{p}{1-p}

fonksiyonunun türevi ise zincir kuralı/bölümün türevi uygulanarak

\frac{1}{(1-p)^2}

olarak elde edilir. Bu iki değer

\frac{[\tau'(p)]^2}{I_n(p)}

formülünde yerine konulduğunda Cramer-Rao alt sınırı

\frac{p^2}{n(1-p)^3}

şeklinde doğru olarak hesaplanır.

Step-by-Step Solution

1

f(x; p)

olasılık kütle fonksiyonunun doğal logaritması alınır ve parametre

p

'ye göre birinci ve ikinci türevleri hesaplanır.

\ln f(x; p) = \ln p + (x-1)\ln(1-p)

, ve

\frac{\partial^2}{\partial p^2} \ln f(x; p) = -\frac{1}{p^2} - \frac{x-1}{(1-p)^2}

Fisher bilgi miktarını hesaplamak için log-olabilirliğin ikinci türevinin beklenen değerine ihtiyaç vardır.

2

İkinci türevin beklenen değerinin negatifi alınarak tek bir gözlem için Fisher bilgi miktarı (

I(p)

) bulunur ve

n

ile çarpılarak

n

hacimli örneklem için

I_n(p)

elde edilir.

E[X] = \frac{1}{p}

kullanılarak

I(p) = -E\left[-\frac{1}{p^2} - \frac{X-1}{(1-p)^2}\right] = \frac{1}{p^2} + \frac{\frac{1}{p}-1}{(1-p)^2} = \frac{1}{p^2(1-p)}

bulunur. Buradan

I_n(p) = \frac{n}{p^2(1-p)}

elde edilir.

Cramer-Rao alt sınırının paydasını oluşturmak için

n

hacimli örneklemin Fisher bilgi miktarı gereklidir.

3

Tahmin edilecek

\tau(p) = \frac{p}{1-p}

fonksiyonunun parametre

p

'ye göre türevi (

\tau'(p)

) alınır.

\tau'(p) = \frac{1\cdot(1-p) - p\cdot(-1)}{(1-p)^2} = \frac{1}{(1-p)^2}

Parametrenin bir fonksiyonunun tahmin edicisi için Cramer-Rao alt sınırının payı

[\tau'(p)]^2

ifadesinden oluşur.

4

Hesaplanan değerler, bir fonksiyon için Cramer-Rao alt sınırı formülü olan

\frac{[\tau'(p)]^2}{I_n(p)}

içinde yerine konulur.

CRLB

= \frac{\left(\frac{1}{(1-p)^2}\right)^2}{\frac{n}{p^2(1-p)}} = \frac{1}{(1-p)^4} \cdot \frac{p^2(1-p)}{n} = \frac{p^2}{n(1-p)^3}

Yansız bir tahmin edicinin varyansının alabileceği en küçük değeri (Cramer-Rao alt sınırı) nihai olarak belirlemek için genel formül uygulanır.

Key Concept

Parametrenin Bir Fonksiyonu İçin Cramer-Rao Alt Sınırı

Estimated Time:3m 0s

Question 15Question →

Ortalaması $\mu$ ve varyansı $\sigma^2$ ( $0 < \sigma^2 < \infty$ ) olan bir kitleye ait $X_1, X_2, \dots, X_n$ rastgele örneklemi çekilmiştir. Kitle ortalaması $\mu$ 'yü tahmin etmek amacıyla aşağıdaki üç nokta tahmin edicisi tanımlanmıştır:

$T_1 = \bar{X} = \frac{1}{n} \sum_{i=1}^{n} X_i$
$T_2 = X_1$
$T_3 = \frac{1}{n+2} \sum_{i=1}^{n} X_i$

Bu tahmin edicilerin yansızlık (unbiasedness) ve tutarlılık (consistency) özellikleri ile ilgili aşağıdaki ifadelerden hangisi doğrudur?

T_2

yansız bir tahmin edici olduğu için aynı zamanda tutarlıdır,

T_3

ise yanlı olduğu için tutarsızdır.

T_3

'ün varyansı örneklem çapı (

n

) arttıkça küçülmediği için

T_3

tutarsız bir tahmin edicidir.

T_2

yansız olmasına rağmen varyansı

n \to \infty

için sıfıra gitmediğinden tutarsızdır;

T_3

ise yanlı olmasına karşın tutarlı bir tahmin edicidir.

T_1

ve

T_2

'nin her ikisi de yansız tahmin ediciler oldukları için asimptotik olarak Hata Kareler Ortalamaları (MSE) sıfıra yakınsar.

T_3

'ün Hata Kareler Ortalaması (MSE) hesaplandığında, yan miktarının karesi

n \to \infty

iken sıfıra yakınsamadığı için

T_3

tutarsızdır.

Show answer & explanation

Answer: $T_2$ yansız olmasına rağmen varyansı $n \to \infty$ için sıfıra gitmediğinden tutarsızdır; $T_3$ ise yanlı olmasına karşın tutarlı bir tahmin edicidir.

Answer

T_2

yansız olmasına rağmen varyansı

n \to \infty

için sıfıra gitmediğinden tutarsızdır;

T_3

ise yanlı olmasına karşın tutarlı bir tahmin edicidir.

Tutarlılık için yeter koşul, tahmin edicinin Hata Kareler Ortalamasının (MSE)

n

sonsuza giderken sıfıra yakınsamasıdır.

T_2

tahmin edicisi yansızdır (

Bias=0

) fakat varyansı

\sigma^2

olup

n

'den bağımsızdır. Bu nedenle MSE'si sıfıra gitmez ve tutarsızdır. Öte yandan

T_3

tahmin edicisi yanlıdır (yan miktarı

\frac{-2\mu}{n+2}

), ancak hem varyansı hem de yan miktarının karesi

n \to \infty

iken sıfıra yakınsadığı için MSE sıfıra gider. Bu durum onu asimptotik yansız ve tutarlı yapar. Böylece yansızlığın tutarlılık için gerekli veya yeterli bir koşul olmadığını açıkça görürüz.

Step-by-Step Solution

1

Tahmin edicilerin beklenen değerlerini bularak yansızlık durumlarını incelemek.

E(T_1) = \mu

(yansız),

E(T_2) = E(X_1) = \mu

(yansız),

E(T_3) = \frac{n}{n+2}\mu

(yanlı).

Tutarlılık analizinde kullanılacak Hata Kareler Ortalaması (MSE) hesabı için yan miktarlarını (Bias) belirlemek.

2

Tahmin edicilerin varyanslarını hesaplamak.

Var(T_1) = \frac{\sigma^2}{n}

,

Var(T_2) = \sigma^2

,

Var(T_3) = \frac{n\sigma^2}{(n+2)^2}

.

MSE formülündeki (

MSE = Varyans + Yan^2

) varyans bileşenini elde etmek.

3

n \to \infty

iken MSE limitlerini alarak tutarlılıklarını değerlendirmek.

\lim_{n \to \infty} MSE(T_1) = 0

(tutarlı),

\lim_{n \to \infty} MSE(T_2) = \sigma^2 \neq 0

(tutarsız),

\lim_{n \to \infty} MSE(T_3) = \lim_{n \to \infty} \left( \frac{n\sigma^2 + 4\mu^2}{(n+2)^2} \right) = 0

(tutarlı).

Tutarlılık için yeter koşul olan MSE'nin asimptotik olarak sıfıra gitme prensibini uygulamak.

Key Concept

Yansızlık ve Tutarlılık Arasındaki İlişki

Question 16Question →

$X_1, X_2, \dots, X_n$ , beklenen değeri $\theta$ olan üstel (eksponansiyel) dağılımdan alınmış $n$ birimlik rastgele bir örneklem olsun.

Bir araştırmacı $\theta^2$ parametresini tahmin etmek amacıyla, örneklem ortalamasının karesini kullanarak $T_c = c\bar{X}^2$ formunda bir tahmin edici sınıfı tanımlamıştır ( $c > 0$ bir sabittir).

Araştırmacı, bu sınıf içerisinden Hata Kareler Ortalamasını (MSE) minimum yapan optimal $T_{opt}$ tahmin edicisini seçtiğine göre, seçilen bu tahmin edicinin yan (bias) miktarı aşağıdakilerden hangisidir?

-\frac{2(2n+3)}{(n+2)(n+3)}\theta^2

0

\frac{1}{n}\theta^2

-\theta^2

-\frac{2(2n+1)}{n^2+6n+3}\theta^2

Show answer & explanation

Answer: $-\frac{2(2n+3)}{(n+2)(n+3)}\theta^2$

Answer

Optimal tahmin edicinin yan miktarı

-\frac{2(2n+3)}{(n+2)(n+3)}\theta^2

olarak hesaplanır.

Hata Kareler Ortalamasını (MSE) minimize eden tahmin edici bulunurken denklem

E[(T - \theta^2)^2] = c^2 E[\bar{X}^4] - 2c\theta^2 E[\bar{X}^2] + \theta^4

şeklinde kurulur. Üstel örneklem toplamının Gamma dağılması özelliğinden 2. ve 4. momentler sırasıyla

E[\bar{X}^2] = \frac{n+1}{n}\theta^2

ve

E[\bar{X}^4] = \frac{(n+1)(n+2)(n+3)}{n^3}\theta^4

olarak bulunur. MSE fonksiyonunun

c

'ye göre türevi sıfıra eşitlendiğinde optimal katsayı

c_{opt} = \frac{n^2}{(n+2)(n+3)}

elde edilir. Yan miktarı ise

E[T_{opt}] - \theta^2

formülünden hesaplandığında sonucun negatif bir rasyonel polinom katsayısına sahip olduğu doğru seçenek ortaya çıkar.

Step-by-Step Solution

1

Örneklem ortalamasının karesinin beklenen değerini (

E[\bar{X}^2]

) hesapla.

E[\bar{X}^2] = Var(\bar{X}) + E[\bar{X}]^2 = \frac{\theta^2}{n} + \theta^2 = \frac{n+1}{n}\theta^2

.

Tahmin edicinin yan (bias) miktarını bulmak için birinci momente ihtiyaç vardır.

2

MSE hesabında kullanılacak 4. momenti (

E[\bar{X}^4]

) Gamma dağılımı özelliklerinden türet.

Üstel örneklem toplamı

S = \sum X_i \sim Gamma(n, \theta)

dağılır.

E[S^4] = n(n+1)(n+2)(n+3)\theta^4

. Buradan

E[\bar{X}^4] = \frac{E[S^4]}{n^4} = \frac{(n+1)(n+2)(n+3)}{n^3}\theta^4

.

MSE denkleminde

E[T_c^2] = c^2 E[\bar{X}^4]

terimi yer alır ve bu hesaplama optimizasyon için kritiktir.

3

MSE fonksiyonunu

c

parametresine göre yaz ve türev alarak minimum yapan

c_{opt}

değerini bul.

MSE(c) = E[(c\bar{X}^2 - \theta^2)^2] = c^2 E[\bar{X}^4] - 2c\theta^2 E[\bar{X}^2] + \theta^4

. Türev sıfıra eşitlendiğinde:

c_{opt} = \frac{\theta^2 E[\bar{X}^2]}{E[\bar{X}^4]} = \frac{n^2}{(n+2)(n+3)}

bulunur.

Hata Kareler Ortalaması'nın minimum noktası, tahmin edicinin optimal ölçekleme faktörünü (c) verir.

4

Bulunan

c_{opt}

değeri için tahmin edicinin yan miktarını (Bias) hesapla.

Bias = E[c_{opt}\bar{X}^2] - \theta^2 = c_{opt}\frac{n+1}{n}\theta^2 - \theta^2 = \left[ \frac{n(n+1)}{(n+2)(n+3)} - 1 \right]\theta^2 = -\frac{2(2n+3)}{(n+2)(n+3)}\theta^2

.

Soru bizden yansızlık durumunu değil, minimum MSE'ye sahip tahmin edicinin içerdiği teorik yan miktarını istemektedir.

Key Concept

Hata Kareler Ortalaması (MSE) Minimizasyonu ve Yan-Varyans Ödünleşimi

Alternative Method

MSE(T_c)

fonksiyonunu tanımlarken

E[(T_c - \theta^2)^2]

beklenen değerini doğrudan açmak yerine,

MSE(T_c) = Var(T_c) + [Bias(T_c)]^2

eşitliğini kullanarak ve Varyans hesabını

Var(\bar{X}^2) = E[\bar{X}^4] - (E[\bar{X}^2])^2

üzerinden kurgulayarak optimizasyon yapmak da matematiksel olarak eşdeğerdir.

Estimated Time:3m 0s

Question 17Question →

Bir araştırmacı, $X$ bağımsız değişkeni ile $Y$ bağımlı değişkeni arasındaki doğrusal ilişkiyi modellemek üzere $n = 10$ birimlik bir örneklemden aşağıdaki özet istatistikleri elde etmiştir:

\sum_{i=1}^{10} x_i = 50

\sum_{i=1}^{10} y_i = 80

\sum_{i=1}^{10} x_i^2 = 350

\sum_{i=1}^{10} x_i y_i = 450

Araştırmacı, hata kareler toplamını minimum yapan en küçük kareler yöntemini (EKK) kullanarak $Y_i = \beta_0 + \beta_1 X_i + \varepsilon_i$ modelini tahmin edecektir.

Buna göre, eğim parametresinin en küçük kareler tahmin edicisi ( $\hat{\beta}_1$ ) aşağıdakilerden hangisidir?

0.5

-0.5

1.6

2.0

5.5

Show answer & explanation

Answer: 0.5

Answer

Modelin eğim parametresi olan 0.5 değeri doğru cevaptır.

En küçük kareler yöntemi (EKK), gözlenen değerler ile tahmin edilen değerler arasındaki hata terimlerinin kareleri toplamını (

\sum e_i^2

) minimize etmeyi amaçlar. Bu minimizasyon problemi çözüldüğünde elde edilen normal denklemler sonucunda basit doğrusal regresyonda eğim parametresi

\hat{\beta}_1 = \frac{n \sum x_i y_i - (\sum x_i)(\sum y_i)}{n \sum x_i^2 - (\sum x_i)^2}

veya

S_{xy} / S_{xx}

şeklinde formülleştirilir. Verilen istatistikler formülde yerine konduğunda pay

50

, payda ise

100

olarak bulunur. Bu oran

0.5

değerine eşittir.

Step-by-Step Solution

1

En küçük kareler yöntemi eğim formülünün (

S_{xy} / S_{xx}

) gerektirdiği sapma kareler ve çarpımlar toplamı formüllerini yazmak.

S_{xy} = \sum x_i y_i - \frac{(\sum x_i)(\sum y_i)}{n}

ve

S_{xx} = \sum x_i^2 - \frac{(\sum x_i)^2}{n}

Hata kareler toplamını (

\sum \varepsilon_i^2

) minimum yapan normal denklemlerin çözümü bu matematiksel oranı verir.

2

Verilen özet istatistikleri

S_{xy}

(çarpımlar toplamı) formülünde yerine koymak.

S_{xy} = 450 - \frac{50 \times 80}{10} = 450 - 400 = 50

Eğim katsayısının pay kısmını (kovaryansla orantılı değişimi) bulmak.

3

Verilen özet istatistikleri

S_{xx}

(kareler toplamı) formülünde yerine koymak.

S_{xx} = 350 - \frac{50^2}{10} = 350 - \frac{2500}{10} = 350 - 250 = 100

Eğim katsayısının payda kısmını (X'in kendi varyansıyla orantılı değişimi) bulmak.

4

Eğim tahmin edicisini (

\hat{\beta}_1

) hesaplamak.

\hat{\beta}_1 = \frac{S_{xy}}{S_{xx}} = \frac{50}{100} = 0.5

Değişkenler arası ilişkinin yönünü ve büyüklüğünü belirten en küçük kareler oranını elde etmek.

Key Concept

En Küçük Kareler Yöntemi ile Basit Doğrusal Regresyon Normal Denklemleri

Estimated Time:2m 0s

Question 18Question →

Bir araştırmacı, $n$ gözlemden oluşan bir veri seti kullanarak $Y_i = \beta_0 + \beta_1 x_i + \epsilon_i$ basit doğrusal regresyon modelini En Küçük Kareler (EKK) yöntemiyle tahmin etmiştir. Bu tahmin sonucunda regresyon denklemini $\hat{Y}_i = 4 + 2x_i$ ve Hata Kareler Toplamını (SSE) $100$ olarak bulmuştur.

Araştırmacı daha sonra veri setindeki değişkenler üzerinde doğrusal bir dönüşüm uygulayarak yeni değişkenleri aşağıdaki gibi tanımlamıştır:

Y_i^* = 3Y_i - 2

x_i^* = \frac{x_i}{2} + 5

Bu yeni değişkenler kullanılarak $Y_i^* = \alpha_0 + \alpha_1 x_i^* + u_i$ modeli EKK yöntemiyle tahmin edildiğinde, yeni modelin eğim katsayısı tahmin edicisi ( $\hat{\alpha}_1$ ) ve Hata Kareler Toplamı ( $SSE^*$ ) değerleri sırasıyla aşağıdakilerden hangisidir?

12

ve

900

12

ve

100

6

ve

300

3

ve

900

3

ve

300

Show answer & explanation

Answer: $12$ ve $900$

Answer

Yeni modelin eğim katsayısı

12

ve Hata Kareler Toplamı (

SSE^*

)

900

olmalıdır.

EKK eğim katsayısı formülünde, bağımlı ve bağımsız değişkenlerin ortalamadan sapmaları kullanılır. Yeni değişkenler için ortalamadan sapmalar alındığında sabit terimler (

+5

ve

-2

) birbirini götürür; geriye sadece çarpımsal katsayılar kalır:

Y_i^* - \bar{Y}^* = 3(Y_i - \bar{Y})

ve

x_i^* - \bar{x}^* = 0.5(x_i - \bar{x})

. Formülde yerine konulduğunda yeni eğim katsayısı

\hat{\alpha}_1 = (3 / 0.5) \cdot \hat{\beta}_1 = 6 \cdot 2 = 12

olur. Hata terimleri de modelin denklemi gereği bağımlı değişkenle aynı oranda (

3

katı) ölçeklenir (

e_i^* = 3e_i

). Hata Kareler Toplamı (SSE) hataların karelerinin toplamı olduğu için yeni modelin SSE'si orijinalin

3^2 = 9

katına çıkar. Dolayısıyla yeni

SSE^* = 9 \cdot 100 = 900

olarak hesaplanır.

Step-by-Step Solution

1

Eğim katsayısı tahmin edicisinin (

\hat{\alpha}_1

) matematiksel formülünü yeni değişkenler cinsinden yazmak.

\hat{\alpha}_1 = \frac{\sum (x_i^* - \bar{x}^*)(Y_i^* - \bar{Y}^*)}{\sum (x_i^* - \bar{x}^*)^2}

Dönüşümün etkisini görebilmek için tahmin edicinin tanımlayıcı EKK denklemi kurulmalıdır.

2

Yeni değişkenlerin ortalamadan sapma değerlerini bulmak.

Y_i^* - \bar{Y}^* = 3(Y_i - \bar{Y})

ve

x_i^* - \bar{x}^* = 0.5(x_i - \bar{x})

Doğrusal dönüşümlerde (eklenen sabitler ortalamadan sapmada birbirini götüreceği için) sadece çarpımsal faktörler kalır.

3

Sapma değerlerini formüle yerleştirerek yeni eğim katsayısını hesaplamak.

\hat{\alpha}_1 = \frac{3 \cdot 0.5 \sum (x_i - \bar{x})(Y_i - \bar{Y})}{(0.5)^2 \sum (x_i - \bar{x})^2} = \frac{1.5}{0.25} \hat{\beta}_1 = 6 \cdot 2 = 12

Bağımsız değişkenin katsayısı paydada karesiyle yer alırken pay kısmında doğrusal olarak bulunur, bu da oransal değişimi verir.

4

Yeni modelin kalıntı (hata) terimleri arasındaki ilişkiyi tespit etmek.

\hat{Y}_i^* = 3\hat{Y}_i - 2

olduğundan, tahmin hatası

e_i^* = Y_i^* - \hat{Y}_i^* = 3(Y_i - \hat{Y}_i) = 3e_i

olur.

SSE değerini hesaplamak için yeni hata terimlerinin orijinallerle nasıl ölçeklendiğinin bulunması şarttır.

5

Yeni Hata Kareler Toplamını (

SSE^*

) orijinal SSE değeri üzerinden hesaplamak.

SSE^* = \sum (e_i^*)^2 = \sum (3e_i)^2 = 9 \sum e_i^2 = 9 \cdot 100 = 900

Kalıntı terimleri sabit bir sayı ile çarpıldığında, karelerinin toplamı bu sabitin karesi kadar büyüyecektir.

Key Concept

En Küçük Kareler Tahmin Edicilerinin Doğrusal Dönüşüm Altındaki Matematiksel Özellikleri

Alternative Method

Dönüşümler matris formunda (

Y^* = 3Y - 2J

ve

X^* = 0.5X + 5J

) yazılarak Genelleştirilmiş EKK (GLS) teorisine benzer şekilde

\hat{\beta}^* = (X^{*T}X^*)^{-1}X^{*T}Y^*

matris çarpımları üzerinden analitik olarak da gösterilebilir.

Estimated Time:3m 0s

Question 19Question →

Basit doğrusal regresyon analizinde, $Y$ 'nin $X$ değişkeni üzerine regresyon modeli $Y_i = \beta_0 + \beta_1 X_i + \epsilon_i$ şeklinde tanımlanmış ve En Küçük Kareler (EKK) tahmini sonucunda hata kareler toplamı $HKT_{Y|X}$ olarak hesaplanmıştır.

Daha sonra aynı gözlem değerleri kullanılarak, bağımlı ve bağımsız değişkenlerin rolleri değiştirilmiş ve $X$ 'in $Y$ üzerine regresyon modeli $X_i = \alpha_0 + \alpha_1 Y_i + \nu_i$ şeklinde kurularak EKK yöntemiyle yeni bir hata kareler toplamı olan $HKT_{X|Y}$ elde edilmiştir.

Veri setindeki değişkenlerin varyanslarının sıfırdan farklı olduğu bilindiğine göre, hesaplanan hata kareler toplamlarının oranı olan $\frac{HKT_{Y|X}}{HKT_{X|Y}}$ aşağıdakilerden hangisine eşittir?

(Not: $S_{XX} = \sum_{i=1}^n (X_i - \bar{X})^2$ ve $S_{YY} = \sum_{i=1}^n (Y_i - \bar{Y})^2$ olarak tanımlanmıştır.)

\frac{S_{XY}^2}{S_{XX}S_{YY}}

1

\frac{S_{YY}}{S_{XX}}

\frac{S_{XX}}{S_{YY}}

\frac{S_{YY}^2}{S_{XX}^2}

Show answer & explanation

Answer: $\frac{S_{YY}}{S_{XX}}$

Answer

İki modelin hata kareler toplamlarının oranı

\frac{S_{YY}}{S_{XX}}

ifadesine eşittir.

En Küçük Kareler (EKK) yönteminde hata kareler toplamı (HKT), determinasyon katsayısı (

r^2

) kullanılarak daha pratik şekilde ifade edilebilir.

Y

'nin

X

üzerine regresyonunda

HKT_{Y|X} = S_{YY}(1-r^2)

,

X

'in

Y

üzerine regresyonunda ise

HKT_{X|Y} = S_{XX}(1-r^2)

formülü geçerlidir. Korelasyon katsayısı (

r

) değişkenlerin sırasından bağımsız ve simetrik olduğu için her iki modelde de aynıdır. Modellerin hata kareler toplamları oranlandığında ortak olan

(1-r^2)

çarpanları sadeleşir ve geriye doğrudan

\frac{S_{YY}}{S_{XX}}

kalır.

Step-by-Step Solution

1

Y

'nin

X

üzerine regresyonu için Hata Kareler Toplamı (HKT) formülünü yazmak

HKT_{Y|X} = S_{YY} - \frac{S_{XY}^2}{S_{XX}}

EKK yönteminde hata kareler toplamı, bağımlı değişkenin toplam kareler sapmasından (

S_{YY}

), regresyon kareler sapmasının çıkarılmasıyla elde edilir.

2

X

'in

Y

üzerine regresyonu için Hata Kareler Toplamı formülünü uyarlamak

HKT_{X|Y} = S_{XX} - \frac{S_{XY}^2}{S_{YY}}

Bağımlı ve bağımsız değişkenler yer değiştirdiğinde, EKK formüllerindeki

X

ve

Y

ifadeleri de simetrik olarak yer değiştirir.

3

İki modeli ortak paydada düzenleyerek oranlamak

\frac{HKT_{Y|X}}{HKT_{X|Y}} = \frac{\frac{S_{XX}S_{YY} - S_{XY}^2}{S_{XX}}}{\frac{S_{XX}S_{YY} - S_{XY}^2}{S_{YY}}}

Oranlama işlemi sırasında pay kısımlarındaki ifadelerin ortak olduğunu (

S_{XX}S_{YY} - S_{XY}^2

) açıkça görmek için kesirler düzenlenir.

4

Ortak terimleri sadeleştirerek nihai orana ulaşmak

\frac{HKT_{Y|X}}{HKT_{X|Y}} = \frac{S_{YY}}{S_{XX}}

Ana kesirdeki bölme işlemi yapıldığında ortak terimler birbirini götürür ve paydadaki

S_{YY}

yukarı çarpım olarak geçer.

Key Concept

EKK Yönteminde Hata Kareler Toplamının Özellikleri ve Değişken Simetrisi

Alternative Method

Alternatif olarak, determinasyon katsayısı

r^2

kullanılarak

HKT = Toplam Kareler \times (1-r^2)

özelliğinden doğrudan tek adımda

S_{YY}(1-r^2) / S_{XX}(1-r^2)

yazılarak sadeleştirme ile çözüme ulaşılabilir.

Estimated Time:2m 0s

Question 20Question →

Bir araştırmacı, $\theta > 0$ parametresi ile modellenen bir kitleye ait $X$ rastgele değişkenini gözlemlemektedir. $X$ 'in olasılık yoğunluk fonksiyonu

f(x; \theta) = \begin{cases} \frac{2x}{\theta^2}, & 0 < x < \theta \\ 0, & \text{diğer durumlarda} \end{cases}

olarak verilmiştir.

Araştırmacı, $\theta$ parametresinin tahmini için $\delta(X) = cX$ formunda bir tahmin edici sınıfı kullanacaktır. Tahmin edicinin performansı, ölçekten bağımsız karesel kayıp fonksiyonu olan

L(\theta, \delta) = \left( \frac{\delta - \theta}{\theta} \right)^2

kullanılarak değerlendirilecektir.

Buna göre, bu tahmin edicinin risk fonksiyonunu (beklenen kaybını) tüm $\theta$ değerleri için minimum yapan $c$ sabiti aşağıdakilerden hangisidir?

1

\frac{5}{4}

\frac{4}{3}

\frac{3}{2}

2

Show answer & explanation

Answer: $\frac{4}{3}$

Answer

Risk fonksiyonunu tüm

\theta

değerleri için minimum yapan sabit

\frac{4}{3}

'tür.

Doğru yanıt,

L(\theta, \delta)

kayıp fonksiyonunun beklenen değerini (risk fonksiyonunu)

X

'in yoğunluk fonksiyonuna göre hesaplayıp

c

parametresine göre türevini alarak minimize etmemizle elde edilen

\frac{4}{3}

değeridir.

Step-by-Step Solution

1

Kayıp fonksiyonunun beklenen değerini alarak risk fonksiyonunu tanımla.

R(\theta, c) = E[L(\theta, \delta)] = E\left[ \left( \frac{cX - \theta}{\theta} \right)^2 \right]

Risk fonksiyonu, bir tahmin edicinin seçilen kayıp fonksiyonu altındaki beklenen kaybıdır.

2

Karesel ifadeyi açarak risk fonksiyonunu

X

'in momentleri cinsinden yaz.

R(\theta, c) = E\left[ \frac{c^2X^2 - 2c\theta X + \theta^2}{\theta^2} \right] = \frac{c^2}{\theta^2}E[X^2] - \frac{2c}{\theta}E[X] + 1

Beklenen değer operatörünün doğrusallık özelliğini kullanarak işlemi ayrıştırmak gerekir.

3

Verilen olasılık yoğunluk fonksiyonunu kullanarak birinci ve ikinci momentleri (

E[X]

ve

E[X^2]

) hesapla.

E[X] = \int_0^\theta x \frac{2x}{\theta^2} dx = \frac{2\theta}{3}

ve

E[X^2] = \int_0^\theta x^2 \frac{2x}{\theta^2} dx = \frac{\theta^2}{2}

Formüldeki terimleri bulmak için ilgili dağılımın integral hesapları tamamlanmalıdır.

4

Bulunan momentleri risk fonksiyonunda yerine yaz ve basitleştir.

R(\theta, c) = \frac{c^2}{\theta^2}\left(\frac{\theta^2}{2}\right) - \frac{2c}{\theta}\left(\frac{2\theta}{3}\right) + 1 = \frac{c^2}{2} - \frac{4c}{3} + 1

Risk fonksiyonu böylece

\theta

'dan bağımsız ve sadece

c

'ye bağlı bir ikinci dereceden fonksiyona dönüşür.

5

Risk fonksiyonunu

c

'ye göre minimize et.

\frac{d}{dc}R(\theta, c) = c - \frac{4}{3} = 0 \implies c = \frac{4}{3}

Beklenen kaybı en aza indiren en iyi (optimal) katsayıyı bulmak için birinci türev sıfıra eşitlenir.

Key Concept

Ölçekten bağımsız karesel kayıp altında risk fonksiyonu hesabı ve minimizasyonu

Estimated Time:2m 0s

Parametre Tahmin Yöntemleri

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Alternative Method

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Alternative Method

Answer

Step-by-Step Solution

Key Concept

Common Mistakes

Alternative Method