olsun. nın tahmini için, T 1, n X (1) 1/ n
ve T 2, n X n 1
tahmin edicileri önerilmiştir.
Bu tahmin edicilerin yansızlık, yeterlilik, tutarlılık özelliklerini inceleyiniz. Her iki tahmin edicinin varyanslarını hesaplayıp karşılaştırınız.
Çözüm: Faktörizasyon teoreminden T 1,n
tahmin edicisi için yeterlidir. X (1)
rasgele değişkeninin olasılık yoğunluk fonksiyonu,
(1)
( ) ,
; 0 , . .
n x
X n e x
f x
d y
olup beklenen değer ve varyansı ( (1) ) 1/
E X n
(1) 2
( ) 1/
Var X n dir (Örnek 7.5.2a). T 1, n X (1) 1/ n
tahmin edicisi için yansız olup varyansı 1/ n 2 dir.
Buradan, T 1,n yeterli, yansız ve
1, 2
lim ( n ) lim (1/ ) 0
n Var T n n
olduğundan T 1,n tahmin edicisi için tutarlıdır (Teorem (7.5.1)). Diğer taraftan,
( )
( ) ( ) x 1
x x
E X x f x dx x e dx
2 2 2 ( ) 2 2
( ) ( ) x 2 2 ( 1) 1
x x
E X x f x dx x e dx
den
( 2 ) ( ( )) 2 [( 1) 2 1] ( 1) 2 1
Var X E X E X dir. Buradan,
( 2, n ) ( n 1) E T E X
ve Var T ( 2, n ) Var X ( n 1) Var X ( n ) Var X ( ) / n 1/ n
olur. Buna göre, T 2,n de için yansız ve
lim ( 2, n ) lim (1/ ) 0
n Var T n n
olduğundan T 2,n de için tutarlıdır (Teorem (7.5.1)). Bununla birlikte, X X 1 , 2 , , X n lerin ortak olasılık yoğunluk fonksiyonu
(1)
( )
{ }
( ; ) n x n x ( )
f x e I x
olduğundan faktörizasyon teoremine göre, X (1) min{ , X X 1 2 , , X n } tahmin edicisi için yeterlidir. Buradan, T 1, n X (1) 1/ n
de için yeterlidir. Ancak, T 2, n X n 1 tahmin edicisi için yeterli değildir. Ayrıca,
1 2 2
( ) (1/ ) (1/ ) ( ) Var T n n Var T
dir. Bunun nedeni, T 1 tahmin edcicisinin yeterli olmasıdır. Ayrıca, gösterilebilir ki, T 1 aynı zamanda tam olup, bütün yansız tahmin ediciler arasında en küçük varyansa sahiptir.
7.10.2 ( X Y i , ), i i 1, 2,3,..., n
ortak olasılık yoğunluk fonksiyonu
, ; 2 2 ( ) / , 0
0 , . .
e x y x y
f x y
d y
olan kitleden bir örneklem olsun.
a) Y rasgele değişkeninin beklenen değerini ve varyansını bulunuz.
b) ( | E Y X x ) koşullu beklenen değerini hesaplayınız.
c) ( X Y i , ), i i 1, 2,3,..., n
örneklemine bağlı olarak için yeterli bir tahmin edici bulunuz.
d) Bu yeterli tahmin ediciye bağlı olarak nın yansız bir tahmin edicisini bulunuz.
e) Bu yansız tahmin edici için tutarlı mıdır?
Çözüm: a)
( )/ / 2 /
2 0
2 2
( , ; ) [ ]
X
y x y y y
x D x
f x y dx e dx e e
olduğundan Y nin marjinal olasılık yoğunluk fonksiyonu,
/ 2 /
2 [ ] , 0
( ; )
0 , . .
y y
Y e e y
f y
d y
şeklindedir. Buradan, Y nin beklenen değeri
/ 2 /
0 0
2 3
( ) 2
y y
Y
y y
E Y y f y dy y e e dy
ikinci momenti de
2 2 2 / 2 / 2
0 0
2 7
( ) ( )
2
y y
Y
y y
E Y y f y dy y e e dy
olarak hesaplanmıştır. Rasgele değişkenin varyansı ise,
2 2 2 2 2
( ) ( ) [ ( )] (7 / 2) [3 / 2] (5 / 4) Var Y E Y E Y dır.
b) X rasgele değişkeninin marjinal olasılık yoğunluk fonksiyonu x 0 için,
2 2 ( ) / 2 2 /
( ; ) , ;
Y
x y x
X
y D y x
f x f x y dy e dy e
olup, X x verildiğinde Y nin koşullu olasılık yoğunluk fonksiyonu y için, x
2 ( )/
( )/
| 2 /
( , ; ) (2 / ) 1
( | ; )
( ; ) (2 / )
x y y x
Y X x x
X
f x y e
f y x e
f x e
şeklindedir. Buradan, X x verildiğinde Y nin koşullu beklenen değeri
|
( ) / / /
| ( | ; )
1 1
Y X x y x
y x x y
y x y x
E Y X x y f y x dy
y e dy e y e dy x
olarak bulunmuştur.
c) Ortak olasılık yoğunluk fonksiyonu,
2 1
1 1
( , ) 2 ve n ( ( , ); ) n exp n i i
i
h x y g T x y x y
için
2 1
1
2 1
( , ; ) n ( , ; ) i i n n exp n ( i i ) ( ( , ); ) ( , )
i i
f x y f x y x y g T x y h x y
şeklinde yazılabildiğinden, 1
( , ) n ( i i )
i
T X Y X X
tahmin edicisi için yeterlidir.
d) X Üstel ~ ( / 2) olup ( ) E X / 2 ve ( ) 3 / 2 E Y dir. Buradan,
1 1 1
( ) ( ) 2
n n n
i i i i
i i i
E T E X Y E X E Y n E X E Y n
olduğundan,
*
1
1 2
n
n i i
i
T X Y
n
tahmin edicisi için yansızdır.
e) X ile Y arasındaki kovaryans için ( E XY beklenen değeri, )
2 ( ) /
0 0 0 0
/ / 2
2 0 0
( , ) 2
2
y y
x y
y x y x
y y x
y x
E X Y xy f x y dx dy x y e dx dy
ye x e dx dy
olarak hesaplanmıştır. Ayrıca ( ) 3 / 2 E Y , Var Y ( ) (5 / 4) 2 ve X Üstel ~ ( / 2) ise
( ) / 2
E X ve Var X ( ) 2 / 4 dür. Böylece X ile Y arasındaki kovaryans
2 2 2
( , ) ( ) ( ) ( ) 3 / 4 / 4
Cov X Y E X Y E X E Y olup X Y nin varyansı
2 2 2 2
( ) ( ) ( ) 2 , [ / 4] [5 / 4] 2[ / 4] 2
Var X Y Var X Var X Cov X Y
olarak bulunur. Buradan yansız tahmin edicinin varyansı da
* 2 2 2 2
1 1 1
1 1 1
2 4 4 2 2
n n n
n i i i i
i i i
Var T Var X Y Var X Y
n n n n
dır. T * tahmin edicisi yansız ve
* 2
lim ( ) n lim ( / (2 )) 0
n Var T n n
olduğundan Teorem (7.5.1) e göre, T n * tahmin edicisi için tutarlıdır.
7.10.3 X X 1 , 2 , , X n beklenen değeri , varyansı 2 olan normal dağılımdan bir örneklem olsun. n 2 k olmak üzere 2 için,
2 2
2 2 1
1
1 ( )
2
k
k i i
i
X X
k
tahmin edicisini yazalım. k 2 tahmin edicisi 2 için yansız ve tutarlı mıdır?
Çözüm: i 1, 2,3,..., k için Z i X 2 i X 2 1 i
ler beklenen değeri 0 , varyansı 2 2
olan normal dağılımlı bağımsız rasgele değişkenlerdir. Buna göre, Z i 2 / 2 2 ~ 1 2 olup,
2 2
2 2 2 2 2
2 2 1 2 2 1
1 1
1 2
( ) ( ) / 2 ~
2 2
k k
k i i i i k
i i
X X X X
k k k
elde edilir. Ki-kare dağılımının özelliklerinden k 2 nin beklenen değeri ile varyansı
2 2 2 2 2
2 2 1
1
( ) 1 ( ) ( )
2
k
k i i k
i
E E X X E
k k
4 4 4
2 2 2
2 2 1 2 2
1
1 2 2
( ) ( ) ( )
2
k
k i i k
i
Var Var X X Var k
k k k k
olup, k iken Var ( k 2 ) 2 4 / k 0 bulunur. Buna göre, tahmin edicisi k 2 2 için
tutarlıdır (Teorem (7.5.1)).
7.10.4 X X 1 , 2 , , X n beklenen değeri olan Poisson dağılımından bir örneklem ve 2
n k olsun. parametresinin tahmini için önerilen
2 2 1 2 1
1 ( )
2
k
k i i
i
X X
k
tahmin edicinin yansız olduğunu gösteriniz ve varyansını hesaplayınız.
Çözüm: Poisson dağılımının beklenen değeri ve varyansı birbirine eşittir. Buna göre, 1, 2,3,...,
i k için Z i X 2 i X 2 1 i
rasgele değişkenleri bağımsız ve E Z ( ) 0 i , ( ) 2 i
Var Z dır. Buradan da
2 2
2 2 1 2 2 1 2 2 1
( i ) ( i i ) ( i i ) ( i ) ( i ) 2
E Z E X X Var X X Var X Var X bulunur. Buna göre,
2 2
2 2 1 2 2 1
1 1 1
1 1 1
( ) ( ) ( ) 2
2 2 2
k k k
k i i i i
i i i
E E X X E X X
k k k
olup k
, için yansızdır. Benzer şekilde, Z i X 2 i X 2 1 i
rasgele değişkenleri
bağımsız olup beklenen değerleri ve varyansları aynı olduğundan k
nin varyansı
2 2 2
2 2 1 2 2 2 1 2 2 1
1 1
1 1
( ) ( ) ( ) [( ) ]
2 4 4
k k
k i i i i
i i
Var Var X X Var X X k Var X X
k k k
dir. Buradan, Var ( k ) için
2 1 2
(( ) )
Var X X
değerinin hesaplanması gerekir. Bunun için
2 4 2 2 4 2
2 1 2 1 2 1 2 1
(( ) ) (( ) ) [ ( ) ] (( ) ) [2 ]
Var X X E X X E X X E X X
eşitliğinden
2 1 2
(( ) )
Var X X
için
2 1 4
(( ) )
E X X
beklenen değerinin hesaplanması yeterlidir. X ~ Poisson ( ) için ( E g X ( )) E Xg X ( ( 1)) eşitliği kullanılarak, Poisson dağılımının ilk dört momenti,
( )
E X , E X ( 2 ) 2 ,
3 3 2
( ) 3
E X , E X ( 4 ) 4 6 3 7 2
olarak hesaplanmıştır. Ayrıca, X 1 ve X 2 aynı dağılımlı olduğundan E X ( 1 X 2 ) 4 değeri
4 4 3 2 2 3 4
1 2 1 1 2 1 2 1 2 2
4 3 2 2
1 1 2 1
4 3 2 3 2 2 2 2
( ) ( ) 4 ( ) ( ) 6 ( ) ( ) 4 ( ) ( ) ( )
2 ( ) 8 ( ) ( ) 6[ ( )]
2[ 6 7 ] 8 [ 3 ] 6[ ] 12 2
E X X E X E X E X E X E X E X E X E X
E X E X E X E X
olarak bulunmuştur. Dolayısı ile,
4
2 2 2
2 1 1 2
(( ) ) [2 ] 8 2
Var X X E X X olup k iken,
2 2
2 1
2
8 2
( ) (( ) ) 0
4 4
k k
Var Var X X
k k
dır. Buna göre, k tahmin edicisi için tutarlıdır.
7.10.5 X X 1 , 2 , , X n olasılık yoğunluk fonksiyonu,
; 1/ 2 , 1 1
0 , . . f x x
d y
olan kitleden bir örneklem olsun. Buna göre, a) için yeterli bir tahmin edici bulunuz.
b)
( ) (1) 1
2 1
n n
X X n
W n
olmak üzere bütün lar için E W ( n ) 0 olduğunu gösteriniz.
Çözüm: X X 1 , 2 , , X n lerin ortak olasılık yoğunluk fonksiyonu,
( 1, 1) ( 1, 1)
( ; ) 2 { n (min{ })}{ i (max{ })} i f x I x I x
olarak yazılabilir. Ayrıca, i 1, 2,3,..., n için
1 1
( 1) min { } j i max{ } ( j 1)
j n x x j n x
olduğundan T X ( ) ( X (1) , X ( ) n )
tahmin edicisi için yeterlidir.
b) R X ( ) n X (1)
örneklem genişliği istatistiğinin dağılımını bulalım. X in dağılım fonksiyonu, 1 x 1 için,
1
1 1
( ) ( )
2 2
x x
F x P X x dt
olup X (1)
ve X ( ) n
nin ortak olasılık yoğunluk fonksiyonu için, 1 x y 1
(1) ( )
2 2
, ( 1)
( , ; ) ( 1) ( ) ( )[ ( ) ( )] [ ]
n 2
n n
X X n
f x y n n f x f y F y F x n n y x
eşitliğinden,
(1) ( )
2 ,
( 1)
, 1 1
( , ; ) 2
0 , . .
n
n X X n
n n y x x y
f x y
d y
olarak yazılabilir. R X ( ) n X (1)
ve V ( X (1) X ( ) n ) / 2
denirse ters dönüşümler,
(1) / 2
X R V
ve X ( ) n R V / 2
olup R ve V nin ortak olasılık yoğunluk fonksiyonu (Jacobien matrisinin determinantı 1 dir),
2
, ( , ) ( 1) / 2 , 1 / 2 1 / 2; 0 2
0 , . .
n n
R V n n r r v r r
f r v
d y
dir. Buradan, R nin marjinal olasılık yoğunluk fonksiyonu da
1 / 2 1 / 2
2 2
, ,
1 / 2 1 / 2
( , ) ( 1) / 2 ( , ) ( 1) (2 ) / 2
r r
n n n n
R V R V
v r v r
f r v dv n n r f r v dv n n r r
integralinin değerinden
1 / 2 2
, 1 / 2
( 1) (2 ) / 2 , 0 2
( ) ( , )
0 , . .
r n n
R V
v r
n n r r r
f r f r v dv
d y
R
olarak elde edilir. Ayrıca, R nin beklenen değeri,
2 2 2 1 2 2 1 2
0 0 0 0
1 1
2
( 1) ( 1)
( ) (2 ) 2
2 2
( 1) 2 2 1 1 1
2 ( 1) 2
1 1 1
2
n n n
R
r r r r
n n
n n n n
E r f r dr r r dr r dr r dr
n n n
n n n n n n n
R
olup bütün lar için,
( ) (1) 1
2 1 0
X n X n
E n
elde edilir. Buradan, için yeterli olan ( X (1) , X ( ) n )
nin öyle bir fonksiyonu vardır ki, beklenen değeri bütün lar için sıfırdır. Buradaki beklenen değerin parametreye bağlı olmamasının nedeni, X ( ) n X (1)
istatistiğinin dağılımının parametreye bağlı olmamasıdır.
7.10.6 X X 1 , 2 , , X n rasgele değişkenleri bağımsız, E X ( i ) i ve Var X ( i ) 2 olsun. parametresini tahmin etmek için,
1 1, 2
1 1
ˆ n n
n i
i i
i i X
ve
1
2, 1 1
ˆ n n
n i
i i
i X
tahmin edicileri önerilmektedir. Bu tahmin edicilerin beklenen değerlerini ve varyanslarını hesaplayınız. Hangisinin varyansı daha küçüktür?
Çözüm: Önce beklenen değerleri hesaplayalım. Tahmin edicilerin beklenen değerleri,
1, 2 1 2 1 2 1 2 1
1 1 1 1 1 1
ˆ n n n n n n
n i
i i i i i i
E i i E X i i i i i
2, 1 1 1
1 1 1 1 1 1
ˆ n n n n n n
n i
i i i i i i
E i E X i i i i
olup her iki tahmin edici de için yansızdır. Diğer taraftan varyanslar,
2 2 1 2
2 2 2 2 2 2
1, 1 1 1 1 1
ˆ 6
( ) ( )
( 1)(2 1)
n n n n n
n i
i i i i i
Var i E i X i i i
n n n
ve
2 2 2 2
2 2
2, 1 1 1 1 1
ˆ 2
( )
1
n n n n n
n i
i i i i i
Var i Var X i n i
n
şeklindedir. a (1, 2,3,..., ) n
ve b (1,1,1,...,1)
için Cauchy-Schwartz eşitsizliği ( a b ) 2 ( a a b b ) ( )
şeklinde yazılır. Buradan,
2
1 1
, ,
n n
i i
a b i a a i b b n
değerleri yerine konursa
2 2 2
2 2 2 1, 2,
2 2
1 1
1 1 1 1
1 ( ˆ ) ( ˆ )
n n
n n
n n n n
i i
i i i i
n n
i i n Var Var
i i i i
elde edilir. Yani, ˆ 1,
n
tahmin edicisi ˆ 2,
n
tahmin edicisine göre daha etkindir.
7.10.7 X X 1 , 2 , , X n beklenen değeri 1 , varyansı 2 olan normal dağılımdan bir
örneklem ve bu örneklemden bağımsız Y Y 1 2 , , , Y m de N ( 2 , 2 ) dağılımından başka bir örneklem olsun. 2 nin en çok olabilirlik tahmin edicisini bulunuz. Bu tahmin edicinin beklenen değeri ile varyansını hesaplayınız.
Çözüm: 1 , 2 ve 2 nin olabilirlik fonksiyonu,
2 2 2
1 2 1 2
1 1
/2 /2
2 2
1 2
2 2 2 2
1 1
( , , ; , ) ( ; , ) ( ; , )
1 1 1 1
exp ( ) exp ( )
2 2 2 2
n m
X i Y j
i j
n n m m
i j
i j
L X x Y y f x f y
x y
( )/2
2 2
1 2
2 2
1 1
1 1
exp ( ) ( )
2 2
n m n m
i j
i j
x y
dir. Buradan, log-olabilirlik fonksiyonu,
2 2 2 2
1 2 2 1 2
1 1
( , , ) ln(2 ) ln( ) 1 ( ) ( )
2 2 2
n m
i j
i j
n m n m
x y
şeklinde olup kısmi türevler,
2 2
1 2 1 2
1 2
2 2
1 1 2 1
( , , ) 1 ( , , ) 1
( ) , ( )
n m
i j
i j
x y
2 2 2
1 2
1 2
2 2 4
1 1
( , , ) 1
( ) ( )
2 2
n m
i j
i j
n m x y
şeklindedir. İlk iki türevin sıfıra eşitlenmesinden,
2 1 1
1 n ( i ) 0
i
x
2 2
1
1 m ( j ) 0
j
y
eşitlikleri elde edilir. Buradan, 1
ve 2
parametrelerinin en çok olabilirlik tahmin
edicileri (ikinci türevlere de bakılarak) ˆ 1 X n
ve ˆ 2 Y m olarak elde edilmiştir. Bu çözümlerin üçüncü kısmi türevde yerine yazılıp sıfıra eşitlenmesi ile 2 nin en çok olabilirlik tahmin edicisi de,
2 2 2
, 1 1
ˆ n m 1 n ( i n ) m ( j m )
i j
X X Y Y
n m
olarak bulunmuştur. İkinci türevlere bakıldığında bulunan sonuçların maksimum olduğu görülür. Şimdi, bu tahmin edicinin beklenen değer ve varyansını hesaplayalım. Kolayca görüldüğü gibi 2 nin en çok olabilirlik tahmin edicisi basit aritmetik işlemlerden sonra,
2 2 2 2 2
, , ,
1 1
1 1
ˆ n m n ( i n ) m ( j m ) ( 1) n X ( 1) m Y
i j
X X Y Y n S m S
n m n m
olarak yazılır. Normal dağılımın özelliklerinden E S ( n X 2 , ) E S ( m Y 2 , ) 2 olup varyanslar,
2 4 2 4
, ,
( n X ) 2 / ( 1) , ( m Y ) 2 / ( 1)
Var S n Var S m
dir. Ayrıca, iki örneklem birbirinden bağımsız olduğundan S n X 2 , ve S m Y 2 , de bağımsızdır.
Dolayısı ile, ˆ n m 2 , nin beklenen değeri
2 2 2 2
, 1 , , 2
( ˆ n m ) ( 1) ( n X ) ( 1) ( m Y ) n m
E n E S m E S
n m n m
olur. n m için tahmin edicinin beklenen değerinin E ( ˆ n 2 ) ( n 1) 2 / n olduğu açıktır.
Benzer şekilde,
2 2 2 2 2 2
, , ,
( ˆ n m ) ( ) ( 1) ( n X ) ( 1) ( m Y ) Var n n n Var S m Var S
2 2 4 2 4 4
2
2 ( 2)
( ) ( 1) 2 / ( 1) ( 1) 2 / ( 1)
( )
n m n n m m n m
n m
dir.
7.10.8 X X 1 , 2 , , X n olasılık yoğunluk fonksiyonu ( ; ) f x olan kitleden alınan bir örneklem olsun. ( ; ) f x olasılık yoğunluk fonksiyonu,
; 2 / 2 , 0
0 , . .
x x
f x d y
şeklinde verildiğinde,
a) için yeterli bir tahmin edici bulunuz.
b) nın en çok olabilirlik tahmin edicisini elde ediniz. Buna T diyelim. U T / ve
önceden belirlenmiş bir sayı ( 0 1 ) olsun. ( P U a ) / 2 ve ( P U b ) / 2
olacak şekilde a ve b değerlerini belirleyiniz. Ayrıca, g 1 ve g 2 fonksiyonlarını öyle belirleyiniz ki, P g T ( ( ) 1 g T 2 ( )) 1 olsun.
Çözüm: a) Ortak olasılık yoğunluk fonksiyonu, 1 ( ) n i
i
h x x
ve T X ( ) X ( ) n
için,
{0 } {0
( )}
2 2
1 1 1
2 2
( ; ) ( ; ) ( ) ( )
( ( ); ) ( )
i n