Ders 1 : Sonsal Kayıplarla Bayes Tahmin Edicisinin Elde Edilmesi

˙IST 304 ˙Istatistik Karar Kuramı ve Y¨ ontemleri Hafta XIII

Ders 1 : Sonsal Kayıplarla Bayes Tahmin Edicisinin Elde Edilmesi

Dersi anlatan: ˙Ihsan Karabulut Notları yazan: ˙Ihsan Karabulut

Not: LaTeX ders kalıbı UC Berkeley EECS B¨ ol¨ um¨ u’n¨ und¨ ur.

Uyarı: Bu ders notları formal yayınların tabi oldu˘ gu kanun, y¨ onetmelik, kural ve esaslar dı¸sındadır.

Ders dı¸sında herhangi bir ¸sekilde kopya edilmesi, ¸ co˘ galtılması, yayımlanması yalnızca bu notları hazırlayan ve yazanın iznini gerektirir.

Parametrelerin minimaks ve Bayes tahmin edicileri de veri oldu˘ gunda karar fonksiyonlarının se¸ cimin- de izlenen yol kullanılarak elde edilir. Parametre tahminine konu olan Θ do˘ ga durumları uzayı (parametre uzayı) pek ¸ cok tahmin probleminde ikiden fazla eleman i¸ cerdi˘ ginden grafik y¨ ontemi faydalanılamaz bir ara¸ c olmaktadır. Hatırlanaca˘ gı gibi Bayes karar fonksiyonlarının elde edilmesi s¨ urecinde L h (d(x j ), x j ) beklenen sonsal kayıpların kullanımıyla bu zorluk a¸sılmı¸stı. Torbada 5 bi- lye ¨ orne˘ gi, Bayes tahmin edicilerinin beklenen sonsal kayıpların kullanımıyla elde edilmesine ¨ ornek olarak verilecektir. T = t(X) verilen bir parametre tahmin edicisi olmak ¨ uzere Bayes kaybını daha

¨

once herhangi bir d karar fonksiyonu i¸ cin yazılmı¸s olan ve bunu beklenen sonsal kayıplarla olan ifadeye ta¸sıyan e¸sitlik parametre tahmin edicisi i¸ cin

B(T ) =

m

X

i=1

R(θ _i , d)g(θ _i )

=

k

X

j=1 m

X

i=1

l(θ i , t(x j ))h(θ i |x j )P (x j )

=

k

X

j=1 m

X

i=1

{l(θ i , t(x j ))h(θ i |x j )}P (x j )

=

k

X

j=1

L h (t(x j ), x j )P (x j )

1-1

1-2 Ders 1 : Sonsal Kayıplarla Bayes Tahmin Edicisinin Elde Edilmesi

dır. Her x j g¨ ozlemi i¸ cin en k¨ u¸ c¨ uk L h (t(x j ), x j ) belenen sonsal kaybın se¸ cimi ile Bayes kaybı en k¨ u¸ c¨ uk olan T B Bayes tahmin edicisine ula¸sılacaktır, t¨ um T tahmin edicileri i¸ cin B(T B ) ≤ B(T ) olacaktır.

Ornek(Torbada 5 bilye ¨ ¨ orne˘ gine devam). Beyaz bilye sayısının Bayes tahmin edicisi T B elde edile- cektir. Herhangi bir tahmin edici T ile g¨ osterilecek olup parametre uzayı - do˘ ga durumları uzayı - i¸ cin verilen ¨ onsel da˘ gılım

g (θ )

θ = θ _i 0 1 2 3 4 5

P (θ = θ) ₁₀ ¹ ₁₀ ² ₁₀ ³ ₁₀ ² ₁₀ ¹ ₁₀ ¹

olarak se¸cilmi¸stir. Kayıp fonksiyonu da daha ¨ once verildi˘ gi gibi l(θ i , a j ) = (a j − θ i ) ² karesel olsun.

Sırasıyla X’in marjinal olasılık fonksiyonu P (x) = P (X = x), her x j g¨ ozlemi ko¸sulu altında h(θ i |x j ) sonsal da˘ gılımlar ve herhangi bir tahmin edicinin bir x _j g¨ ozlemi i¸ cin beklenen kayıp L _h (t(x _j ), x _j ) = L _h (a _i , x _j ), i = 1, 2, · · · , 6 de˘ gerleri elde edilecektir.

X r.d.’nin marjinal da˘ gılımı i¸ cin P (X = 0) olasılı˘ gı

P (X = 0) =

5

X

i=1

P (X = 0, θ = θ i )

=

5

X

i=1

P (X = 0 |θ = θ i )P (θ = θ i )

=

5

X

i=1

(5 − θ i )(4 − θ i )

20 P (θ = θ _i )

= (5 − 0)(4 − 0)

20 × 1

10 + (5 − 1)(4 − 1)

20 × 2

10 + (5 − 2)(4 − 2)

20 × 3

10 + (5 − 3)(4 − 3)

20 × 2

10 + (5 − 4)(4 − 4)

20 × 1

10 + (5 − 5)(4 − 5)

20 × 1

10

= 33

100

olarak elde edilir. Benzer olarak P (X = 1) ve P (X = 2) olasılıkları da hesaplandı˘ gında marjinal

da˘ gılım olasılık da˘ gılımı

Ders 1 : Sonsal Kayıplarla Bayes Tahmin Edicisinin Elde Edilmesi 1-3

P (x )

X = x 0 1 2

P (X=x) ₁₀₀ ³³ ₁₀₀ ⁴² ₁₀₀ ²⁵

olarak elde edilir. A¸sa˘ gıda t¨ um X = x j g¨ ozlem de˘ gerleri ko¸sulu altında elde edilmi¸s h(θ|x j ) sonsal da˘ gılımları verilmi¸stir. A¸sa˘ gıda sadece h(θ 2 |1) = h(1|1) olasılı˘ gının hesaplanması verilecektir:

P (θ = 1 |X = 1 ) = h(1|1)

= P (θ = 1, X = 1) P (X = 1)

= P (X = 1 |θ = 1 )P (θ = 1) P (X = 1)

=

2×(5−2) 20 × ₁₀ ²

42 100

= 4

21

h (θ |0 )

θ = θ i 0 1 2 3 4 5

P(θ=θ|X=0) ¹⁰ ₃₃ ¹² _{33 33} ⁹ ₃₃ ² 0 0

h (θ |1 )

θ = θ i 0 1 2 3 4 5

P(θ=θ|X=1) 0 ₂₁ ⁴ ₂₁ ⁹ ₂₁ ⁶ ₂₁ ² 0

h (θ |2 )

θ = θ i 0 1 2 3 4 5

P(θ=θ|X=2) 0 0 ₂₅ ³ ₂₅ ⁶ ₂₅ ^{6 10} ₂₅

Verilen sonsal kayıplardan yalnızca L h = (t(x j ), x j ) = L h (a 3 , 1)’nın hesaplanması verilecektir.

Hesaplar yapılırken l(θ i , a j ) = (a j − θ i ) ² kayıp fonksiyonu i¸ cin daha ¨ once verilen kayıp fonksiy- onu tablosu kullanılacaktır. L h (a 3 , 1) sonsal kaybı g¨ osterimininde a 3 eylemi i¸ cin ˆ θ = a 3 = θ 3

oldu˘ gu, bu nedenle L h (θ 3 , 1) olarak g¨ osteriminin de kullanılabilece˘ gi hatırlanmalıdır. X = 1 g¨ ozlemi

1-4 Ders 1 : Sonsal Kayıplarla Bayes Tahmin Edicisinin Elde Edilmesi

L h (t(x j ), x j ) = L h (a l , x j )

a 1 a 2 a 3 a 4 a 5 a 6

X = 0 ²² _{11 11} ^{9 18} ₁₁ ⁴⁹ ₁₁ ¹⁰² ₁₁ ¹⁷⁷ ₁₁ X = 1 ⁴² ₇ ¹⁷ ₇ ⁶ ₇ ⁹ ₇ ²⁶ ₇ ⁵⁷ ₇ X = 2 ⁴¹² ₂₅ ²⁴¹ ₂₅ ¹²⁰ ₂₅ ⁴⁹ ₂₅ ²⁸ ₂₅ ⁵⁷ ₂₅

yapıldı˘ gında bilinmeyen θ parametresi i¸ cin t(1) = θ 3 = 2 tahminin yapılması halinde sonsal kayıp

L h (t(1), 1) = L h (a 3 , 1)

= L h (θ 3 , 1)

= l(a 3 , θ 1 ) × h(θ 1 |1 ) + l(a 3 , θ 1 ) × h(θ 1 |1 ) + l(a 3 , θ 1 ) × h(θ 1 |1 ) + l(a 3 , θ 1 ) × h(θ 1 |1 ) + l(a 3 , θ 1 ) × h(θ 1 |1 ) + l(a 3 , θ 1 ) × h(θ 1 |1 )

= 4 × 0 + 1 × 4

21 + 0 × 9

21 + 1 × 6

21 + 4 × 2

21 + 9 × 0

= 6

7

olarak hesaplanacaktır.

Yukarıda herhangi bir parametre tahmin edicisi T ’nin Bayes kaybı B(T ) = P k

j=1 L h (t(x j ), x j )P (x j ) olarak ifade edilmi¸sti. B(T )’nin en k¨ u¸ c¨ uk olmasının her bir x j g¨ ozlem de˘ geri i¸ cin L h (t(x j ), x j ) de˘ gerlerinin en k¨ u¸ c¨ uklerinin belirlenmesiyle olanaklı oldu˘ gu sonucuna varılmı¸stı. Yukarıdaki sonsal kayıplar tablosundan da anla¸sılabilece˘ gi gibi l = 1, 2, 3, 4, 5, 6 i¸ cin

L _h (a ₂ , 0) ≤ L _h (a _l , 0) L h (a 3 , 1) ≤ L h (a l , 1) L h (a 5 , 2) ≤ L h (a l , 2)

dır.

Ders 1 : Sonsal Kayıplarla Bayes Tahmin Edicisinin Elde Edilmesi 1-5

B¨ oylece X = 0 g¨ ozleminin yapılması halinde a 2 = θ 2 = 1, X = 1 g¨ ozleminin yapılması halinde a 3 = θ 3 = 2 ve X = 2 g¨ ozleminin yapılması halinde de a 3 = θ 5 = 4 tahmininin yapılmasının sonsal kayıpları en az yapaca˘ gı g¨ or¨ ul¨ ur. O halde bilinmeyen θ parametresinin verilen ¨ onsel da˘ gılım altında Bayes tahmin edicisi

T B =



 

 



 

 



1 , X = 0 2 , X = 1 4 , X = 2 dir. Bu tahmin edicinin Bayes riski

B(T _B ) =

k

X

j=1

L _h (t _B (x _j ), x _j )P (x _j )

= L h (t B (0), 0) × P (X = 0) + L h (t B (1), 1) × P (X = 1) + L _h (t _B (2), 2) × P (X = 0)

= L h (a 2 , 0) × P (X = 0) + L h (t B (a 3 ), 1) × P (X = 1) + L h (t B (a 5 ), 2) × P (X = 0)

= 9

11 × 33 100 + 6

7 × 42 100 + 28

25 × 25 100

= 91

100

dir. T B tahmin edicisinin risk fonksiyonu her θ ∈ {θ 1 , θ 2 , θ 3 , θ 4 , θ 5 , θ 6 } i¸cin

1-6 Ders 1 : Sonsal Kayıplarla Bayes Tahmin Edicisinin Elde Edilmesi

R(θ, t B ) = E(l(θ, t B (X)) ² )

=

3

X

x=0

l(θ, t B (x j )) ² P θ (X = x)

= (t B (0) − θ) ² (5 − θ)(4 − θ)

20 + (t B (1) − θ) ² 2θ(5 − θ) 20 + (t _B (2) − θ) ² θ(θ − 1)

20

= (1 − θ) ² (5 − θ)(4 − θ)

20 + (2 − θ) ² 2θ(5 − θ) 20 + (4 − θ) ² θ(θ − 1)

20

= 1 − 5θ 4 + 3θ ²

4 − θ ³ 10

dır. Karesel kayıp fonksiyonu kullanıldı˘ gı i¸ cin tahmin edicinin HKO(T B )’ ye e¸sittir. Tahmin edicinin beklenen de˘ geri

E(T _B ) =

3

X

x=0

t _B (x)P _θ (X = x)

= 1 × (5 − θ)(4 − θ)

20 + 2 × 2θ(5 − θ)

20 + 4 × θ(θ − 1) 20

= 1 + 7θ 20 + θ ²

20

olup yanlı bir tahmin edicidir. Yanın karesi

b ² (T B ) = 1

400 (20 − 13θ + θ ² )

De˘ gerlendirme yapılırken ¨ orneklem ¸ capının yalnızca n = 2 oldu˘ gu hatırlanmalıdır.

˙IST 304 ˙Istatistik Karar Kuramı ve Y¨ ontemleri Hafta XIII

Ders 2 : Karar Verme Problemi Olarak ˙Istatistiksel Hipotezlerin Testi

Dersi anlatan: ˙Ihsan Karabulut Notları yazan: ˙Ihsan Karabulut

˙Istatistiksel hipotezlerin testi sadece iki eylemin yer aldı˘gı tipik bir karar verme problemi olarak ele alınabilir. ˙Istatiksel hipotezlerin testi kapsamlı bir i¸ ceri˘ ge sahip olmasına kar¸sın bu alt ba¸slıkta sadece da˘ gılım parametrelerine ili¸skin basit hipotezlerin testi konusu ele alınacaktır. ˙Istatistiksel hipotezlerin testi de ¨ onceki konularda oldu˘ gu gibi ¨ oncelikle rasgele g¨ ozlem kullanılmadan ele alınabilirdi ancak buna gerek duyulmadı ve rasgele g¨ ozlemlere dayalı olarak verilmeye ¸ calı¸sıldı. ˙Istatistiksel hipotezlerin testinde de g¨ ozlemi yapılan rasgele de˘ gi¸skenlerin do˘ ga durumları ile ilgili oldu˘ gu d¨ u¸s¨ un¨ ulecektir.

Bu nedenle do˘ ga durumlarının uzayı parametre uzayı Θ olacaktır. Eylem uzayı A = {A, B} olarak g¨ osterilecektir. Eylemler rasgele de˘ gi¸sken g¨ ozlemleri ¨ uzerinde tanımlanan karar fonksiyonları ile belirlenece˘ ginden eylemler rasgele olaylar (H ₀ ’ı reddedememek veya H ₁ ’i kabul etmek) olacaktır.

A eylemi daha ¨ once de˘ ginildi˘ gi gibi H 0 yokluk hipotezini reddedememek anlamında H 0 ’ı kabul etmek eylemini g¨ osterecektir, bu eylemin ger¸ cekle¸smesi halinde rasgele de˘ gi¸sken 0 de˘ gerini ala- caktır; B, H 1 alternatif hipotezini kabul etmek eylemini g¨ osterecektir, B eyleminin ger¸ cekle¸smesi halinde rasgele de˘ gi¸sken 1 de˘ gerini alacaktır. Θ da yer alan elemanlardan yalnızca bir θ’nın do˘ ganın durumu oldu˘ gunun ifade edilmesi basit hipotez olarak adlandırılır. Hipotez testine konu olan do˘ ganın durumu ger¸ cekte θ ise bu hipotez do˘ grudur denilir. Do˘ ganın durumunun birden fazla θ dan biri olabilece˘ ginin ifade edildi˘ gi hipotez ise karma¸ sık (composite) hipotez olarak adlandırılır.

Do˘ ganın ger¸ cek durumu karma¸sık hipotezde i¸ cerilen do˘ ga durumlarından biri ise- hipotez testine konu olan parametresi bunlardan biri ise- hipotez do˘ grudur denilir. Θ = Θ ₀ S Θ 1 , Θ ₀ T Θ 1 = ∅ olmak ¨ uzere da˘ gılım parametresine ili¸skin yokluk ve alternatif hipotezler sırasıyla H 0 : θ ∈ Θ 0 , H 1 : θ ∈ Θ 1 olarak ifade edilirler. H 0 ve H 1 basit hipotezler ise s¨ oz konusu karar problemi do˘ ganın Θ = {θ 0 , θ 1 }, Θ 0 = {θ 0 }, Θ 1 = {θ 1 } olan iki durumunun oldu˘ gu ve iki eylemin oldu˘ gu bir karar problemidir. Rasgele g¨ ozlemlerin olması halinde karar fonksiyonu test istatisti˘ gi olacaktır. Bir karar

2-1

2-2 Ders 2 : Karar Verme Problemi Olarak ˙Istatistiksel Hipotezlerin Testi

probleminin tanımlı olabilmesi i¸ cin kayıp fonksiyonu da tanımlı olmalıdır.

Kayıp fonksiyonu Θ herhangi bir parametre uzayı ve a ∈ A = {A, B} eylemi i¸ cin l(θ, a) kaybı θ’nın bir fonksiyonu olacaktır ve karar vericinin yapabilece˘ gi iki eylem ile tanımlanacaktır: A eylemi i¸ cin l (θ, A) = a (θ) ve B i¸cin l (θ, B) = b (θ). Kayıp fonksiyonu verilecek yanlı¸s kararı kayıpla sonu¸ clandıracak ¸sekilde tanımlanmalıdır. Da˘ gılım parametresi i¸ cin tipik bir hipotez testinde bu durum S ¸ekil’ de yansıtılmı¸stır. H ₀ ın do˘ grulu˘ gu bilindi˘ ginde do˘ gru eylem A olacak, B eylemine g¨ ore kayıp daha az; H ₁ in do˘ grulu˘ gu bilindi˘ ginde do˘ gru eylem B olacak, A eylemine g¨ ore kayıp daha az olmalıdır. Her eylem i¸ cin kayıp fonksiyonunu do˘ ga durum uzayını iki k¨ umeye ayıracaktır: θ’nın H 0 hipotezi ile ortaya konulan k¨ umede yer alması halinde her θ ∈ Θ 0 parametre de˘ geri i¸ cin H 0 ’ı kabul etme eylemi i¸ cin a (θ) ≤ b (θ) olmalıdır, benzer olarak her θ ∈ Θ 1 parametre de˘ geri i¸ cin H 1 ’ı kabul etme eylemi i¸ cin b (θ) ≤ a (θ) olmalıdır.

a( θ) b( θ)

H

: θ ∈ Θ

H

: θ ∈ Θ

θ l(θ, a)

S ¸ek˙ıl 2.1: ˙Istatistiksel hipotez testlerinde kullanılabilecek kayıp fonksiyonları ve i¸slevleri.

Bayes ilkesinin kullanıldı˘ gı karar verme problemlerinde kayıp ya da pi¸smanlık fonksiyonunu kul-

lanılmasıyla verilecek kararın de˘ gi¸smedi˘ gi biliniyor. Bu nedenle Bayes ilkesinin kullanılaca˘ gı hipote-

zlerin testinde kayıp fonksiyonu yerine pi¸smanlık fonksiyonu ile ¸ calı¸smak de˘ gerlendirme yapmayı

kolayla¸stıracaktır. Pi¸ smanlık fonksiyonunun olu¸ sturulmasında a¸sa˘ gıdaki kayıp fonksiyonu

tablosu dikkate alınsın:

Ders 2 : Karar Verme Problemi Olarak ˙Istatistiksel Hipotezlerin Testi 2-3

l(θ, a)

A B

H ₀ : θ ∈ Θ ₀ l(θ, A) l(θ, B) H ₁ : θ ∈ Θ ₁ l(θ, A) l(θ, B)

Pi¸smanlık fonksiyonunun tanımı ve θ ∈ Θ 0 i¸ cin l(θ, A) ≤ l(θ, B) ve θ ∈ Θ 1 i¸ cin l(θ, B) ≤ l(θ, A) oldu˘ gu kullanılırsa pi¸smanlık fonksiyonu a¸sa˘ gıdaki gibi elde edilecektir:

r(θ, a)

A B

H ₀ : θ ∈ Θ ₀ 0 l(θ, B) − l(θ, A)

H ₁ : θ ∈ Θ ₁ l(θ, A) − l(θ, B) 0 Yalnızca iki sade eylem oldu˘ gundan

r(θ, A) =



 

 

0 , H 0 do˘ gru a(θ) − b(θ) , H 1 do˘ gru

ve

r(θ, B) =



 

 

b(θ) − a(θ) , H 0 do˘ gru 0 , H 1 do˘ gru olarak da yazılabilir.

Pi¸smanlık fonksiyonu daha da basit yazılabilir. θ ∈ Θ 0 i¸ cin l(θ, A) = 0, θ ∈ Θ 1 i¸ cin l(θ, B) = 0, ve

a ∈ A = {A, B} olmak ¨ uzere her θ i¸ cin l(θ, a) ≥ 0 olarak tanımlanmı¸s ve θ ∈ Θ 0 i¸ cin l(θ, B) = b(θ)

2-4 Ders 2 : Karar Verme Problemi Olarak ˙Istatistiksel Hipotezlerin Testi

ve θ ∈ Θ 1 i¸cin l(θ, A) = a(θ) ise r(θ, a) a¸sa˘ gıdaki tabloda verildi˘ gi gibi olacaktır:

r(θ, a)

A B

H 0 : θ ∈ Θ 0 0 b(θ) H 1 : θ ∈ Θ 1 a(θ) 0

Hipotezler hemen sonra ele alaca˘ gımız gibi hipotezler H ₀ : θ = θ ₀ , H ₁ : θ = θ ₁ basitse a > 0 ve b > 0 olmak ¨ uzere pi¸smanlık fonksiyonu a¸sa˘ gıdaki gibi yazılabilir.

r(θ, a)

A B

H ₀ : θ = θ ₀ 0 b H 1 : θ = θ 1 a 0

Buraya kadar istatistiksel hipotez testlerinden bildik olan I.tip α ve II.tip β hatalarından s¨ oz edilmedi. Bu hataların pi¸smanlık fonksiyonu ile tanımlanaca˘ gı ileride g¨ or¨ ulecektir. I.tip α hatasının ger¸ cekte do˘ gru olan H 0 hipotezinin kabul edilmemesiyle (B eylemiyle) ya¸sanacak pi¸smanlık de˘ geri b ile ve II.tip β hatasının ger¸ cekte do˘ gru olan H ₁ hipotezinin kabul edilmemesiyle (A eylemiyle) ya¸sanacak pi¸smanlık de˘ geri a ile ilgili oldu˘ gu anla¸sılacaktır.

A¸ cıklama. Bu ifadelede daha ¨ onceki bildik ”. . . verilen α anlamlılık d¨ uzeyinde. . . ” ifadesi yoktur.

Hipotezlerin testi konusunda istatistiksel karar teorisinde, klasik istatistik teorisinde olmayan bir simetri oldu˘ gu g¨ or¨ ul¨ ur; karar teorisinde her iki hipotez de aynı rollere sahiptir. Klasik istatistik teorisinde her iki hipotez aynı rollere sahip de˘ gildirler, test H 0 hipotezinin do˘ gru oldu˘ gu varsayımıyla ger¸ cekle¸stirilir.

Parametre de˘ gerlerine ili¸skin basit hipotezlerin istatistiksel testinin bir karar problemi olarak tanımlanmasını sa˘ glayacak unsurlar tanımlanmı¸s bulunuyor. Basit hipo- tezlerin istatistiksel testi bir karar prob-

lemi olarak ele alınabilir. G¨ ozlemlerin hipotezlerin test edilmesindeki karar s¨ urecine katılması karar

Ders 2 : Karar Verme Problemi Olarak ˙Istatistiksel Hipotezlerin Testi 2-5

fonksiyonlarının uygun olarak tanımlanmasıyla olanaklı dır.

Tanım. X rasgele g¨ ozlemlerine dayalı olarak H 0 ın red edilmesi eylemi B’ye yol a¸ can g¨ ozlemler k¨ umesi testin kritik b¨ olgesi olarak adlandırılır. Testin kritik b¨ olgesi C ile g¨ osterilecektir.

Tanım. X rasgele g¨ ozlem de˘ gerleri ¨ uzerinde tanımlı karar fonksiyonu test istatisti˘ gi olarak adlandırılır. Test istatisti˘ gi T (X) ile g¨ osterilecektir.

Kritik b¨ olge ve test istatisti˘ ginden biri di˘ gerini karakterize eder. C k¨ umesi biliniyorsa test istatisti˘ gi;

test istatisti˘ gi biliniyorsa C k¨ umesi biliniyor demektir.

X rasgele de˘ gi¸skeninin alabilece˘ gi sonlu m sayıda de˘ ger varsa yalnızca iki sade eylemden biri A ya da B yapılabilece˘ ginden 2 ^m tane (sade) karar fonksiyonu tanım-lanabilir. Bu karar fonksiyonlarından her biri H ₀ ’ın H ₁ ’e kar¸sı testinde kullanılabilir.

Ornek. Do˘ ¨ ga durumları uzayı Θ = {θ 0 , θ 1 } olmak ¨ uzere, do˘ ga durumları ile ilgili oldu˘ gu d¨ u¸s¨ un¨ ulen X rasgele de˘ gi¸skeni x 1 , x 2 , · · · , x m de˘ gerlerini alsın ve f (x, θ) = P θ (X = x) olasılık fonksiyonuna sahip olsun:

f (x, θ) = P _θ (X = x)

X = x i x 1 x 2 · · · x m

P θ

(X = x i ) p 1 p 2 · · · p m

P _θ

(X = x _i ) r ₁ r ₂ · · · r _m

H 0 : θ = θ 0 hipotezi H 1 : θ = θ 1 hipotezine kar¸sı test edilecektir. Her do˘ ga durumunda sade eylemlerin pi¸smanlı˘ gını g¨ osteren pi¸smanlık fonksiyonu tablosu a¸sa˘ gıdaki gibidir:

r(θ, a)

A B

H 0 : θ = θ 0 0 1

H ₁ : θ = θ ₁ 2 0

2-6 Ders 2 : Karar Verme Problemi Olarak ˙Istatistiksel Hipotezlerin Testi

Herhangi bir test istatisti˘ gi (karar fonksiyonu) g¨ ozlem de˘ gerlerinin herhangi bir alt k¨ umesi {x i } ⊆ {x 1 , x 2 , · · · , x m } olmak ¨ uzere

T (X) =



 

 

1 , X ∈ {x i } 0 , X 6∈ {x i }

dir. Burada kritik k¨ ume C = {x _i } dir. X rasgele de˘ gi¸skeninin (istatisti˘ ginin) g¨ ozlem de˘ geri {x _i } k¨ umesi i¸cinde yer aldı˘ gında B eylemi, g¨ ozlem de˘ geri {x _i } k¨ umesi i¸ cinde yer almadı˘ gında A eylemi yapılacaktır. Yapılacak eylem rasgele g¨ ozleme g¨ ore yapıldı˘ gından yapılacak eylem de rasgele ola- caktır; eylem B ise rasgele de˘ gi¸sken olarak T (X) istatisti˘ gi 1 de˘ gerini aksi halde 0 de˘ gerini alacaktır.

Burada C = {x i } alt k¨ umesinin veya {x 1 , x 2 , · · · , x m } olabilece˘ gi hatırlanmalıdır.

Not. G¨ ozlemi yapılarak hipotez testi ger¸ cekle¸stirilecek olan rasgele de˘ gi¸sken daha ¨ onceki konularda oldu˘ gu gibi sonlu k sayıda de˘ ger alacaktır. S¨ oz konusu X rasgele de˘ gi¸skeninin P n

i=1 X _i ^r , ¯ X, vb. bir istatisti˘ gi temsil etti˘ gi, x _i g¨ ozlenen de˘ gerlerinin de bu istatisti˘ gin de˘ gerleri oldu˘ gu g¨ or¨ ulecektir.

Verilen bir test ile ilgili oldu˘ gu kritik b¨ olge C aynı kararlara i¸saret edecekler ve aynı i¸slevlere sahip olacaklardır. Bu nedenle bir test istatisti˘ gi, T = t(X) ile buna kar¸sılık gelen C kritik b¨ olgesi i¸ cin verilen bir θ ∈ Θ do˘ ga durumunda risk fonksiyonu (ya da beklenen pi¸smanlık) de˘ gerlerine hesaplanabilecek ve

R(θ, t) = R(θ, C)

olacaktır. Bu nedenle risk fonksiyonu i¸ cin iki notasyondan biri anla¸sılabilirlik g¨ ozetile- rek kul- lanılacaktır.

Bundan sonraki konularda Bayes ilkesinin kullanımına uygun olarak X rasgele de˘ gi¸skeninin θ

parametreli olasılık fonksiyonu P _θ (X = x) = f (x; θ) ko¸sullu olasılık fonksiyonu olarak anla¸sılacak

ve P _θ (X = x) = P (X = x |θ ) = f (x |θ ) olarak kullanılacaktır.

Ders 2 : Karar Verme Problemi Olarak ˙Istatistiksel Hipotezlerin Testi 2-7

Kaynaklar

[1] D. Blackwell and M.A. Girshick (1979), Theory of games and statistical deci- sions, Dover Publications, New York.

[2] H. Chernoff and L. E. Moses (1986), Elementary Decision Theory, Dover Pub- lications, New York.

[3] B. W. Lindgren (1971), Elements of Decision Theory, Macmillan Company, New

York.