c elamanları sabitler olan px1 tipinde bir vektör ve

(1)

8. HAFTA

Rasgele Değişkenlerin Lineer Bileşimlerinin Örneklem Değerleri

c elamanları sabitler olan px1 tipinde bir vektör ve

X 



X1 X2  Xp

 rasgele bir vektör olmak üzere, bir çok çok değişkenli yöntemde lineer bileşim olarak

1 1 2 2 p p

c X c X c X   c X

formu gözönüne alınır. Bu lineer formun j inci gözlem değeri

1 1 2 2

x_j _j _j _{p pj} , 1, 2,..., c c x c x   c x j n

dir. Buradan

cx_j

lineer bileşimin örneklem ortalaması:

1 2 1 2

( x x x ) x x x

( )

x

n n

c c c

n c n

c

          

 

 

ve örneklem varyansı:

2 2 2

1 2

1 1 2 2 2 2

( x x) ( x x) ( x x)

1

(x x)(x x) (x x)(x x) (x x)(x x)

1

(x x)(x x) (x x)(x x) (x x)(x x)

1

c c c c c n c

n

c c c c c c

n

c c

n

           



              

 

  

        

 

   



c Sc 

dır.

İkinci bir lineer bileşim

1 1 2 2 p p

b X b X b X   b X

olmak üzere lineer bileşimin j inci gözlem değeri

1 1 2 2

x_j _j _j _{p pj} , 1, 2,..., b b x b x   b x j n

dir ve

bx_j

lineer bileşimin örneklem ortalaması:

(2)

1 2 1 2

( x x x ) x x x

( )

x

n n

b b b

n b n

b

          

 

 

ve örneklem varyansı:

2 2 2

1 2

1 1 2 2 2 2

( x x) ( x x) ( x x)

1

(x x)(x x) (x x)(x x) (x x)(x x)

1

(x x)(x x) (x x)(x x) (x x)(x x)

1

b b b b b n b

n

b b b b b b

n

b b

n

           



              

 

  

        

 

   



b Sb 

dır. Bununla birlikte

bx_j

ve

cx_j

lineer bileşimleri arasındaki örneklem kovaryansı:

1 1 2 2

1 1 2 2 2 2

( x x)( x x) ( x x)( x x) ( x x)( x x)

1 (x x)(x x) (x x)(x x) (x x)(x x)

1

n n

b b c c b b c c b b c c

n

b c b c b c

n

                    



              

 





1 1 2 2 2 2

(x x)(x x) (x x)(x x) (x x)(x x)

1 b c

n b Sc

  

        

 

     

 



dir.

Örnek: X veri matrisi ve elemanları sabitler olan

b

ve c vektörleri

2 4 4 6 2 3

6 1 5 0 , 3 , 4

3 2 7 8 1 2

X b c

     

     

         

      

     

olarak verilsin. Burada n  ve 4

p3

dir. b X   b X

₁ ₁

 b X

₂ ₂

 b X

₃ ₃

ve

1 1 2 2 3 3

c X   c X  c X  c X lineer bileşimlerinin örneklem ortalamalarını, örneklem varyanslarını ve iki lineer bileşim arasındaki örneklem kovaryans değerlerini;

a. Lineer bileşimlerin değerlerini elde ederek,

b. X veri matrisinden elde edilen örneklem ortalama vektörünü ve örneklem varyans- kovaryans matrisinden yararlanarak

bulunuz.

(3)

Çözüm:

a.

bx , _j j1, 2,3, 4

, lineer bileşiminin örneklem değerleri

 

11

1 21

31

x 2 3 1

2 2 3 1 6 3

(2)(2) ( 3)(6) (1)(3) 11

x

b x

x

   

    

   

   

   

   

   

 

 

2

4 x 2 3 1 1

2 (2)(4) ( 3)(1) (1)(2) 7

b

   

    

   

   



 

3

4 x 2 3 1 5

7 (2)(4) ( 3)(5) (1)(7) 0

b

   

    

   

   



 

4

6 x 2 3 1 0

8 (2)(6) ( 3)(0) (1)(8) 20

b

   

    

   

   



olarak bulunur. Buradan

b X

’ örneklem ortalaması

11 7 0 20 16

4 4 4

   

  

b X

’ örneklem varyan

2 2 2 2

( 11 4) (7 4) (0 4) (20 4) 225 9 16 256

3 3

506 168.66 3

          

 

olarak bulunur.

(4)

Aynı şekilde

cx , _j j1, 2,3, 4

, lineer bileşiminin örneklem değerleri

 

11

1 21

31

x 3 4 2

2 3 4 2 6 3

(3)(2) (4)(6) ( 2)(3) 24

x

c x

x

   

    

   

   

   

   

   



 

2

4

x 3 4 2 1

2

(3)(4) (4)(1) ( 2)(2) 12

c

  

    

  

   



 

3

4 x 3 4 2 5

7 (3)(4) (4)(5) ( 2)(7) 18

c

   

    

   

   



 

4

6

x 3 4 2 0

8

(3)(6) (4)(0) ( 2)(8) 2

c

  

    

  

   



olmak üzere

c X

’ örneklem ortalaması

^{24 12 18 2} ⁵⁶ 14

4 4

  

  

c X

’ örneklem varyansı

2 2 2 2

(24 14) (12 14) (18 14) (2 14) 100 4 16 144

3 3

264 88 3

         

 

olarak bulunur.

b X

ile

c X

lineer bileşimleri arasındaki örneklem kovaryansı

(5)

( 11 4)(24 14) (7 4)(12 14) (0 4)(18 14) (20 4)(2 14) 3

150 6 16 192 364 364

121.33 3 3 3

           



     

    

dır.

b. X veri matrisinden örneklem ortalama vektörü ve örneklem varyans-kovaryans matrisi

1

2 3

4 x 3

5 x x x

   

   

     

   

    ve

8 10

3 4 3

26 5

4 3 3

10 5 26

3 3 3

S

  

 

  

  

  

 

 

olarak elde edilir. Buradan

b X

’ örneklem ortalaması,

 

1 2 3

x= 2 3 1

4 2 3 1 3 5

(2)(4) ( 3)(3) (1)(5) 4

x

b x

x

   

    

   

   

   

   

   



b X

’ örneklem varyansı

(6)

 

8 10

3 4 3 2

26 5

2 3 1 4 3

3 3

10 5 26 1

3 3 3

62 3 2 3 1 107

3 61

3

62 107 61

(2)( ) ( 3)( ) (1)( )

3 3 3

506 3 b Sb

  

 

  

  

 

     

     

 

 

 

 

 

   

 

 

    



elde edilir. Aynı şekilde

c X

’ örneklem ortalaması,

 

1 2 3

x= 3 4 2

4 3 4 2 3 5

(3)(4) (4)(3) ( 2)(5) 14

x

c x

x

   

    

   

   

   

   

   



(7)

c X

’ örneklem varyansı

 

8 10

3 4 3 3

26 5

3 4 2 4 4

3 3

10 5 26 2

3 3 3

44 3 3 4 2 78

3 42 3

44 78 42

(3)( ) (4)( ) ( 2)( )

3 3 3

264 88 3 c Sc

  

 

  

  

 

     

 

    

 

 

 

 

   

 

 

 

 

   

 

olarak bulunur.

Ayrıca

b X

ile

c X

lineer bileşimleri arasındaki örneklem kovaryansı

 

8 10

3 4 3 3

26 5

2 3 1 4 4

3 3

10 5 26 2

3 3 3

44 3 2 3 1 78

3 42 3

44 78 42

(2)( ) ( 3)( ) (1)( )

3 3 3

364 121.33 3

b Sc

  

 

  

  

 

     

 

    

 

 

 

 

   

 

 

 

 

   

  

Sonuçta a. ve b. şıklarında aynı sonuçlar elde edilmiştir.

(8)

Rasgele Örneklem, Örneklem Ortalama Vektörü ve Örneklem Varyans-Kovaryans Matrisinin Beklenen Değeri

İstatistiksel sonuç çıkarımı yapabilmek için örneklem ortalama vektörü

X

ve örneklem varyans-kovaryans matrisi

S_n

gibi istatistiklerin örneklemden örnekleme değişkenliği incelenirken, değişkenler hakkında varsayımlar yapmaya ihtiyaç vardır.

Verilerin henüz gözlenmediğini ancak n tane birim üzerinde, p tane değişkenin ölçüleceği kabul edilir. Ölçümler yapılmadan önce, genellikle ölçümlerin aldığı değerler tam olarak bilinmemektedir. Sonuç olarak bu ölçümlere rasgele değişken olarak bakılır. Veri matrisinin

( , )i j

inci elamanı

X i_ij( 1, 2,..., ; p j1, 2,..., )n

rasgele değişkeni olsun. p tane değişken üzerinde

X_j

ölçümlerin her kümesi bir rasgele vektördür ve bu vektörlerden oluşan rasgele matris

11 12 1 1

21 22 2 2

1 2

, ,..., ,...,

j n

pxn j n

i i ij in

p p pj pn

X X X X

X X X X X

X X X X

 

 

 

     

 

 

 

     

 

     

 

biçimindedir.

Xpxn

matrisindeki

X X₁, ₂,...,X_n

sütun vektörleri,

f_X(x) f x x( , ,...,₁ ₂ x_p)

olasılık yoğunluk fonksiyonuna sahip ortak dağılımdan bağımsız gözlemler verirlerse,

X X₁, ₂,...,X_n

,

f_X(x)

den rasgele bir örneklem formudur denir. Matematiksel olarak

X X₁, ₂,...,X_n

’ in rasgele örneklem olması için ortak olasılık yoğunluk fonksiyonu

f₁(x ), (x ), , (x )₁ f₂ ₂  f_n _n

fonksiyonlarının çarpımı ile verilmektedir. Burada

f(x )_j  f x x( ₁_j, ₂_j,...,x_pj)

, j inci sütun vektörü için yoğunluk fonksiyonudur.

Sonuç:

X X₁, ₂,...,X_n

ortalama vektörü  ve varyans-kovaryans matrisi  olan ortak dağılımdan rasgele bir örneklem olmak üzere

a. E X ( )  

b. 1

( ) Cov X

  n

c. 1

( ) (

_n

n )

E S n

  

dir.

(9)

İspat : a.

1 2

( )

1 1 1

( ) ( ) ( )

1 1 1

1

n

X X X

E X E

n

X

X X

E E E

n n n

E X E X E X

n n n

n n

  



  

 

    

 

   

               

   





dir ve buradan örneklem ortalama vektörü

X

, kitle ortalama vektörü  ’nün yansız bir tahmin edicisidir.

b.

 

1 1

2

1 1

2

1 1

( ) ( )( )

1 1

( ) ( )

1 ( )( )

n n

j l

n n

j l

n n

j l

Cov X E X X

E X X

n n

E X X

n

E X X

n

 

 

   

  

 

      

 

    

 

   

 



dir.

X_j

’ler bağımsız olduğundan

j l

için

^{E X}



⁽ ^j^

^

⁾⁽^X^l ^

^

⁾^



^⁰

dır. Buradan

 

2 1

2

( ) 1 ( )( )

1 ( )

1 ( )1

n

j j

j n

j

Cov X E X X

n

n n n

n

 



   

 



elde edilir.

(10)

c.

1

1 1

1

( ) 1 ( )( )

1 ( )( ) ( )( )

1 1 ( ) ( )

1 1

( ) ( )

n

n j j

j

n n

j j j

j j

n

j j

j n

j j

j n

j

E S E X X X X

n

E X X X X X X

n

E X X nXX

n

E X X nE XX

n

n  n n 



 



 

     

 

 

 

      

 

   

 

           

 

 

   

 

  

     





 



1 1

( ) ( )

( 1 )

n n n

n n

 

  



   

         

  

dir ve buradan örneklem varyans-kovaryans matrisi

S_n

, kitle varyans-kovaryans matrisi  için yanlı bir tahmin edicidir. Bununla birlikte

1

( )

1 1 ( )( )

1

n n

j j

j

S n S

n

X X X X

n

_

 

   

 

kitle varyans-kovaryans matrisi  için yansız bir tahmin edicidir. Yani

E S( ) 

dir. Bundan sonra

S_n

yerine, örneklem varyans-kovaryans matrisi olarak S alınacaktır.

Genelleştirilmiş Varyans

p değişken her birim üzerinde gözlendiğinde, değişim örneklem varyans –kovaryans matrisi S ile ifade edilir. pxp tipinde simetrik örneklem varyans-kovaryans matrisi S, p tane varyans ve

1 ( 1)

2 p p  tane farklı kovaryanstan oluşmaktadır. Bazen S ‘deki değişim tek bir sayısal değer ile ifade edilebilir. Bu değerlerden biri S’nin determinantı olabilir.

p1

olduğunda bu determinant tek bir değişkenin örneklem varyansıdır. Örneklem varyans-kovaryans matrisi S’nin determinantına Genelleştirilmiş Örneklem Varyansı(GÖV) denir ve

GÖV  S

(11)

dir. Genelleştirilmiş Örneklem Varyansı, bütün varyanslar ve kovaryanslara ilişkin tek bir değer şeklinde bilgi verir. Bununla birlikte S , S’nin özet bir değerinden başkada bilgiler verir.

Örneğin

1 p

i i

S







dir. Burada  

₁, , ,₂ _



_p

’ler örneklem varyans-kovaryans matrisi S’nin özdeğerleridir.

Bazı Eşitsizlikler

Burada ileride kullanılacak bazı eşitsizliklere ilişkin ifadeler verilecek, ispatlar verilmeyecek.

Cauchy-Schwarz Eşitsizliği

b

ve

d

, px1 tipinde herhangi iki vektör olsun. Buradan, ( b d  )

2

 ( b b d d  )(  )

dir. Eşitliğin olması için gerek ve yeter şart bazı c sabitleri için

b cd

(veya

d cb

) dir.

Genelleştirilmiş Cauchy-Schwarz Eşitsizliği

b

ve

d

, px1 tipinde herhangi iki vektör ve B , pxp tipinde pozitif tanımlı bir matris olsun.

Buradan,

2 1

( b d  )  ( b Bb d B d  )( 

^

)

dir. Eşitliğin olması için gerek ve yeter şart bazı c sabitleri için b cB d 

^¹

(veya

d cBb

) dir.

Maksimizasyon Lemma

B , pxp tipinde pozitif tanımlı bir matris ve

d

, px1 tipinde herhangi bir vektör olsun. Sıfırdan farklı herhangi bir

x_px₁

vektörü için

2

x 0

max(x ) x x

d d Bd B



  



(12)

dir. c  için 0 x cB d 

^¹

ise maksimuma ulaşılır.

Birim Küre Üzerindeki Noktalar için Karesel Formların Maksimizasyonu

B , pxp tipinde özdeğerleri  

₁ ₂ 



_p 0

ve ilişkili birimleştirilmiş özvektörleri

1, 2, , _p

e e  e

olan pozitif tanımlı bir matris olsun. Buradan

1 1

x 0

2 2

x 0

x 0 p

maxx x , x 'de maksimuma ulaşır x x

maxx x , x 'de ikinci sırada maksimuma ulaşır x x

maxx x , x 'de inci sırada maksimuma ulaşır

x x ^p

B e

B e p





  



  



  





dir.