Rasgele Vektörlerde Beklenen Değer ve Kovaryans

Rasgele Vektörlerde Beklenen Değer ve Kovaryans Tanım 1 (X X₁, ₂...,X_n) bir rasgele vektör ve g : n 

ye bir fonksiyon olmak üzere, kesikli dağılımlarda





1 2 1 2 1 2 , ,..., 1 2 ... , ,..., ( , ,..., ) n n n X X X n x x x g x x x f x x x

 

toplamının ve sürekli dağılımlarda









1 2 1 2 , ,..., 1 2 1 2 ... g , ,..., , ,..., ... n n X X X n n x x x f x x x dx dx dx     

  

 integralinin sonlu olması halinde,

















1 2 1 2 1 2 1 2 , ,..., 1 2 1 2 1 2 , ,..., 1 2 1 2 ... , ,..., ( , ,..., ) , ,..., = ... g , ,..., , ,..., ... n n n n X X X n x x x n n X X X n n g x x x f x x x E g X X X x x x f x x x dx dx dx          _{ }    

 

  

sayısına g X X



₁, ₂,...,X_n



‘nin beklenen değeri denir.

Tanım 2 (X X₁, ₂...,X_n) bir rasgele vektör olmak üzere, j 1, 2,...,n için





 

1, 2,..., 1 2 1 1 1 1 2 1 1 1 , ,..., 1 2 ( )= = ... , ,..., ... ...

( )

...

...

( ,

,...,

)

n j j X X X n j j n j n j n j j j j X j n j X X X x x x x x j X j j E X x f x x x dx dx dx dx

x f

x

x f

x x

x

x f

x dx

                       

  





   



sayısı Xj nin beklenen değeri olmak üzere,

( _i, _j) _i ( _i) ( _j ( _j)) , , 1, 2,...,

Cov X X E X E X X E X i j n

sayısına X ile_i Xj ‘nin kovaryansı denir. j 1, 2,...,n için Cov X( j,Xj) Var X( j) olmak

üzere , 1 1 1 2 1 2 1 2 2 2 1 2 ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) n n n n n n

Cov X X Cov X X Cov X X

Cov X X Cov X X Cov X X

Cov X X Cov X X Cov X X

matrisine X X₁, ₂...,X rasgele değişkenlerinin varyans-kovaryans matrisi denir. _n

. Kovaryans _ij ( _ij Cov X X( _i, _j)) ile de gösterilir. j 1, 2,...,n için

( , ) ( )

jj Cov Xj Xj Var Xj dır.

Tanım 3 (X X₁, ₂...,X_n) bir rasgele vektör olmak üzere,

, ( , ) , , 1, 2,..., ( ) ( ) i j i j i j X X Cov X X i j n Var X Var X

1 2 1 2 1 2 1 2 , , , , , , 1 1 1 n n n n X X X X X X X X X X X X R

matrisine X X₁, ₂...,X rasgele değişkenlerinin korelasyon matrisi denir. _n

Teorem 1 a) Cov X X( _i, _j) E X X( _{i j}) E X E X( _i) ( _j) b) a b c d, , , olmak üzere, ( _i , _j ) ( _i, _j) Cov aX b cX d acCov X X , , b b i j i j aX cX X X ac a c dır. İspat: (Ödev)

Örnek 1 X X X rasgele değişkenlerinin ortak olasılık fonksiyonu, ₁, ₂, ₃

1 2 3 1 2 , , 1 2 3 1 2 3 3 1, 2 0,1, 2 1 ( , , ) ( ) , 1, 2 45 X X X x x f x x x x x x x olsun. 1 2 3 1 2 3 1 2 3 1 2 3 2 2 2 2 2 2 2 1 1 , , 1 2 3 1 1 2 3 1 2 3 1 0 1 1 0 1 1 1 ( ) ( , , ) ( ) ( ) 45 45 X X X x x x x x x x x x E X x f x x x x x x x x x x 1 2 1 2 2 2 2 2 1 2 1 1 0 1 1 1 5 (2 3) 15 45x x 45x 3 x x x

1 2 3 1 2 3 1 2 3 2 2 2 1 2 1 2 , , 1 2 3 1 2 1 2 3 1 0 1 1 ( ) ( , , ) ( ) 45 X X X x x x x x x E X X x x f x x x x x x x x 1 2 3 2 2 2 2 2 1 2 2 3 1 0 1 1 ( ) 45x x x x x x x 1 2 1 2 2 2 2 2 2 1 2 2 1 1 0 1 1 19 19 (2 3 ) 45x x 45x 9 x x x x

olmak üzere, bu değeri (X X₁, ₂) vektörünün marjinal dağılımından (X ile ₁ X ‘nin marjinal ₂ ortak dağılımından) da bulabiliriz. X ile ₁ X ‘nin marjinal ortak olasılık fonksiyonu, ₂

1 2 1 2 3 3 3 2 1 , 1 2 , , 1 2 3 1 2 3 1 2 1 2 1, 2 1 1 ( , ) ( , , ) ( ) (2 3) , 0,1, 2 45 45 X X X X X x x x f x x f x x x x x x x x x olmak üzere, olasılık tablosu

1 x x ₂ 0 1 2 fX1( )x =1 1 1 ( ) P X x 1 3/45 5/45 7/45 15/45 2 6/45 10/45 14/45 30/45 2( 2) X f x = 2 2 ( ) P X x 9/45 15/45 21/45 1 olup, 1 2 1 2 2 2 1 2 1 2 , 1 2 1 0 ( ) _{X X} ( , ) x x E X X x x f x x 1, 2 1, 2 1, 2 1, 2 1, 2 1, 2 1 0 fX X (1, 0) 1 1 fX X (1,1) 1 2 fX X (1, 2) 2 0 fX X (2, 0) 2 1 fX X (2,1) 2 2 fX X (2, 2) 3 5 7 6 10 14 1 0 1 1 1 2 2 0 2 1 2 2 45 45 45 45 45 45 95 19 45 9 dır. Tablodan görüldüğü gibi, X ‘nin marjinal dağılımının olasılık tablosu, ₂

2 x 0 1 2 2( )2 X f x 9/45 15/45 21/45 olup, 2 9 15 21 57 ( ) 0 1 2 45 45 45 45 E X 2 2 2 2 2 9 15 21 99 ( ) 0 1 2 45 45 45 45 E X 2 2 2 2 2 2 2 99 57 1206 ( ) ( ) ( ( )) ( ) 45 45 2025 Var X E X E X dır.

1 2 1 2 3 3 3 2 1 , 1 2 , , 1 2 3 1 2 3 1 2 1 2 1, 2 1 1 ( , ) ( , , ) ( ) (2 3) , 0,1, 2 45 45 X X X X X x x x f x x f x x x x x x x x x olmak üzere, olasılık tablosu

1 x x ₂ 0 1 2 fX1( )x =1 1 1 ( ) P X x 1 3/45 5/45 7/45 15/45 2 6/45 10/45 14/45 30/45 2( 2) X f x = 2 2 ( ) P X x 9/45 15/45 21/45 1

olduğunu bulmuştuk. Ayrıca,

1 5 ( ) 3 E X , 2 1 ( ) 3 E X , ( ₁) 2 9 Var X 2 57 ( ) 45 E X , 22 76 ( ) 45 E X , 2 171 ( ) 2025 Var X 1 2 19 ( ) 9 E X X olmak üzere, 1 2 1 2 1 2 19 5 57 32 ( , ) ( ) ( ) ( ) 9 7 45 21 Cov X X E X X E X E X

değerlerini böyle bir tablodan kolayca hesapladık.

Benzer şekilde, X ile ₂ X ‘ün marjinal ortak olasılık fonksiyonu, ₃

2 3 1 2 3 1 1 2 2 , 2 3 , , 1 2 3 1 2 3 2 3 1 3 0,1, 2 1 1 ( , ) ( , , ) ( ) ( ) , 1, 2 45 15 X X X X X x x x f x x f x x x x x x x x x

olup, olasılık tablosu,

2 3 30 ( ) 2 15 E X X 2 3 2 3 2 3 19 8 2 ( , ) ( ) ( ) ( ) 2 15 5 75 Cov X X E X X E X E X dır. 1

X ile X ‘ün marjinal ortak olasılık fonksiyonu, ₃

1 3 1 2 3 2 2 2 1 , 2 3 , , 1 2 3 1 2 3 1 3 0 3 1, 2 1 1 ( , ) ( , , ) ( ) (1 ) , 1, 2 45 15 X X X X X x x x f x x f x x x x x x x x x

olup, olasılık tablosu,

3 x x ₁ 1 2 fX3( )x =3 3 3 ( ) P X x 1 2/15 4/15 6/15 2 3/15 6/15 9/15 1( )1 X f x =P X( ₁ x ₁) 5/15 10/15 1 ve 1 5 ( ) 3 E X , 3 8 ( ) 5 E X , 1 2 40 ( ) 15 E X X 1 3 1 3 1 3 40 5 8 ( , ) ( ) ( ) ( ) 0 15 3 5 Cov X X E X X E X E X dır. 1, 2, 3

X X X rasgele değişkenlerinin varyans-kovaryans matrisi

1 1 1 2 1 3 1 1 2 1 3 2 1 2 2 2 3 2 1 2 2 3 3 1 3 2 3 3 3 1 3 2 3 ( , ) ( , ) ( , ) ( ) ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) ( ) ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) ( )

Cov X X Cov X X Cov X X Var X Cov X X Cov X X

Cov X X Cov X X Cov X X Cov X X Var X Cov X X

Cov X X Cov X X Cov X X Cov X X Cov X X Var X

32 21 1 0 2 171 9 2025 2 32 75 21 ₁ 2 171 171 6 9 2025 2025 25 2 75 0 1 171 6 2025 25 R = 1 0.61644 0 0.61644 1 0.18732 0 0.18732 1 elde edilir.

Tanım 4 (X X₁, ₂...,X_n) bir rasgele vektör olmak üzere (var olması halinde), 1 1 2 2 1 2 ... ) , ..., ( , ..., )1 2 , 1, ...,2 n n n t X t X t X X X X n n M t t t E e h t t t h

fonksiyonuna (X X₁, ₂...,X_n) vektörünün veya X X₁, ₂...,X rasgele değişkenlerinin ortak _n dağılımının moment çıkaran fonksiyonu denir.

Teorem 2 X X₁, ₂...,X rasgele değişkenleri bağımsız olduğunda, _n

1( 1) 2( 2)... (n n) 1( 1) 2( 2) ... n( n) E g X g X g X E g X E g X E g X dır. İspat: 1 2 1 2 1( 1) 2( 2)... ( ) ... 1( )1 2( )...2 ( ) , ,..., n( ,1 2,..., ) n n n n n X X X n x x x E g X g X g X g x g x g x f x x x 1 2 1 2 1( )1 ( )1 2( )2 ( ).... 2 ( ) n( ) n X X n n X n x x x g x f x g x f x g x f x E g X₁( ₁) E g X₂( ₂) ...E g X_n( _n)

Sürekli haldeki ispatta toplamın yerini integral almaktadır.

1, 2..., n 1 2 ... n E X X X E X E X E X ( i, j) ( i j) ( i) ( j) ( i) ( j) ( i) ( j) 0 Cov X X E X X E X E X E X E X E X E X , i j , i j, 1, 2,...,n , ( , ) 0 , , , 1, 2,..., ( ) ( ) i j i j i j X X Cov X X i j i j n Var X Var X 1 2 1 1 2 2 1 1 2 2 1 2 1 2 ) , ...,

( , ..., )

1 2

...

...

( ) ( )... n( ) n n n n n X X X n t X t X t X t X t X t X n X X X M t M t M t

M

t t

t

E e

e

e

E e

E e

E e

dır.

Ortak dağılıma sahip olan X Y, gibi iki rasgele değişken için tanımlanan,

, ( , ) ( ) ( ) X Y Cov X Y Var X Var Y

korelasyon katsayısına, Pearson korelasyon katsayısı denir. _{X Y,} korelasyon katsayısı X ile Y

rasgele değişkenleri arasındaki lineer ilişkinin bir ölçüsüdür. İleride

, 1

1

_{X Y}

olduğunun ispatını da öğreneceksiniz. _{X Y,} 0 olduğunda X ile Yrasgele değişkenlerine

ilişkisizdir denir. _{X Y,} korelasyon katsayısı 1 yakın olduğunda X ile Y arasında güçlü pozitif ilişki, -1 ‘e yakın olduğunda güçlü negatif ilişki vardır denir. Şimdi, iki rasgele değişkenin bağımsızlığını ve _{X Y,} korelasyon katsayısını örnekler üzerinde irdeleyelim.

Örnek 2 (X Y, ) rasgele vektörünün dağılımı, başka bir ifade ile X Y, rasgele değişkenlerinin ortak dağılımı aşağıdaki olasılık tablosu ile verilsin.

x y 0 1 2 fX( )x 0 1/8 1/8 1/8 3/8 1 1/8 0 1/8 2/8 2 1/8 1/8 1/8 3/8 ( ) Y f y 3/8 2/8 3/8 1

 

, 1,1 0 X Y f  , (1) 2 8 X f  , (1) 2 8 Y f  olmak üzere,

 

   

, 1,1 1 1 X Y X Y f  f f

( ) 1

E XY , Cov X Y( , ) E XY( ) E X E Y( ) ( ) 0 olup,

, 0

X Y

dır. Görüldüğü gibi korelasyon katsayısı _{X Y,} 0 olan iki rasgele değişken bağımsız olmayabilir. İki rasgele değişkenin bağımsızlığı ile ilişkisizliği arasında,

ile

X Y bağımsız _{X Y,} 0 önermesi doğrudur.

Korelasyon katsayısının büyüklüğünü irdeleyelim

x y 0 1 2 fX( )x 0 3/8 0 0 3/8 1 0 2/8 0 2/8 2 0 0 3/8 3/8 ( ) Y f y 3/8 2/8 3/8 1 ( ) 1 E X , ( 2) 14 8 E X , ( ) 6 8 Var X ( ) 1 E Y , ( 2) 14 8 E Y , ( ) 6 8 Var Y 14 ( ) 8 E XY , ( , ) ( ) ( ) ( ) 6 8 Cov X Y E XY E X E Y olup, , 6 8 ₁ 6 6 8 8 X Y

dır. Görüldüğü gibi, P X( Y) P X( Y 0) 1, yaniX ile Y arasında tam bir lineer ilişki olmak üzere, korelasyon katsayısı _{X Y,} 1 dır. X ile Y rasgele değişkenleri arasında pozitif bir ilişki söz konusudur. Rasgele değişkenlerden biri büyük değer aldığında diğeri de büyük, biri küçük değer aldığında diğeri de küçük değer almaktadır.

olup, , 5 5 8 _{0.83 %83} 6 6 6 8 8 X Y

dır. X ile Y rasgele değişkenleri arasında oldukça güçlü pozitif bir lineer ilişki söz konusudur.

x y 0 1 2 fX( )x 0 0 1/8 2/8 3/8 1 0 1/8 1/8 2/8 2 3/8 0 0 3/8 ( ) Y f y 3/8 2/8 3/8 1 olması durumunda, ( ) 1 E X , 2 14 ( ) 8 E X , ( ) 6 8 Var X ( ) 1 E Y , ( 2) 14 8 E Y , ( ) 6 8 Var Y 3 ( ) 8 E XY , ( , ) ( ) ( ) ( ) 5 8 Cov X Y E XY E X E Y olup, , 5 5 8 _{0.83 %83} 6 6 6 8 8 X Y

dır. X ile Y rasgele değişkenleri arasında oldukça güçlü negatif bir lineer ilişki söz konusudur.

dır. X ile Y rasgele değişkenleri arasında tam negatif bir lineer ilişki söz konusudur. x y 0 1 2 fX( )x 0 1/8 1/8 1/8 3/8 1 0 1/8 1/8 2/8 2 2/8 0 1/8 3/8 ( ) Y f y 3/8 2/8 3/8 1 olması durumunda, ( ) 1 E X , ( 2) 14 8 E X , ( ) 6 8 Var X ( ) 1 E Y , ( 2) 14 8 E Y , ( ) 6 8 Var Y 7 ( ) 8 E XY , ( , ) ( ) ( ) ( ) 1 8 Cov X Y E XY E X E Y olup, , 2 1 8 _0.33=-%33 3 6 6 8 8 X Y

dır. X ile Y rasgele değişkenleri arasında zayıf, negatif bir lineer ilişki söz konusudur. Marjinal dağılımları aynı olan yukarıdaki olasılık dağılımlarını, korelasyon katsayıları ile birlikte bir kez daha göz önüne alalım.

2 3/8 0 0 , %83 X Y x y 0 1 2 0 1/8 1/8 1/8 1 0 1/8 1/8 2 2/8 0 1/8 , = - %33 X Y x y 0 1 2 0 1/8 1/8 1/8 1 1/8 0 1/8 2 1/8 1/8 1/8 , =0 X Y ve x y 0 1 2 fX( )x 0 9/64 6/64 9/64 3/8 1 6/64 4/64 6/64 2/8 2 9/64 6/64 9/64 3/8 ( ) Y f y 3/8 2/8 3/8 1

olması durumunda X ile Y rasgele değişkenleri bağımsız (ortak olasılıklar marjinallerin çarpımı) olduğundan _{X Y,} =0 dır.

Örnek 3 (X Y Z, , ) rasgele vektörünün olasılık yoğunluk fonksiyonu,

, , ( ) , 0 1 , 0 1 , 0 ( , , ) 0 , . . z X Y Z x y e x y z f x y z d y           

olsun. ve (X Y Z, , ) vektörünün varyans-kovaryans matrisi ile korelasyon matrisini bulalım.

X ‘in marjinal olasılık yoğunluk fonksiyonu,

1 4 3 2 2 2 0 1 0 1 1 5 ) 2 4 2 3 12 ( ) ( ) ( x X x x x dx E X f x dx x x 2 2 5 7 2 11 ( ) ( ) ( ( )) ( ) 12 12 144 Var X E X E X dır.

Y ‘nin marjinal olasılık yoğunluk fonksiyonu,

1 0 0 ( ) ( ) z Y f y x y e dxdz 1 2 0 1 1 0 0 0 ( ) ( ) ( ) 2 1 2 z x x y x y dy e dz x y dx y , 0<x<1 ve 1 3 2 0 1 0 1 1 7 ) 2 3 2 2 12

( )

( )

(

y Y y y dy

E Y

yf

y dy

y y

1 4 3 2 2 2 0 1 0 1 1 5 ) 2 4 2 3 12

(

)

( )

(

y Y y y y y dy

E Y

f

y dy

y

2 2 5 7 2 11 ( ) ( ) ( ( )) ( ) 12 12 144 Var Y E Y E Y dır.

Z ‘nin marjinal olasılık yoğunluk fonksiyonu,

1 1 1 1 0 0 0 0 ( ) ( ) z z ( ) Z e f z x y e dxdy x y dxdy 1 1 ₂ 1 0 0 0 ( ) 1 , 0 2 2 z z z x x y e dy e y dy e z

olup, Z rasgele değişkeni 1 parametreli üstel dağılıma sahiptir ve ( ) 1 E Z ( ) 1 Var Z dır. ile

X Y nin ortak marjinal olasılık yoğunluk fonksiyonu,

0

, ( , ) ( ) , 0 1 , 0 1

z

X Y x y e dz x y x y

olmak üzere,

, , ( , , ) , ( , ) ( )

X Y Z X Y Z

f x y z  f x y f z

dır. Z rasgele değişkeni X ile Y rasgele değişkenlerinden bağımsızdır. Buna göre,

( , ) 0 ( , ) 0 Cov X Z Cov Y Z dır. ( , )

Cov X Y hesabına gelince,

, ( ) _{X Y}( , )dxdy E XY xyf x y 1 1 1 1 _{2 2} 0 0 0 0 ( ) ( ) 3 2 _x x x xy x y dxdy y y dy 1 1 _{2 3} 0 0 1 1 ( ) 3 2 6 6 _y 3 y y y y dy olmak üzere, 1 7 7 1 ( ) ( ) ( ) ( ) 3 12 12 48 Cov XY E XY E X E Y dır.

(X Y Z, , ) rasgele vektörünün varyans-kovaryans matrisi

( ) ( , ) ( , )

( , ) ( ) ( , )

( , ) ( , ) ( )

Var X Cov X Y Cov X Z

Cov Y X Var Y Cov Y Z

Cov Z X Cov Z Y Var Z

1 48 1 0 11 11 144 144 1 48 _{1 0} 11 11 144 144 0 0 1 R = 1 -0.27273 0 -0.27273 1 0 0 0 1

olarak elde edilir.

Teorem 3 X X₁, ₂...,X rasgele değişkenlerin beklenen değerleri ve kovaryansları mevcut _n olsun. a a₁, ₂,...,a_n olmak üzere,

a) 1 1 ( ) n n i i i i i i E a X a E X b) 2 1 1 1 1 1 1 ( , ) ( ) 2 ( , ) n n n n n n i i i j i j i i i j i j i i j i i j i

Var a X a a Cov X X a Var X a a Cov X X

dır.

İspat: (Ödev)

Sonuç 1: X X₁, ₂...,X rasgele değişkenleri bağımsız olduğunda, _n

1 1 ( ) n n i i i i Var X Var X dır.

Sonuç 2: X X rasgele değişkenleri bağımsız olduğunda, ₁, ₂

1 2 1 2

( ) ( ) ( )

Var X X Var X Var X