Varyans Analizi

(1)

Varyans Analizi

Regresyon modelinin anlamlılığını test etmek için varyans analizi yaklaşımı da kullanılabilir. Bu yaklaşım, yanıt değişkenindeki toplam değişkenliğin parçalanmasına dayanmaktadır.

y

_i

 y  ( y ˆ

_i

 y )  ( y

_i

 y ˆ

_i

) (1.28)

2 2 2

1 1 1 1

ˆ ˆ ˆ ˆ

( ) ( ) ( ) 2 ( )( )

n n n n

i i i i i i i

i i i i

y y y y y y y y y y

   

       

   

1

ˆ

( ) 0

n

i i

i

y y



 

 ( özellik 1, Kesim 1.2.2) ve

1

ˆ 0

n i i i

y e



  (özellik 5, Kesim 1.2.2) olmak üzere;

1 1 1

ˆ ˆ ˆ ˆ ˆ

2

ⁿ

(

_i

)(

_i _i

) 2

ⁿ _i

(

_i _i

) 2

ⁿ

(

_i _i

)

i i i

y y y y y y y y y y

  

     

  

1 1

2

ⁿ

ˆ

_{i i}

2

ⁿ _i

0

i i

y e y e

 

    

olarak bulunur. Böylece aşağıdaki ifade elde edilir.

² ² ²

1 1 1

ˆ ˆ

( ) ( ) ( )

n n n

i i i i

i i i

y y y y y y

  

    

   (1.29)

Elde edilen bu ifade, regresyon modeli için temel varyans analizi tanımıdır. Genelde aşağıdaki gibi yazılır:

SS

_T

 SS

_R

 SS

_Re_s

(1.30) Bu eşitlikte yer alan SS , gözlemlerdeki toplam değişkenliği ölçen, gözlemlerin düzeltilmiş

_T

kareler toplamı, SS

_R

( SS

_R

  ˆ

₁

S

_xy

) , regresyon ya da model kareler toplamı ve SS

_{Re s}

, artık ya da hata kareler toplamı'dır.

 Serbestlik derecesinin analizi :

1) Toplam değişim, SS ,

_T

df

_T

  serbestlik derecesine sahiptir. ( n 1 y

_i

 sapmaları y üzerindeki

1

( )

n i i

y y



  kısıtlaması nedeniyle bir serbestlik derecesi kaybedilmiştir.)

(2)

2) Model ya da regresyon kareler toplamı, SS ise

_R

df

_R

 serbestlik derecesine 1 sahiptir. ( SS tamamen bir parametre yani

_R

 ˆ

₁

tarafından belirlenmektedir.)

3) Artık ya da hata kareler toplamı, SS

_{Re s}

, df

_Re_s

  serbestlik derecesine sahiptir. n 2 (  ˆ

₀

ve  ˆ

₁

'nın kestirilmesi sonucu y

_i

 sapmaları üzerinde kısıtlamalar yapılmıştır.) y ˆ

_i

Serbestlik derecelerinde toplama özelliği vardır :

Re

T R s

df  df  df

n    1 1 ( n  2) (1.31)

0

:

1

0 H   hipotezini test etmek için varyans analizi F testi kullanılmaktadır. F istatistiği,

⁰ ^Re ^Re ^Re ^Re

1 ( 2)

R R R R

s s s s

SS df SS MS

F  SS df  SS n  MS

 (1.32)

ile F

_1,_n_₂

dağılımına sahiptir.

Kareler ortalamalarının beklenen değerleri,

Re 2

(

_s

)

E MS   , E MS (

_R

)  

²

 

₁²

S

_xx

olmak üzere eğer F gözlenen değeri büyükse o zaman eğimin büyük olasılıkla

₀



₁

 0 olacağını göstermektedir. Ayrıca 

₁

 olduğunda 0 F , 1 ve (n-2) serbestlik dereceli

₀

aşağıdaki merkezi olmama parametresine sahip merkezi olmayan bir F dağılımına sahiptir.

12 2xx

 S

 ^ 

Bu merkezi olmama parametresi, 

₁

 iken gözlenen 0 F değerinin büyük olması

₀

gerektiğini gösterir. F

₀

 F

__,1,_n_₂

ise H

₀

: 

₁

 reddedilir. 0

(3)

TABLO 1.4 Regresyonun Anlamlılığını Test Etmek İçin Varyans Analizi

Değişim Kareler Serbestlik Kareler

Kaynağı Toplamı Derecesi Ortalaması F

₀

Regresyon ˆ

₁

R xy

SS   S 1 MS

_R

MS

_R

/ MS

_Re_s

Artık

_Re

ˆ

₁

s T xy

SS  SS   S n-2 MS

_{Re s}

Toplam SS n-1

_T

Örnek 1.4 Roket Yakıtı Verileri

Roket yakıtı verileri için Örnek 1.1'de geliştirilen modelde regresyonun anlamlılığı test edilmek istensin.

Uydurulan model : ˆ 2627.82 37.15 y   x 1,693,737.60

SS

T

 ve S

_xy

  41112.65 olmak üzere regresyon kareler toplamı,

ˆ

1

( 37.15)( 41112.65) 1527334.95

R xy

SS   S    

0

165.21

0.01,1,18

8.29 F   F  olduğundan H

₀

: 

₁

 hipotezi reddedilir. 0

 t Testi İle İlgili Daha Fazla Bilgi

₀ ¹ ¹

1 Re

ˆ ˆ

( ) ˆ

_s

/

_xx

t se MS S

 

   (1.33) olmak üzere,

₀² ¹² ¹

Re Re Re

ˆ ˆ

xx xy R

s s s

S S MS

t MS MS MS

 

   (1.34)

denklemi, Denklem (1.32)'deki varyans analizinin F değerine eş değerdir. Roket yakıtı

₀

örneğinde, t

₀

  12.5 dolayısıyla t

₀²

  ( 12.5)

²

 165.12  F

₀

 165.21 olarak bulunur.

***Genel olarak, f serbestlik derecesine sahip t raslantı değişkeninin karesi, payında ve

paydasında sırasıyla 1 ve f sayıda serbestlik derecesine sahip bir F raslantı değişkenidir.

(4)

Regresyon bilgisayar programları hem Tablo 1.4'teki varyans analizini hem de t istatistiğini vermektedir.

TABLO 1.5 Roket Yakıtı Regresyon Modeli İçin ANOVA Değişim Kareler Serbestlik Kareler

Kaynağı Toplamı Derecesi Ortalaması F P-değeri

₀

Regresyon 1527334.95 1 1527334.95 165.21 1.66  10

^¹⁰

Artık 166402.65 18 9244.59

Toplam 1693737.60 19

1

0   kararını vermek, yalnızca t ya da F istatistiğiyle desteklenen önemli sonuçlardan biridir. Eğimin istatistiksel olarak sıfırdan farklı olmaması, x ve y 'nin ilişkili olmadığı anlamına gelmemektedir. Bu durum, x ve y arasındaki bu ilişkinin ölçme sürecinin değişkenliği ya da x 'in değer aralığının uygun olmaması nedeniyle belirsizleştiği anlamına gelebilir.