değeri μ varyansı σ 2 olan bağımsız aynı dağılımlı rasgele değişkenler olsun. Bu durumda, S n = X 1 + X 2 + X 3 +. ..+ X n olmak

kitleden alınması varsayımına dayanır. Teoreme yeni koşullar eklenerek aynı dağılım varsayımı ihmal edilebilir. Bağımsızlık varsayımı ise kritik öneme sahiptir. Zaman serileri genellikle bağımlı değişkenler olup klasik merkezi limit teoreminin koşulları sağlanmaz. Bazı özel durumlarda (durağanlık gibi) merkezi limit teoremi kullanılarak istatistiki sonuç çıkarımlar yapılır.

Pratikte çok kullanılan merkezi limit teoremlerinden ikisi ispatsız olarak aşağıda verilmiştir (ispat ve ayrıntılar için Serfling (1980)’e bakılabilir).

i) Klasik Merkezi Limit Teoremi: X ₁ , X ₂ ,..., X _n ,... _beklenen

değeri μ varyansı σ ² olan bağımsız aynı dağılımlı rasgele değişkenler olsun. Bu durumda, S _n = X ₁ + X ₂ + X ₃ +. ..+ X _{n olmak}

üzere ^n→∞ iken

√ ^{n ( ¯ X} n −μ )

σ ⃗ ^D N ( 0 , 1 )

veya S _n − E (S _n )

√ ^{Var (S} n ) ⃗ D N ( 0 , 1) dir 

ii) Liapounov Merkezi Limit Teoremi: X ₁ , X ₂ ,..., X _n ,...

bağımsız rasgele değişkenler E( X _i )= μ _{i ve} Var( X _i )=σ _i ² _olsun

(aynı dağılımlı değil).

E( S _n )= ∑

i=1 n

μ _i

ve

s _n ² =Var (S _n )= ∑

i=1 n

σ _i ²

olup δ>0 _için

(L)

s ^{−(2+δ )} _n ∑

i=1 n

E [ ^{| X} i − μ _i | ^2+δ ] ^{→ 0 , n→∞}

koşulu sağlanıyorsa n   _iken S _n − E (S _n )

√ ^{Var ( S} n ) ⃗ D N ( 0 , 1)

dir 

Örnek 3.4.1 X X X ¹ , ² , ³ ,... rasgele değişkenleri bağımsız E X ( _i )   _i ve Var X ( _i )   ² (sabit varyanslı) olsun. Sonlu M _ve M ^* sayıları için,

 ^{| i | 2} 

E X ^{ }  M  

ise s _n ² =nσ ² _olup s _n =σ √ ⁿ ve Hölder eşitsizliğinden ^{E X}  ^{| i   i | 2  }  ^{ M *  } yazılır. Buradan,

 

(2 ) 2

1

2 * *

2

2 / 2 2

1

| |

1 | | 0

n

n i i

i

n

i i

i

s E X

n M M

E X

n

n n

 

 

  



 

 

  







 



  

 

   

          





elde edilerek (L) koşulunun sağlandığı görülür ⊗

Slutsky Teoremi (Casella ve Berger, 2002, s. 239) X ve ⁿ Y rasgele ⁿ değişken dizileri n   iken sabit bir a reel sayısı için

X _n ⃗ ^D X _ve Y _n  ^P a olsun. Bu durumda,

a) X _n Y _n ⃗ ^D X a b) X _n + Y _n ⃗ ^D X + a

dir 

Örnek 3.4.2 Zaman serisi modelleri, varsayımlar sağlanmasa da regresyon modeline benzer. e _{t ,} t=1,2,3,... beklenen değeri 0 _varyansı

σ ² olan bağımsız rasgele değişkenler olmak üzere kesim noktası (intercept) olmayan regresyon denklemini

Y _t = β X _t + e _t , t=1,2,3,...,n

şeklinde yazalım. β parametresinin en küçük kareler tahmin edicisi,

^β _n = [ ^{∑ t=1 n X t 2} ] ^{−1 ∑ t=1 n X t Y t}

olup bu tahmin edici, Y ^t _yerine  X _t  e _t yazılarak düzenlendiğinde

 

1 1

2 2

1 1 1 1

1 1

2 2

1 1 1 1

ˆ

1 1

n n n n

n t t t t t t t

t t t t

n n n n

t t t t t t

t t t t

X X Y X X X e

X X e X X e

n n

 

 

 

   

 

   

       

          

       

       

           

       

   

   

olarak yazılır. Daha açık olarak, Z _t = X _t e _{t ve} W _t = X _t ² denirse,  nın EKK tahmin edicisi

ˆ 1

n W n Z n

        ^ şeklindedir. Regresyonda,

X _t açıklayıcı değişkenin biliniyor (rasgele değil) olması gerekir. Bir çok

zaman serisi modeli de regresyon modeline benzediğinden, X _{t değişkeni}

regresyon varsayımını sağlamaz. Aşağıda X _t nin regresyon varsayımını sağlanmadığı durumlara göre ^β _n − β nin asimptotik dağılımı bulunmaya çalışılmıştır. İncelenecek durumlar şunlardır:

a) X _t ler beklenen değeri 0 _varyansı σ ² _x olan bağımsız aynı dağılımlı rasgele değişkenler ve t=1,2,3,... _için ^X t ile e _t

bağımsız olsun.

b) bütün t=1,2,3,... _{ler için} ^X t =t olsun (trend modeli).

c) X _t =Y _t−1 olsun. Bağımsızlık varsayımı bozulmakta ve regresyon modeli zaman serisi modeline dönüşmektedir Yani, model AR(1) dir.

Aşağıda, her üç durum için β nın EKK tahmin edicisinin asimptotik dağılımı incelenecektir.

a) X _{t ile} e _t ler bağımsız olduğundan Z _t = X _t e _{t rasgele}

değişkenleri bağımsız ve E( Z _t )=E( X _t e _t )=0 dir. Ayrıca, δ>0

için

E( |X _t | ^2+δ ) < M <∞ _ve E(|e _t | ^2+δ )< M<∞

olsun. Z _t lerin (bağımsız olduğundan) varyansı da

Var(Z _t )= E (( X _t e _t ) ² )=E ( X _t ² ) E (e _t ² )=σ ² _x σ ²

dır. δ=2 _için E( Z _t ⁴ )=E ( X _t ⁴ ) E(e _t ⁴ )< M ² < ∞ olup, Liapounov koşulu sağlanır ve n   iken

S _n − E (S _n )

√ ^{Var ( S} n ) ⃗ D N ( 0 , 1)

dağılımda yakınsama elde edilir. Buradan,

S _n = Z ₁ + Z ₂ + Z ₃ +. . .+ Z _n olmak üzere, Z ^t rasgele değişkenleri için MLT geçerlidir ve n   iken

√ ^{n ¯ Z} n

σ _x σ ⃗ ^D N ( 0 , 1)

veya √ ^{n ¯Z} _n ^{⃗ D N ( 0 , σ 2} _x ^{σ 2 )}

dir.

Ayrıca, X _t ler bağımsız olduğundan, W _t = X _t ² _rasgele

değişkenleri de bağımsız olup E(W _t )= E( X _t ² )=σ ² _x dir. Buradan n   iken

 

² 2

1 1

2

2 2

1

1 1

( )

1 ( ) 0

n n

n t t

t t

n t t

Var W Var X Var W

n n

n M M

n E W n n

 



 

   

 

   

 



elde edilir. Zayıf büyük sayılar yasasına göre n   _iken 1

n ∑

t =1 n

X _t ² = 1 n ∑

t=1 n

W _t = ¯ W _n ⃗ ^P E(W _t )=σ _x ²

olup Liapounov merkezi limit teoremi ve Slutsky teoreminden ^n→∞

iken

 ^{ˆ n}  ^{n D}  ^{0, 2 / 2 x} 

n

n n Z N

    W   

şeklinde ^β _n − β nın asimptotik dağılımı elde edilir.

b) X _t =t olsun. Bu durumda, β nın EKK tahmin edicisini

1 1

2 2

1 1 1 1

ˆ ^{n n n n}

n t t

t t t t

t t Y t t e

 

 

   

   

      

       

şeklinde yazalım. Z _t =t e _t nin beklenen değeri ve varyansı

E( Z _t )=0 _, Var(Z _t )=t ² σ ² _dir. E(e _t ⁴ )< M <∞ _ise E( Z _t ⁴ )< t ⁴ M _ve

s _n ² = ∑

t=1 n

Var( Z _t )=σ ² ∑

t=1 n

t ² =σ ² n (n+1 ) (2 n+1)

6 =σ ² n ³

3 +O(n ² )

dir.

∑ t=1 n

t ⁴ = ( n+1) ⁵

5 − ( n+1) ⁴

2 + ( n+1) ³ 3 − n

30 − 1

30 = O(n ⁵ )

olup ^n→∞ iken,

2

4 4 4 2

1 1

( 1)(2 1)

( ) 0

6

n n

n t

t t

n n n

s ^ E Z M t  ^

 

 

 

     

 

dir. Yani, δ=2 _için

4 4

1

( ) 0

n

n t

t

s ^ E Z

 

 olup Liapounov merkezi limit teoremi Z _t rasgele değişkenlerine uygulanabilir. Buna göre, ^n→∞

iken,

∑ t=1 n

Z _t −E ( ^{∑ t=1 n Z t} )

√ ^{Var ( ∑ t=1 n Z t ) =}

∑ t=1 n

Z _t

√ ^{σ 2 ∑ t=1 n t 2 ⃗}

D N ( 0 , 1 )

dir. Buradan ^β _n − β _,

  ^{1 1}

2 2 2

1 1 1

ˆ

n n

t t

t t

n n n n

t t t

t e t e

t t t

  ^{ }

  

    

  

şeklinde yazıldığında n   iken ^β _n − β nın asimptotik dağılımı için

 

2 1 2

1 2

1

ˆ ( 0, )

n n t

t D

n n

t

t

t e

t N

t

  ^ 





   

 

elde edilir. Diğer taraftan n   iken, n ^3/2 √ ^{n 1 3 ∑ t=1 n t 2 → √ 1 3}

ve

n ^3/2 √ ^{n 1 3 ∑ t=1 n t 2 ( ^β n −β ) ⃗ D √ 1 3 N ( 0 , σ 2 ) = N ( 0 , σ 3 2 )}

olduğu göz önüne alındığında asimptotik dağılım ^n→∞ iken

n ^3/2 ( ^{^β} n − β ) ^{⃗ D N} ( ^{0 , σ} 3 ² )

şeklinde elde edilmiş olur.

c) X _t =Y _t−1 olsun. Bu durumda regresyon modeli

1

t t t

Y   Y _  e _, t  1, 2,3,..., n şeklindeki AR(1) modeline dönüşür.

Model |β | <1 için durağandır. O halde, |β | <1 olduğunu kabul edelim.

Seri durağan olduğundan ^n→∞ iken

1 n ∑

t=1 n

Y _t−1 ² ⃗ ^P γ _Y ( 0 )= σ ² 1−β ²

olduğunu bir önceki kısımdan biliyoruz. Buradan, ˆ

 n  

1 1

2 2

1 1 1 1

1 1 1 1

1

2 1 1

1 1

1 1

ˆ

1 1 1

n n n n

n t t t t t t

t t t t

n n

t t t

t t

Y Y e Y Y e

n n

Y Y e

n n n

 

 

   

   



 

 

       

          

       

   

    

   

   

 

veya

  ^{2 1 1 1}

1 1

1 1

ˆ ^{n n}

n t t t

t t

n Y Y e

n n

 



 

 

   

     

     

olarak yazılabilir. Z _t =Y _t−1 e _t yazıldığında Z _t ler bağımsız değildir.

Bununla birlikte herhangi X _ve Y rasgele değişkenleri için

E( X )=E (E ( X|Y )) özelliği kullanılırsa, Z ^t lerin beklenen değer ve varyansı

E( Z _t )=E(Y _t−1 e _t )=E ( ^Y t−1 E (e _t |Y ₁ ,Y ₂ ,...,Y _t−2 ) ) ^{= E(Y} t−1 )E( e _t )=0

 

2 2 2 2 2

1 1 1 2 2

2 2 2 4 2

1

( ) ( ) ( ) ( | , ,..., )

( ) ( ) (0) /(1 )

t t t t t t t

t t Y

Var Z E Z E Y e E Y E e Y Y Y

E Y E e    

  



  

   

olarak bulunur. Benzer şekilde,

E( Z _t ⁴ )=E (Y _t−1 ⁴ e _t ⁴ )=E ( ^Y t−1

4 E( e _t ⁴ |Y ₁ ,Y ₂ ,...,Y _t−2 ) ) ^{= E(Y} t−1

4 ) E( e _t ⁴ )

olup, model durağan olduğundan

Y _t = ∑

i=0

∞

β ⁱ e _t−i

şeklinde yazılır. Buna göre, M ^¿ pozitif reel bir sabit olmak üzere,

E(Y _t−1 ⁴ )= E [ ^{∑ i=1 ∞ β 4 i e t−1−i 4 +2 ∑ i < j β 2 i β 2 j e t−i 2 e 2 j} ] ^{< M ¿ ¿ ∞}

dir. Z _t bir beyaz gürültü serisi olmasına rağmen bağımsız değildir. Ayrıca ( ) 0 _t

E Z  ve Var Z ( ) _t  E Z ( _t ² )   ⁴ /(1   ² ) şeklinde olup, h>0

için, ( ) 0 E e

^t

 olduğundan Z ile ^t Z ^{t h} _ arasındaki kovaryans

 

 

 

 

1 2 1

1 1 1 2 1

1 1 1 2 1

1 1

( , ) ( ) ( | , ,..., )

( | , ,..., )

( | , ,..., ) ( ) 0

t t h t t h t t h t

t t t h t h t

t t t h t h t t

t t t h t h t

Cov Z Z E Z Z E E Z Z Y Y Y E E Y e Y e Y Y Y E Y e Y e E e Y Y Y E Y e Y e E e

   

    

    

   

 





 

dır. Yani, Z _t nin otokovaryans fonksiyonu,

4 /(1 2 ) , 0

( ) 0 , . .

Z h

h d d

 

 _{ } ^{   }



şeklindedir. Cov Z Z ( , _{t t h } ) 0  olmasına rağmen Z _t ler bağımsız değildir. Dolayısı ile, MLT nin ifadesinde verilen koşullar sağlanmadığından MLT uygulanamaz. h  0 _için Cov Z Z ^{( ,} t t h _ ^{) 0}  ve Z _t ler bağımsız olsaydı,

E ( ^{1 n ∑ t=1 n Z t} ) ^=E ( ^{1 n ∑ t=1 n Y t−1 e t} ) ⁼⁰

ve

Var ( ^{1 n ∑ t=1 n Z t} ) ^{= n 1 2 Var} ( ^{∑ t=1 n Y t−1 e t} ) ^{= σ 2 γ n Y ( 0) =O ( 1 n )}

olup,

1 n ∑

t=1 n

Y _t−1 e _t =O _P ( √ ^{1 n} ) _veya ^{√ n} ( ^{1 n ∑} t=1 n

Y _t−1 e _t ) ^{=O P ( 1 )}

yazılabilirdi. MLT nin geçerli olması halinde, ^n→∞ iken

√ ⁿ ( ^{1 n ∑ t=1 n Y t−1 e t} ) ^{⃗ D N ( 0 , σ 2 γ Y (0) )}

elde edilirdi. Diğer taraftan, ^n→∞ iken

1 n ∑

t=1 n

Y _t−1 ² ⃗ ^P γ _Y ( 0 )= σ ² 1−β ²

olduğundan, iki sonuç Slutsky teoremi ile birleştirilerek ^n→∞ iken

  ^{1 2 1}

1 1

1 1

ˆ _n ⁿ _{t t} / ⁿ _t

t t

n n Y e Y

n n

  _{ }

 

   

               

 

2 2

1 1

1 1

1 1 1

/ 0, (0)

(0)

n n

t t t D Y

t t Y

Y e Y N

n n  

  

 

   

         

     

şeklinde asimptotik dağılım elde edilirdi. İfadede γ _Y (0 ) nin değeri

yerine konulduğunda, ^β _n − β nın asimptotik dağılımı ^n→∞ iken

√ ⁿ ( ^{^β} n − β ) ^{⃗ D N ( 0 , 1− β 2 )}

şeklinde bulunmuş olur ⊗

Merkezi limit teoreminde bağımsızlık önemli bir varsayımdır. Ek varsayımlar altında merkezi limit teoremi geçerlidir.

Teorem 3.4.1 (Hamilton, 1994, s.195) e _t rasgele değişkenleri bağımsız ve aynı dağılımlı rasgele değişkenler ve E(e _t ² )< ∞ _,

∑ i=0

∞

|ψ _i | < ∞

olsun. X _t zaman serisi modeli,

X _t = μ+ ∑

i=0

∞

ψ _i e _t−i

olarak yazıldığında ^n→∞ iken,

√ ⁿ ( ^{X ¯} n −μ ) ^{⃗ D N} ( ^{0 ,} i=−∞ ^∑

∞

γ(i) )

dir 

Burada γ (h) _, X _t zaman serisinin otokovaryans fonksiyonudur.

Teoreme göre, X _t zaman serisi durağan ise merkezi limit teoremi uygulanabilir.

Örnek 3.4.3 İkinci bölümde öngörülerin kitle ortalamasına, örneklem ortalamasının kitle ortalamasına yaklaştığını söylemiştik. AR(1) modeline uygun olarak üretilen ve satırlar halinde aşağıdaki tabloda verilen 100 verinin zaman serisi grafiği ile, otokorelasyon ve kısmi otokorelasyon fonksiyonlarının grafikleri aşağıdadır.

10.49 11.39 11.46 11.43 10.61 10.49 10.19 9.00 9.50 11.22 11.21 12.65 11.88 12.15 10.62 10.89 8.90 8.00 8.50 9.10

8.00 8.50 8.80 9.40 10.60 10.02 9.60 8.00 9.00 9.20

8.80 9.10 10.83 11.95 11.10 12.33 10.30 9.20 8.60 9.10

9.20 9.20 9.10 10.30 9.60 10.16 8.50 9.70 9.20 9.80

8.10 7.90 8.00 6.80 7.60 8.30 7.70 7.90 6.60 7.20

8.30 9.00 9.70 8.90 10.13 9.70 10.46 12.35 10.75 11.75

11.30 11.54 11.91 12.40 10.97 11.87 9.60 9.90 9.80 9.50

10.60 11.37 10.51 10.53 8.90 10.12 9.90 10.30 7.70 6.00

7.10 5.00 6.80 7.50 6.90 7.00 7.10 7.90 8.00 9.10

Seri ACF PACF

0 20 40 60 80 100

681012

Lag

ACF

0 5 10 15 20

-0.4-0.20.00.20.40.60.81.0

Series : y

Lag

Partial ACF

0 5 10 15 20

-0.20.00.20.40.60.8

Series : y

Grafiklerden, kısmi otokorelasyonların birinci gecikmeden sonra hızla sıfıra yaklaştığı gözlenmektedir. Birinci kısmi otokorelasyon %95 lik güven sınırının dışında olup diğerleri %95 lik güven sınırının içindedir. Ayrıca otokorelasyonların azaldığı görülmektedir. AR(1) serilerinin bu özelliklere sahip olduğunu ikinci bölümden biliyoruz. Buna göre verilere,

0 1 1 , 1, 2,3,...,

t t t

X     X _  e t  n

şeklinde bir modelin uygun olduğu düşünülürse, örneklem ortalaması

¯x _n = 9.5113 _olup  ₁ parametresinin tahmin değeri (SAS PROC ARIMA ) α ^ ₁ = 0.80077 olarak gözlenmiştir. Verilere

X _t = α ₀ +α ₁ X _t−1 +e _t şeklinde AR(1) modelinin uygun olduğu dikkate alınarak, ilk 20 öngörü hesaplanarak aşağıda verilmiştir. SAS’da PROC ARIMA’ya göre μ ’nün tahmin değeri μ=9.6569 ^ _dur.

100 veri ve hesaplanan 20 öngörü

Görüldüğü gibi öngörüler μ=9.6569 ^ değerine yaklaşmaktadır. Bu öngörülerden ilk 20 tanesi aşağıdadır.

9.211

0 9.299

8 9.371

0 9.427

9 9.473

6 9.510

1 9.539

3 9.562

8 9.581

5 9.596

5 9.608

6 9.618

2 9.625

9 9.632

1 9.637

0 9.641

0 9.644

2 9.646

7 9.648

8 9.650

4

α ^ ₁ = 0.80077 olup değer mutlak değerce 1 den küçüktür ve önerilen

AR(1) modeli durağandır. O halde, X ^t zaman serisi, ⁰

| _i |

i

 

  



olmak

üzere, ^{t i 0 i t i} X  ^  e _

   

şeklinde yazılabilir. Teorem (3.4.1) den, örneklem ortalamasının asimptotik dağılımının ^n→∞ iken,

 n  ^{D 0, ( )}

i

n X  N ^  i



   

    

olduğu söylenebilir. Buradaki, ∑

i=−∞

∞

γ(i)

asimptotik varyans değeri serinin

varyansıdır (

γ(0)= ∑

i=−∞

∞

γ(i)

). Model AR(1) olduğundan,

2 2

( _t ) /(1 1 ) Var X    

dir. Bu değer, γ (0)=2.529847 ^ olarak hesaplanmıştır. Asimptotik dağılım kullanılarak μ için yaklaşık %95 lik güven aralığı

1 / 2

ˆ ˆ(0) z

n ^

   _

şeklinde yazılabilir. α=0.05 (%5 anlam düzeyi) için z ¹ _{ } ^{/ 2}  1.96 değeri yerine konulduğunda %95 lik güven aralığı,

9.6569  2.529847 (1.96) /10 veya (9.3452 , 9.9686)

olarak elde edilir. Buradan, öngörülerin uzun dönemde bu aralık içinde olacağı %95 lik bir güven ile söylenebilir ⊗

Teorem 3.4.2 (Fuller, 1996, s.235) X ₁ , X ₂ ,..., X _n ,... _rasgele

değişkenleri aşağıdaki özellikleri sağlasın.

i) E( X _t | X ₁ ,X ₂ ,..., X _t−1 )=0, a.s.

ii) δ>0 _için s ^{−(2+δ )} _n ∑

t=1 n

E ( ^{| X} t | ^2+δ ) ^{→ 0 , n→∞}

iii) V _n ² / s _n ²  ^P 1 , n  

Bu durumda, MLT geçerlidir. Yani, n   iken S _n −E (S _n )

√ ^{Var (S} n ) ⃗ ^D N ( 0 , 1 ) dir 

Burada,

¹

n

n t

t

S X



 

,

2 2

1 2 1

1

( | , ,..., )

n

n t t

t

V E X X X X

_



 

ve

2 2

( )

n n

s  E V dir.

Örnek (3.4.2c) de asimptotik dağılım bulunurken Z _t ler için Teorem (3.4.2) deki ilk iki koşulun sağlandığı gösterilmişti. Şimdi, aynı problem için teoremdeki (iii) koşulunun sağlandığını görelim. Örnekteki rasgele değişkenlerin teoremin (iii) koşulundaki ifadeler

V _n ² = ∑

t=1 n

E(Y _t ² | Y ₁ ,Y ₂ ,...,Y _t−1 )= ∑

t=1 n

E (Y _t−1 ² e _t ² | Y ₁ ,Y ₂ ,...,Y _t−1 )

= ∑

t=1 n

Y _t−1 ² E (e _t ² | Y ₁ ,Y ₂ ,...,Y _t−1 )= ∑

t=1 n

Y _t−1 ² E(e _t ² )= σ ² ∑

t=1 n

Y _t−1 ²

ve s _n ² =E(V _n ² )=n σ ² γ _Y ( 0) olarak hesaplandığında ^n→∞ iken,

V _n ² s _n ² =

σ ² ∑

t=1 n

Y _t−1 ² n σ ² γ _Y ( 0 ) =

∑ t=1 n

Y _t−1 ² n γ _Y (0 ) = 1

γ _Y (0) 1 n ∑

t=1 n

Y _t−1 ² ⃗ ^P γ _Y (0) γ _Y (0) =1

şeklinde elde edilir. Yani, Teorem (3.4.2) nin bütün koşulları sağlanır. Buna göre Teorem (3.4.2) den, MLT geçerli olduğu görülür. Yani , ^n→∞

iken

√ ⁿ ( ^{^β} n − β ) ^{⃗ D N ( 0 , 1− β 2 )}

dir.

İstatistikte sonuç çıkarımlar (hipotez testleri, parametreler ve öngörüler için güven aralıkları yazılması gibi) yapılırken merkezi limit teoremi çok önemlidir. Verilen bir zaman serisinin kısmi otokorelasyonlarından birincisi anlamlı olarak sıfırdan farklı görünmesine rağmen, ikinci kısmi otokorelasyon güven sınırları etrafında olabilir. O zaman serinin AR(2) mi yoksa AR(1) olarak mı modelleneceği tartışılmalıdır. Yani verilerin,

( X _t −μ )=α ₁ ( X _t−1 −μ )+α ₂ ( X _t−2 −μ )+e _t

veya

( X _t − μ )=α ₁ ( X _t−1 − μ )+e _t

olarak mı modellenmesi gerektiği sorusu sorulmalıdır. Başka bir deyişle,

H ₀ :α ₂ =0 hipotezinin H _a :α ₂ ≠0 alternatif hipotezine karşı test edilebilmesi için α ₂ nin tahmin edicisinin asimptotik dağılımına ihtiyaç vardır.

Diğer taraftan, verilen herhangi bir zaman serisi

( X _t − μ )=α ₁ ( X _t−1 − μ )+e _t

şeklinde AR(1) olarak modellenirse öngörüler,  ¹ parametresinin tahmin değerine göre değişir. Bunun için eldeki veriler kullanılarak, tahmin edicinin asimptotik dağılımı bilindiğinde  ¹ için güven aralığı yazılabilir.  ¹ _in EKK tahmin edicisinin asimptotik dağılımı normal ise,  ¹ için %95 lik güven aralığı, α ^ ₁ ± 1.96 s( ^α ₁ ) şeklinde olur.  ¹ in EKK tahmin edicisinin asimptotik dağılımı için durağanlığın önemli olduğu unutulmamalıdır. Seri durağan değil ise  ˆ ¹ nın asimptotik dağılımı normal olmayabilir.

Örnek 3.4.4

~ (0, 2 ) e t WN 

ve X ⁰  0 olsun. AR(1) zaman serisi modeli de X _t = ρ X _t−1 +e _t olarak verilsin. Model ρ=1 _için

durağan değildir. ρ nun EKK tahmin edicisinin bulunması için

durağanlığa ihtiyaç yoktur. Bu tahmin edici

ρ ^ _n = [ ^{∑ t=1 n X t−1 2} ] ⁻¹ [ ^{∑ t=1 n X t−1 X t} ]

şeklinde olup bu ifade biraz düzenlendiğinde ρ ^ _{n ,}

 

1 1

2 2

1 1 1 1 1

1 1 1 1

1

2 1 1

1 1

ˆ _n ⁿ _t ⁿ _{t t} ⁿ _t ⁿ _{t t t}

t t t t

n n

t t t

t t

X X X X X X e

X X e

 



 

    

   



 

 

       

          

       

   

     

   

   

 

şeklinde yazılabilir. Eşitlik ρ=1 _için, ρ ^ _n −1= [ ^{∑ t=1 n X t−1 2} ] ⁻¹ [ ^{∑ t=1 n X t−1 e t} ]

şeklindedir. ρ ^ _n nın pay ve paydasındaki ifadelerin yakınsama hızları önceki kısımda açıklandığı gibi bulunur. Önce, ρ ^ _n −1 nin payındaki toplamın yakınsama hızını bulalım. X ⁰  0 olduğundan

X _t = e ₁ + e ₂ +.. .+e _{t olup,} ρ ^ _n −1 nın payındaki toplam

 

1

1 1 2 1

1 1 1 1

2

2

1 1

...

1 2

n n t n

t t i t t t

t t i t

n n

t t

t t

X e e e e e e e

e e



 

   

 

 

      

 

   

 

         

   

 

olarak yazılabilir. e _t ler beklenen değeri 0 _varyansı σ ² olan bağımsız rasgele değişkenler olduğundan ρ ^ _n −1 ifadesindeki pay kısmının beklenen değeri

t t

2 2

n n n n n

2 2

t 1 t t t

t 1 t 1 t 1 t 1 t 1

1 1

E X e E e e E e E e

2 2

     

   

                     

           

 

           

    

t t

n n

2 2

t 1 t 1

1 E e E e 0

2 _{ }

     

                       olup diğer momentler

1

4 1 1

2 2

1

( 1) 2 ( 1)

2

t

n

t t

t n

t

Var X e n n

E X n n







 





  

 

 



  

 

 





Var [ ^{∑ t=1 n X}

^t−1

² ] ^{= n(n−1)(n 3 2 −n+1 ) σ 4}

Cov [ ^{∑ t=1 n X t−1 e t , ∑}

^t=1n

^X

^2t−1

] ⁼ n (n−1 )( n−2 ) σ

⁴

3

olarak hesaplanmıştır (Fuller, 1996, s.547). Buna göre,

∑ t=1 n

X _t−1 e _t = O _P ( n )

ve ∑

t=1 n

X

t−1

2 =O _P ( n ² )

olup,

ρ ^ _n −1= [ ^{∑ t=1 n X t−1 2} ] ⁻¹ [ ^{∑ t=1 n X t−1 e t} ] ⁼ [ ^{n 1 2 ∑ t=1 n X t−1 2} ] ^{−1 1 n} [ ^{1 n ∑ t=1 n X t−1 e t} ]

şeklinde yazılabilir. Buradan, ^n→∞ iken

ρ ^ _n −1= 1

n [ ^{n 1 2 ∑ t=1 n X t −1 2} ] ⁻¹ [ ^{1 n ∑ t=1 n X t−1 e t} ] ^{⃗ P 0}

elde edilir. Diğer taraftan, n (   ˆ _n 1) nin yakınsama hızı

n ( ^{ρ ^} n −1 ) ⁼ [ ^{n 1 2 ∑ t=1 n X t−1 2} ] ⁻¹ [ ^{1 n ∑ t=1 n X t−1 e t} ] ^{=O P ( 1)}

olarak elde edilir. n (   ˆ _n 1) nin asimptotik dağılımı normal değildir. Bu

dağılım Dickey-Fuller dağılımlarından biridir ve beşinci bölümde detaylı bir

şekilde incelenecektir ⊗

Örnek 3.4.5 e _t ~WN (0,σ ² ) olmak üzere E(e _t ⁴ )<∞ _olsun.

Beyaz gürültü serisinin örneklem otokovaryansları,

γ ^ _n ( h)= 1 n−h ∑

t=1 n−h

e _t e _t−h

formülü ile hesaplanır.  ˆ ( ) _n h tahmin edicisinin asimptotik dağılımını bulalım. e _t ler beyaz gürültü serisi olduğundan,

E(e _t )=E (e _t−h )=0 _ve γ (h )=Cov( e _t , e _t−h )= E (e _t e _t−h )

dir. Z _t =e _t e _{t−h denirse,}

1 2 1 1 2 1

1 2 1

( | , ,..., ) ( | , ,..., )

( | , ,..., ) ( ) 0

t t t t h t

t h t t t h t

E Z Z Z Z E e e Z Z Z

e E e Z Z Z e E e

  

  



  

olup, Teorem (3.4.2) nin (i) koşulu sağlanır. E(e _t ⁴ )<∞ _ve e _{t beyaz}

gürültü serisi olduğundan δ=2 için (ii) koşulu da sağlanır. Teoremin (iii) koşulu için

2 2 2

1 2 1 1 2 1

2 2 2 2 2

1 2 1

( | , ,..., ) ( | , ,..., )

( | , ,..., ) ( )

t t t t h t

t h t t t h t t h

E Z Z Z Z E e e Z Z Z

e E e Z Z Z e E e  e

  

   



  

ve

V _n ² = ∑

t=1 n

E( Z _t ² | Z ₁ , Z ₂ ,. . ., Z _t−1 )= σ ² ∑

t=1 n

e _t−h ²

hesaplandığında,

s _n ² =E(V _n ² )= E ( ^{σ 2 ∑ t=1 n e t−h 2} ) ^{=nσ 4}

olup ^n→∞ iken,

V _n ² s _n ² =

σ ² ∑

t=1 n

e _t−h ² n σ ⁴ =

∑ t=1 n

e _t−h ²

n σ ² = 1 σ ²

1

n ∑

t=1 n

e _t−h ² ⃗ ^P σ ²

σ ² =1

olasılıkta yakınsama elde edilir. Buradan, Teoremin bütün koşulları sağlanır ve Z _t = e _t e _t−h rasgele değişkenlerine MLT uygulanabilir. Yani, asimptotik dağılım ^n→∞ iken

∑ t=1 n

Z _t −E ( ^∑ t=1 n

Z _t )

√ ^{Var ( ∑ t=1 n Z t )}

⃗

D N ( 0 , 1 )

şeklinde elde edilmiş olur.

Otokovaryans fonksiyonunun tahmin edicisini,

γ ^ _n ( h)= 1 n−h ∑

t=1 n−h

e _t e _t−h = 1 n−h ∑

t=1 n−h

Z _t = 1 n−h ∑

t=1 n

Z _t − 1 n−h ∑

t=1 h

Z _t

olarak yazalım. Sabit h için eşitliğin sağındaki ikinci terim

1 n−h ∑

t=1 h

Z _t =O _P (1 / n)

dir. γ ^ _n ( h) yeniden düzenlenerek

γ ^ _n ( h)= 1 n−h ∑

t=1 n−h

e _t e _t−h = n

n−h [ ^{1 n ∑ t=1 n Z t − 1 n ∑ t=1 h Z t} ]

olarak da yazılabilir. Kolayca görüleceği gibi,

E [ ^{∑ t=1 n Z t} ] ^{= E} [ ^{∑ t=1 n e t e t−h} ] ^{= nγ(h )}

olduğundan ^n→∞ iken

 

2

ˆ ( ) ( )

(0,1)

n D

n h h

  N



 

veya n   ^{ˆ ( )} n h   ^{( )} h   ^D N ^{( 0,}  ^{4 )} bulunur. e _t ler normal

rasgele değişkenler ise  ˆ ( ) _n h ile  ˆ ( ) _n k arasındaki kovaryans

 

4 4

2 / , 0

ˆ ( ), ˆ ( ) /( ) , 0

0 , . .

n n

n h k

Cov h k n h h k

d d



  

  

     

 

dir (Fuller (1996, s. 316)) ⊗

Otokorelasyon fonksiyonu ρ ^ _n ( h)= [ ^{γ ^} n ( 0 ) ] ^{−1 ^ γ} n ( h) _şeklinde tahmin edilir. e _t ler beyaz gürültü serisi olduğundan otokovaryanslar

γ (0)=σ ² _ve h≠0 için γ(h )=0 dir. Buna göre, ^n→∞ iken ˆ (0) _n ^P 2

   olduğundan Teorem (3.4.2) ile Slutsky Teoremi beraber kullanıldığında  ˆ ( ) _n h nin asimptotik dağılımı ^n→∞ iken

ˆ ( ) _n

^D

(0,1)

n  h   N dir. Ayrıca, Teorem (3.2.2b) den, n   iken

2 2

ˆ ( )

1 n

n  h 

D

 

asimptotik dağılımı da yazılabilir.

e _t rasgele değişkenlerinin altıncı momenti sonlu (

E(e _t ⁶ )=η σ ⁶ <∞ ) ise otokorelasyonların tahmin edicileri arasındaki kovaryans

 ^{ˆ ( ), ˆ ( )}  ^{( ) /} ₂ ^{2 ( 2 ) , 0}

( ) , . .

n n

n h n O n h k

Cov h k

O n d d

     _  ^  

  

dir (Fuller (1996, s.319)). Buna göre,  ˆ ( ) _n h ler normal olduğundan bağımsızdır. Buradan, Box-Pierce istatistiği olarak bilinen ve belli sayıdaki otokorelasyonların sıfırdan farklı olup olmadığının sınanması için kullanılan

Q _n istatistiğinin asimptotik dağılımı ki-karedir (Enders, 2002, s.68). k

tane otokorelasyonun sıfır olduğunu test etmek için Q _n istatistiği, 2

1

ˆ ( )

k

n n

i

Q n  i



 

olarak yazılır. Asimptotik dağılım ise, ^n→∞ iken

Q _n =n ∑

i=1 k

ρ ^ _n ² ( i ) ⃗ ^D χ ² _k

dir. Q _n istatistiğinin modife edilmiş hali olan Ljung-Box istatistiği de

Q _n ^r _,

Q _n ^r =n(n+2 ) ∑

i=1 k

( n−i) ⁻¹ ρ ^ _n ² ( i)

şeklindedir. m=( p+q ) olmak üzere, Q _n ^r istatistiğinin asimptotik dağılımı da, ^n→∞ iken

Q _n ^r =n(n+2 ) ∑

i=1 k

( n−i) ⁻¹ ρ ^ _n ² ( i) ⃗ ^D χ _{k −m} ²

dir (Wei, 2006, s.153). Burada, Q _n ^r istatistiği, herhangi bir X _{t zaman}

serisi ARMA(p,q) olarak modellendiğinde, artıklar serisinin beyaz gürültü serisi olup olmadığını sınamak için kullanılır. Q _n istatistiği de, herhangi bir serinin belli sayıdaki otokorelasyonlarının anlamlı olup olmadığını sınamak için kullanılır (Enders, 2002). Q

^nr

istatistiği zaman serilerinde ARCH etkisinin bulunup bulunmadığının sınanmasında (Enders, 2010, s.436) da kullanılmaktadır.

Herhangi bir AR(2) zaman serisi, e _t ~ WN (0,σ ² ) olmak üzere,

X _t =α ₁ X _t−1 + α ₂ X _t−2 +e _t , t=1,2, .. . , n

olarak verilmiş olsun. Bu model

Y =        





 

 

 

 





X n

X X

. . .

4 3

, X = [ ^{. . . X X X n−1 2 3 . . . X X X n−2 1 2} ] _, ^{ }

^{[¿¿righαα] [¿¿¿¿}¿^¿12]¿

, ^e=

e₃ e₄ . . .

e_n righ¿

¿¿

¿

[¿^{] [}¿^{] [}¿^{] [}¿^{] [}¿^]¿

¿

¿

olmak üzere, Y = X β + e şeklinde lineer model gibi yazılabilir.

β nın EKK tahmin edicisi,  ˆ

_n

 ( X X  )

^1

X Y  olup bu tahmin edici, lineer regresyon modelinde olduğu gibi bir çok istatistiksel özelliği (yansızlık, en küçük varyanslı olması gibi) sağlamaz. İstatistiksel özellikler doğrudan sağlanmasa da bazıları asimptotik olarak sağlanır. Tahmin edici açık olarak,

1

2 1 1 2 1

1 1 1

1

1 2 2 2 2

1 1 1

ˆ ( )

n n n

t t t t t

t t t

n n n n

t t t t t

t t t

X X X X X

X X X X X



   

  



   

  

   

   

   

 

 

   

   

   

  

  

 X X X Y

şeklinde ifade edilebilir. Burada X yerine ^t  ¹ X ^t _ ¹   ² X ^t _ ²  e ^t yazılırsa

 

1 1 1 1 2 2

1 1

1 2 1 2 1 2 1

1 1 1

n n

t t t t t t

t t

n n n

t t t t t

t t t

X X X X X e

X X X e X

 

 

   

 

   

  

  

  

 

  

ve

 

2 2 1 1 2 2

1 1

n n

t t t t t t

t t

X _ X X _  X _  X _ e

 

  

 

2

1 1 2 2 2 2

1 1

^t

1

n n n

t t t t

t t t

X X X e X

 _{ } 

_

_

  

     

eşitlikleri elde edilir. Buradan,  ˆ

_n

 ( X X  )

^1

X Y 

1 1

2

2

1

2 1 1 2

1 1

1

1 2 2 2

1 1

1

1

ˆ ( )

n t t

n t t

n n

t t t

t t

n n n

t t t

t t

t

t

e X

e X

X X X

X X X











  

 



  

 





 

   

   

   

   

        

     

 





 

 

 X X X Y

şeklinde yazılır. Eşitliğin sağ tarafı biraz daha düzenleme ile,