Yrd.Doç.Dr.A.TalhaYALTA Do˘grusalBa˘glanımModelineDizeyYakla¸sımı

(1)

Dizey Yakla¸sımı ile Do ˘grusal Ba ˘glanım Modeli Dizey Yakla¸sımı ile Tahmin Sorunu Dizey Yakla¸sımı ile Çıkarsama Sorunu

Do ˘grusal Ba ˘glanım Modeline Dizey Yakla¸sımı

Yrd. Doç. Dr. A. Talha YALTA Ekonometri 2 Ders Notları

Sürüm 2,0 (Ekim 2011)

(2)

˙I¸sbu belge, “Creative Commons Attribution-Non-Commercial ShareAlike 3.0 Unported” (CC BY-NC-SA 3.0) lisansı altında bir açık ders malzemesi olarak genel kullanıma sunulmu¸stur.

Eserin ilk sahibinin belirtilmesi ve geçerli lisansın korunması ko¸sulu ile özgürce kullanılabilir, ço ˘galtılabilir ve de ˘gi¸stirilebilir.

Creative Commons örgütü ve “CC-BY-NC-SA” lisansı ile ilgili ayrıntılı bilgi “http://creativecommons.org” adresinde bulunmaktadır. Ekonometri ders notlarımın güncel sürümüne

“http://yalta.etu.edu.tr” adresinden ula¸sabilirsiniz.

A. Talha Yalta

TOBB Ekonomi ve Teknoloji Üniversitesi Ekim 2011

Yrd. Doç. Dr. A. Talha YALTA (2007 - 2011) Do ˘grusal Ba ˘glanım Modeline Dizey Yakla¸sımı (Sürüm 2,0)

(3)

Ders Planı

1 Dizey Yakla¸sımı ile Do ˘grusal Ba ˘glanım Modeli k De ˘gi¸skenli Modelin Dizey Gösterimi KDBM Varsayımlarının Dizey Gösterimleri

2 Dizey Yakla¸sımı ile Tahmin Sorunu SEK Tahmincilerinin Bulunması Varyans-Kovaryans Dizeyi

3 Dizey Yakla¸sımı ile Çıkarsama Sorunu Bireysel Katsayıların Önsav Sınamaları Varyans Çözümlemesi ve F Sınamaları Dizey Gösterimi ile Kestirim

(4)

(5)

k De ˘gi¸skenli Modelin Dizey Gösterimi KDBM Varsayımlarının Dizey Gösterimleri

Dizey Yakla¸sımının Önemi

Y ba ˘gımlı de ˘gi¸skeni ile (k − 1) sayıda açıklayıcı de ˘gi¸sken (X₂,X₃, . . . ,X_k) içeren k de ˘gi¸skenli do ˘grusal ba ˘glanım modelini ele almak için en do ˘gru yakla¸sım dizey cebiridir.

Dizey cebirinin“sayıl”(scalar) cebirine üstünlü ˘gü, herhangi bir sayıda de ˘gi¸sken içeren ba ˘glanım modellerini ele alı¸staki yalın ve öz yakla¸sımıdır.

k de ˘gi¸skenli model bir kez kurulduktan ve dizey cebiri ile çözüldükten sonra bu çözüm çok sayıda de ˘gi¸skene kolaylıkla uygulanabilir.

(6)

k de ˘gi¸skenli anakütle ba ˘glanım i¸slevini anımsayalım:

Y_i = β₁+ β₂X_2i+ β₃X_3i + · · · + β_kX_ki+u_i Burada i örneklem büyüklü ˘gü oldu ˘guna göre, elimizdeki AB˙I ¸su n sayıdaki e¸sanlı denklemin kısa yazılı¸sıdır:

Y1 = β₁+ β₂X21+ β₃X31+ . . . + β_kXk 1 + u1

Y2 = β₁+ β₂X22+ β₃X32+ . . . + β_kXk 2 + u2

... ... ... ... ... ... ... ... . .. ... ... ... ... Yn = β₁+ β₂X2n+ β₃X3n+ . . . + β_kXkn + un

Yukarıdaki denklem setini ¸söyle de gösterebiliriz:





 Y₁ Y₂ ... Yn







=







1 X₂₁ X₃₁ . . . X_{k 1} 1 X₂₂ X₃₂ . . . X_{k 2} ... ... ... . .. ... 1 X2n X3n . . . Xkn











 β₁ β₂ ... β_k





 +





 u₁ u₂ ... un







Ya da kısacaY_n×1 =X_n×kB_{k ×1}+u_n×1.

(7)

k De ˘gi¸skenli Ba ˘glanımın Dizey Gösterimi

X, Y, B ve u’nun boyutlarının karı¸sıklı ˘ga yol açmayaca ˘gı durumda, do ˘grusal ba ˘glanım modelinin dizey gösterimi a¸sa ˘gıdaki gibi olur:

Y = XB + u Burada

Y ba ˘gımlı de ˘gi¸sken gözlemlerinin n × 1 boyutlu sütun yöneyini,

X X₂’den X_k’ye kadar olan k − 1 de ˘gi¸skenin n sayıdaki gözleminin n × k boyutlu dizeyini,

B β₁, β₂, . . . , β_k anakütle katsayılarının k × 1 boyutlu sütun yöneyini,

u ise u_i “bozukluk”(disturbance) teriminin n × 1 boyutundaki sütun yöneyini

(8)

Örnek olarak daha önce incelemi¸s oldu ˘gumuz iki de ˘gi¸skenli tüketim-gelir modelinin dizey yakla¸sımı ile gösterimi ¸sudur:

2 6 6 6 6 6 6 6 6 6 6 6 6 6 4

70 65 90 95 110 115 120 140 155 150

3 7 7 7 7 7 7 7 7 7 7 7 7 7 5

= 2 6 6 6 6 6 6 6 6 6 6 6 6 6 4

1 80

1 100 1 120 1 140 1 160 1 180 1 200 1 220 1 240 1 260

3 7 7 7 7 7 7 7 7 7 7 7 7 7 5

» β1

β2

– +

2 6 6 6 6 6 6 6 6 6 6 6 6 6 4

u1

u2

u₃ u₄ u5

u6

u7

u₈ u₉ u10

3 7 7 7 7 7 7 7 7 7 7 7 7 7 5

Bu da kısaca ¸söyle yazılabilir:

Y_10×1=X_10×2B_2×1+u_10×1

(9)

1. Varsayım

Dizey cebiri yakla¸sımı, önceden görmü¸s oldu ˘gumuz klasik do ˘grusal ba ˘glanım modeli (KDBM) varsayımlarını incelemede büyük kolaylık sa ˘glamaktadır.

¸

Simdi bu be¸s varsayımı dizey yakla¸sımı ile ele alalım:

1. Varsayım

u bozukluk yöneyinin tüm ö ˘geleri için beklenen de ˘ger sıfırdır.

Kısaca hata teriminin beklenen de ˘geri sıfırdır: E (u) = 0.

Daha açık olarak E (u) = 0 ¸su demektir:

E 0 B B B

@ 2 6 6 6 4

u1

u₂ .. . un

3 7 7 7 5 1 C C C A

= 2 6 6 6 4

E (u1) E (u₂)

.. . E (un)

3 7 7 7 5

= 2 6 6 6 4

0 0 .. . 0

3 7 7 7 5

(10)

2. Varsayım

u_i hataları, sıfır ortalama ve sabit bir varyans ile normal da ˘gılırlar:u ∼ N(0, σ²I).

u burada n × 1 boyutlu sütun yöneyi, 0 ise aynı boyutlu bir bo¸s yöneydir.

Bu varsayım, ba ˘glanımın tahmin edilmesinden sonra çe¸sitli önsav sınamalarının yapılabilmesi için gereklidir.

(11)

3. Varsayım

Hatalar arasında özilinti yoktur: E (uu⁰) = σ²I.

Bu varsayımın daha önce sayısal olarak ele alınan üç varsayımın kısa ve öz anlatımı oldu ˘gu ¸söyle gösterilebilir:

E (uu⁰) =E 2 6 6 6 4

u1

u2

... un

3 7 7 7 5

ˆ u1 u2 . . . un ˜ = E 2 6 6 6 4

u₁² u1u2 . . . u1un

u2u1 u₂² . . . u2un

... ... . .. ... unu1 unu2 . . . u²n

3 7 7 7 5

(. . . devam)

(12)

Dizeyin her bir ö ˘gesinin beklenen de ˘gerini alalım:

E 2 6 6 6 4

u₁² u₁u₂ . . . u₁un

u₂u₁ u₂² . . . u₂un

.. .

..

. . .. ... unu1 unu2 . . . u²_n

3 7 7 7 5

= 2 6 6 6 4

E (u²₁) E (u₁u₂) . . . E (u₁un) E (u₂u₁) E (u²₂) . . . E (u₂un)

.. .

..

. . .. ... E (unu1) E (unu2) . . . E (u_n²)

3 7 7 7 5

Hata terimi ortalaması sıfır varsayılıdır: E (u_i) = µ =0 Varyans ve kovaryansın formüllerini anımsayalım:

var(X ) = E (X²) − µ², cov(X , Y ) = E (XY ) − µ_XµY

Bu durumda, u_i hatalarının“varyans-kovaryans dizeyi”

(variance-covariance matrix) üçüncü varsayıma göre ¸söyle olmalıdır:

E (uu⁰) = 2 6 6 6 4

σ² 0 . . . 0 0 σ² . . . 0

.. .

..

. . .. ... 0 0 . . . σ²

3 7 7 7 5

= σ² 2 6 6 6 4

1 0 . . . 0 0 1 . . . 0

.. .

..

. . .. ... 0 0 . . . 1

3 7 7 7 5

= σ²I

(13)

4. Varsayım

n × n boyutluX dizeyi olasılıksal de ˘gildir.

Di ˘ger bir deyi¸sle X_2i,X_3i, . . . ,X_ki de ˘gi¸smeyen sayılardan olu¸smaktadır.

Ba¸sta belirtildi ˘gi gibi, elimizdeki ba ˘glanım çözümlemesi X de ˘gi¸skenlerinin verili de ˘gerlerine ba ˘glı bir ko¸sullu ba ˘glanım çözümlemesidir.

(14)

5. Varsayım

X’in derecesi k ’dir: ρ(X) = k . k burada X’in sütun sayısı olup, gözlem sayısı n’den küçüktür.

Di ˘ger bir deyi¸sle, X de ˘gi¸skenleri arasında tam bir do ˘grusal ili¸ski ya da“çoklue¸sdo ˘grusallık”(multicollinearity) yoktur.

E ˘ger bu varsayım gerçekle¸smez ise, ba ˘glanıma aitX⁰X dizeyinin belirleyeni sıfır olur ve çözümlemede gerekli olan tersi bulunamaz.

(15)

SEK Tahmincilerinin Bulunması Varyans-Kovaryans Dizeyi

Ders Planı

(16)

B yöneyini tahmin etmek için sıradan enküçük kareler (SEK) ya da ençok olabilirlik (EO) gibi farklı yakla¸sımlar kullanılabildi ˘gini biliyoruz.

Biz dikkatimizi SEK yöntemi üzerinde toplayaca ˘gız.

Ba ˘glanımın SEK tahminini bulmak için önce k de ˘gi¸sken içeren örneklem ba ˘glanım i¸slevini yazalım:

Y_i = ˆβ₁+ ˆβ₂X_2i + ˆβ₃X_3i + · · · + ˆβ_kX_ki+ ˆu_i

(17)

SEK Tahmincilerinin Bulunması

ÖB˙I’yi dizey gösterimiyle açık olarak ¸söyle gösterebiliriz:

2 6 6 6 4

Y1

Y2

... Yn

3 7 7 7 5

= 2 6 6 6 4

1 X21 X31 . . . Xk 1

1 X22 X32 . . . Xk 2

... ... ... . .. ... 1 X2n X3n . . . Xkn

3 7 7 7 5 2 6 6 6 6 4

βˆ1

βˆ2

... βˆk

3 7 7 7 7 5

+ 2 6 6 6 4

uˆ1

uˆ2

... uˆn

3 7 7 7 5

Ya da kısaca

Y_n×1 =X_n×kBˆ_{k ×1}+ ˆu_n×1

Bilindi ˘gi gibi SEK tahmincileri hata kareleri toplamının enazlanması yolu ile bulunmaktadır.

Öyleyse yukarıdaki e¸sitli ˘gi ¸su ¸sekilde de yazabiliriz:

u = Y − X ˆˆ B

(18)

Hata kareleri toplamının a¸sa ˘gıdaki gösterim biçimine dikkat edelim:

uˆ⁰u =ˆ ˆ

uˆ1 uˆ2 . . . uˆn ˜ 2 6 6 6 4

uˆ₁ ˆ u₂

.. . uˆn

3 7 7 7 5

= ˆu12

+ ˆu22

+ · · · + ˆun2

=X ˆui2

Buna göreu⁰u’nun dizey gösterimi a¸sa ˘gıdaki gibidir:

uˆ = Y − X ˆB

uˆ⁰uˆ = (Y − X ˆB)⁰(Y − X ˆB)

= Y⁰Y − 2 ˆB⁰X⁰Y + ˆB⁰X⁰X ˆB

Dikkat:BuradaY⁰X ˆB bir sayıl oldu ˘gu için, kendi devri ˘gi olan ˆB⁰X⁰Y’ye e¸sittir.

(19)

SEK Tahmincilerinin Bulunması

uˆ⁰u = Yˆ ⁰Y − 2 ˆB⁰X⁰Y + ˆB⁰X⁰X ˆB e¸sitli ˘gini enazlamak için, bu e¸sitli ˘gin ˆB’ya göre kısmi türevini alır ve sıfıra e¸sitleriz.

Bu i¸slem bize“normal denklemler”(normal equations) denilen k bilinmeyenli k e¸sanlı denklemi verir:

βˆ1n + βˆ2P X2i+ βˆ3P X3i + · · · + βˆkP Xki =P Yi

βˆ1P X2i+ βˆ2P X2i² + ˆβ3P X2iX3i + · · · + ˆβkP X2iXki =P X2iYi

βˆ1P X3i+ ˆβ2P X3iX2i+ βˆ3P X3i² + · · · + ˆβkP X3iXki =P X3iYi

... ... ... ... ... ... . .. ... ... ... ... βˆ1P Xki + ˆβ2P XkiX2i+ ˆβ3P XkiX3i + · · · + βˆkP X_ki²=P XkiYi

(20)

Yukarıdaki denklem takımının dizey gösterimi ¸sudur:

2 6 6 6 6 6 4

n P X2i P X3i . . . P Xki

P X2i P X_2i² P X2iX3i . . . P X2iXki

P X3iP X3iX2i P X_3i² . . . P X3iXki

... ... ... . .. ... P Xki P XkiX2iP XkiX3i . . . P Xki²

3 7 7 7 7 7 5 2 6 6 6 6 6 6 4

βˆ1

βˆ2

βˆ3

... βˆk

3 7 7 7 7 7 7 5

= 2 6 6 6 6 6 4

1 1 . . . 1 X21X22. . . X2n

X31X32. . . X3n

... ... . .. ... Xk 1Xk 2. . . Xkn

3 7 7 7 7 7 5 2 6 6 6 6 6 4

Y1

Y2

Y3

... Yn

3 7 7 7 7 7 5

Bu da kısaca (X⁰X)_{k ×k}Bˆ_{k ×1}=X⁰_{k ×n}Y_n×1 diye yazılır.

(21)

SEK Tahmincilerinin Bulunması

Normal denklemlerin dizey gösteriminde yer alan a¸sa ˘gıdaki (X⁰X) dizeyi önemlidir.

X⁰X = 2 6 6 6 6 6 4

n P X2i P X3i . . . P Xki

P X2i P X2i² P X2iX3i . . . P X2iXki

P X3i P X3iX2i P X3i² . . . P X3iXki

... ... ... . .. ... P Xki P XkiX2i P XkiX3i . . . P Xki²

3 7 7 7 7 7 5

Bu dizeyin ¸su üç özelli ˘gine dikkat edelim:

1 (X⁰X) dizeyi k × k boyutundadır ve olasılıksal de ˘gildir.

2 Asal kö¸segen ö ˘geleri ham kare toplamlarını, kö¸segen dı¸sı ö ˘geler ise ham çapraz çarpım toplamlarını gösterir.

3 X_2iX_3i çapraz çarpımı X_3iX_2i çapraz çarpımına e¸sit oldu ˘gu için dizey bakı¸sımlıdır.

(22)

Sonuç olarak, k de ˘gi¸skenli modelin SEK tahmincilerini elde etmek için normal denklemlerin dizey gösterimini yazalım:

(X⁰X) ˆB = X⁰Y

E ˘ger (X⁰X) dizeyinin tersi varsa, yukarıdaki denklemin her iki yanını bu ters dizeyle önden çarparak ¸sunu bulabiliriz:

(X⁰X) ˆB = X⁰Y

(X⁰X)⁻¹(X⁰X) ˆB = (X⁰X)⁻¹X⁰Y I ˆB = (X⁰X)⁻¹X⁰Y Buna göre SEK kuramının temel denkleminin dizey gösterimi ¸sudur:

B = (Xˆ ⁰X)⁻¹X⁰Y

Yukarıdaki e¸sitlik, eldeki verilerden ˆB yöneyinin nasıl tahmin edilece ˘gini gösterir.

(23)

Varyans-Kovaryans Dizeyi

Herhangi bir ˆβ_i varyansı yanında tüm ˆβ_i ve ˆβ_j’lar arasındaki kovaryansları dizey yöntemi ile kolayca gösterebiliriz.

Bu varyans ve kovaryanslar çe¸sitli istatistiksel çıkarsama i¸slemleri için önemlidir.

B’nınˆ “varyans-kovaryans dizeyi”(variance-covariance matrix) ¸su ¸sekilde tanımlanmı¸stır:

varcov( ˆB) = E

[ ˆB − B][ ˆB − B]⁰ Buna göre varcov( ˆB) aslında ¸su dizeydir:

varcov( ˆB) = 2 6 6 6 6 4

var( ˆβ1) cov( ˆβ1, ˆβ2) . . . cov( ˆβ1, ˆβk) cov( ˆβ2, ˆβ1) var( ˆβ2) . . . cov( ˆβ2, ˆβk)

... ... . .. ... cov( ˆβk, ˆβ1) cov( ˆβk, ˆβ2) . . . var( ˆβk)

3 7 7 7 7 5

(24)

varcov( ˆB)’yı türetmede Y = XB + u e¸sitli ˘ginden yararlanılır.

Üsttekini ˆB = (X⁰X)⁻¹X⁰Y temel denkleminde yerine koyarsak ¸sunu elde ederiz:

B=(Xˆ ⁰X)⁻¹X⁰(XB + u)

=(X⁰X)⁻¹X⁰XB + (X⁰X)⁻¹X⁰u

=B + (X⁰X)⁻¹X⁰u

Demek ki ˆB − B = (X⁰X)⁻¹X⁰u.

varcov( ˆB) varyans-kovaryans dizeyi ise tanım gere ˘gi ¸söyledir:

varcov( ˆB)=E ([ ˆB − B][ ˆB − B]⁰)

=E`[(X⁰X)⁻¹X⁰u][(X⁰X)⁻¹X⁰u]⁰´

=E`(X⁰X)⁻¹X⁰uu⁰X(X⁰X)⁻¹´

X ’lerin olasılıksal olmadı ˘gına dikkat edilerek ¸su bulunabilir:

varcov( ˆB) = (X⁰X)⁻¹X⁰E(uu⁰)X(X⁰X)⁻¹

= (X⁰X)⁻¹X⁰σ²IX(X⁰X)⁻¹

= σ²(X⁰X)⁻¹

Dikkat:Yukarıda E (uu⁰) = σ²I varsayımı kullanılmı¸stır.

(25)

Varyans-Kovaryans Dizeyi

Türetilmesinden de anla¸sılaca ˘gı gibi varyans-kovaryans dizeyi a¸sa ˘gıdaki gibi gösterilmektedir:

Varyans-kovaryans Dizeyi

varcov( ˆB) = σ²(X⁰X)⁻¹

(X⁰X)⁻¹burada ˆB SEK tahmincilerini veren e¸sitlikte yer alan ters dizeydir.

σ²ise u_i’nin sabit varyansıdır. Uygulamada σ²yerine yansız tahminci ˆσ²kullanılır.

k de ˘gi¸skenli durumda ˆσ²a¸sa ˘gıdaki e¸sitlikten bulunabilir:

ˆ

σ²= P ˆu_i²

n − k = uˆ⁰uˆ n − k

(26)

uˆ⁰u, ilke olarak tahmin edilen kalıntılardan bulunabilse deˆ uygulamada ¸su yolla do ˘grudan hesaplanabilir:

P ˆu_i²=KKT = TKT − BKT

Toplam kareleri toplamı a¸sa ˘gıdaki ¸sekilde gösterilir:

Toplam kareleri toplamı

P ˆy_i²=Y⁰Y − n ¯Y²

n ¯Y²terimi burada ortalamadan sapma kareleri toplamının bulunması için gereken düzeltme terimidir.

Ba ˘glanım kareleri toplamının dizey gösterimi ise ¸söyledir:

Ba ˘glanım kareleri toplamı

βˆ₂P y_ix_2i + · · · + ˆβ_kP y_ix_ki = ˆB⁰X⁰Y − n ¯Y²

(27)

Varyans-Kovaryans Dizeyi

Kalıntı kareleri toplamı KKT ise TKT ve BKT’nin dizey gösterimleri kullanılarak a¸sa ˘gıdaki gibi bulunur:

Kalıntı kareleri toplamı

KKT = TKT − BKT

uˆ⁰uˆ = (Y⁰Y − n ¯Y²) − ( ˆB⁰X⁰Y − n ¯Y²)

= Y⁰Y − ˆB⁰X⁰Y

uˆ⁰u bulunduktan sonra ˆˆ σ²’yi kolayca hesaplayabiliriz.

ˆ

σ²’yi hesapladıktan sonra ise varyans-kovaryans dizeyini tahmin edebiliriz.

(28)

SEK tahmincilerinin en iyi do ˘grusal yansız tahminci ya da kısaca“EDYT”(BLUE) olduklarını biliyoruz.

Bu özellik elbette dizey yakla¸sımıyla bulunan ˆB için de geçerlidir.

Buna göre ˆB yöneyinin her bir ö ˘gesi ba ˘gımlı de ˘gi¸sken Y ’nin do ˘grusal i¸slevidir.

B yansızdır. Di ˘ger bir deyi¸sle tüm ö ˘gelerinin beklenenˆ de ˘geri ö ˘genin kendisine e¸sittir: E ( ˆB) = B.

SEK tahmincisi ˆB, tüm B tahmincileri içinde en iyi, enaz varyanslı tahmincidir.

(29)

Belirleme Katsayısının Dizey Gösterimi

Belirleme katsayısı R²’yi daha önce ¸söyle tanımlamı¸stık:

R²= BKT TKT

Buna göre belirleme katsayısının dizey gösterimi de

¸söyledir:

R²=

Bˆ⁰X⁰Y − n ¯Y² Y⁰Y − n ¯Y²

(30)

Dizey yakla¸sımında, k de ˘gi¸skenli durum için, de ˘gi¸skenler arasındaki sıfırıncı dereceden ilinti katsayılarını veren“ilinti dizeyi”(correlation matrix) a¸sa ˘gıdaki gibi tanımlanır:

R =







r₁₁ r₁₂ r₁₃ . . . r_1k r₂₁ r₂₂ r₂₃ . . . r_2k ... ... ... . .. ... rk 1 rk 2 rk 3 . . . rkk







=







1 r₁₂ r₁₃ . . . r_1k r₂₁ 1 r₂₃ . . . r_2k ... ... ... . .. ... rk 1 rk 2 rk 3 . . . 1







Burada 1 alt imi ba ˘gımlı de ˘gi¸sken Y ’yi gösterir. Örnek olarak, Y ile X₂arasındaki ilinti katsayısı r₁₂’dir.

Asal kö¸segen üzerindeki 1’ler ise bir de ˘gi¸skenin kendisiyle olan ilinti katsayısının her zaman 1 olmasındandır.

˙Ilinti dizeyi R kullanılarak birinci dereceden ve daha yüksek dereceden ilinti katsayılarını da elde etmek olasıdır.

(31)

Bireysel Katsayıların Önsav Sınamaları Varyans Çözümlemesi ve F Sınamaları Dizey Gösterimi ile Kestirim

Ders Planı

(32)

Tahmin sonrasında çıkarsama yapabilmek için, u_i hatalarının sıfır ortalama ve sabit varyans σ²ile normal da ˘gıldıklarını varsayıyoruz:

u ∼ N(0, σ²I)

u burada n × 1 boyutlu sütun yöneyi, 0 ise bo¸s yöneydir.

Buna göre, SEK tahmincileri ˆβ_i’lar da a¸sa ˘gıda gösterilen

¸sekilde normal da ˘gılırlar:

B ∼ N[B, σˆ ²(X⁰X)⁻¹]

Demek ki ˆB’nın her ö ˘gesi, gerçek B ö ˘gesiyle e¸sit ortalama ile ve (X⁰X)⁻¹ters dizeyinin asal kö¸segenindeki uygun ö ˘ge çarpı σ²’ye e¸sit varyans ile normal da ˘gılmaktadır.

σ²(X⁰X)⁻¹’in varyans-kovaryans dizeyi oldu ˘guna dikkat ediniz.

(33)

Bireysel Katsayıların Önsav Sınamaları

Uygulamada σ²bilinmedi ˘gi için t da ˘gılımına geçilir ve ˆσ² tahmincisi kullanılır.

Bu durumda ˆB’nın her ö ˘gesi n − k sd ile t da ˘gılımına uyar:

t = βˆ_i− β_i öh( ˆβi) βˆ_iburada ˆB’nın bir ö ˘gesidir.

Demek ki t da ˘gılımını kullanarak herhangi bir ˆβ_i’nın güven aralı ˘gını bulmak ve çe¸sitli sınamaları yapmak olanaklıdır.

(34)

Tüm ba ˘glanım katsayılarının e¸sanlı olarak sıfıra e¸sit oldu ˘gu önsavını sınamak ya da bir de ˘gi¸skenin ek katkısını ölçmek için VARÇÖZ yönteminin kullanıldı ˘gını anımsayalım.

TKT, BKT ve KKT’nin dizey gösterimleri kullanılarak a¸sa ˘gıdaki gibi bir VARÇÖZ çizelgesi düzenlenebilir:

De ˘gi¸simin Kayna ˘gı KT sd OKT

Ba ˘glanımdan (BKT) Bˆ⁰X⁰Y − n ¯Y² k − 1 ^ˆ^B⁰^X⁰_{k −1}^{Y−n ¯}^Y² Kalıntılardan (KKT) Y⁰Y − ˆB⁰X⁰Y n − k ^Y⁰^{Y− ˆ}_n−k^B⁰^X⁰^Y Toplam (TKT) Y⁰Y − n ¯Y² n − 1

Buna göre:

F = ( ˆB⁰X⁰Y − n ¯Y²)/(k − 1) (Y⁰Y − ˆB⁰X⁰Y)/(n − k )

(35)

Varyans Çözümlemesinin Dizey Gösterimi

F ve R²de ˘gerlerinin yakın ili¸skili oldu ˘gunu biliyoruz.

Buna göre VARÇÖZ çizelgesinin R²gösterimi de ¸söyledir:

De ˘gi¸simin Kayna ˘gı KT sd OKT

Ba ˘glanımdan (BKT) R²(Y⁰Y − n ¯Y²) k − 1 ^R²^(Y_{k −1}⁰^{Y−n ¯}^Y²⁾ Kalıntılardan (KKT) (1 − R²)(Y⁰Y − n ¯Y²) n − k ^(1−R²^)(Y_n−k⁰^{Y−n ¯}^Y²⁾ Toplam (TKT) Y⁰Y − n ¯Y² n − 1

Demek ki:

F = R²/(k − 1) (1 − R²)/(n − k )

Bu gösterimin üstünlü ˘gü, tüm hesaplamaların yalnız R²ile yapılabilmesi ve sadele¸stirme sonrası ortadan kalkacak olan (Y⁰Y − n ¯Y²)terimiyle ilgilenmeye gerek kalmamasıdır.

(36)

Genel olarak, F sınamasının amacı bir ya da birden fazla anakütle katsayısı üzerine konulan do ˘grusal sınırlamaları sınamaktır.

Bu sınamanın dizey kar¸sılı ˘gını türetebilmek için a¸sa ˘gıdaki tanımlardan yararlanalım:

uˆ_S : Sınırlamalı SEK ba ˘glanımının kalıntı yöneyi uˆ_SM : Sınırlamasız SEK ba ˘glanımının kalıntı yöneyi uˆ⁰_Suˆ_S =P ˆu_S² : Sınırlamalı ba ˘glanıma ait KKT

uˆ⁰_SMuˆ_SM =P ˆu_SM² : Sınırlamasız ba ˘glanıma ait KKT m : Do ˘grusal sınırlama sayısı

k : Sabit terim dahil anakütle katsayılarının sayısı

n : Gözlem sayısı

(37)

F Sınamasının Dizey Gösterimi

Genel F sınamasının dizey gösterimi a¸sa ˘gıdaki gibidir:

F = (û⁰_Suˆ_S− û⁰_SMuˆ_SM)/m (û⁰_SMuˆ_SM)/(n − k )

Yukarıda gösterilen istatistik, m ve (n − k ) serbestlik derecesi ile F da ˘gılımına uyar.

Hesaplanan F de ˘geri e ˘ger kritik F de ˘gerinden büyükse, sınırlamalı ba ˘glanım sıfır önsavı reddedilir.

(38)

Tahmin edilen bir ba ˘glanım i¸slevi, belli bir X₀de ˘gerine kar¸sılık gelen Y ’yi kestirmek için kullanılabilir.

˙Iki türlü kestirim vardır:“Ortalama kestirimi”(mean prediction) ve“bireysel kestirim”(individual prediction).

Ortalama kestirimi, seçili X₀de ˘gerlerine ba ˘glanım do ˘grusu üzerinde yakı¸stırılan noktanın tahmin edilmesi demektir.

Bireysel kestirim ise X₀’ın kar¸sılı ˘gı olan Y de ˘gerinin kendisidir.

Bu iki kestirim biçimi de ˆY için aynı nokta tahmini verir.

Di ˘ger yandan bireysel kestirimin varyansı, ölçünlü hatası ve bunlara ba ˘glı olarak da güven aralı ˘gı ortalama kestirime göre daha yüksektir.

(39)

Ortalama Kestiriminin Dizey Gösterimi

Ortalama kestirimini dizey cebiri ile göstermek için, tahmin edilen çoklu ba ˘glanımın sayıl gösterimini anımsayalım:

Yˆ_i = ˆβ₁+ ˆβ₂X_2i+ ˆβ₃X_3i + · · · + ˆβ_kX_ki Yukarıdaki e¸sitli ˘gin dizey gösterimi kısaca ¸söyledir:

Yˆ_i =x⁰_iBˆ

x⁰_i = [1, X_2i,X_3i, . . . ,X_ki]burada bir satır yöneyidir.

B ise tahmin edilen β’ları gösteren bir sütun yöneyidir.ˆ Buna göre, verili birx⁰₀= [1, X₂₀,X₃₀, . . . ,X_{k 0}]yöneyine kar¸sılık gelen ˆY₀ortalama kestirimi a¸sa ˘gıdaki biçimi alır:

( ˆY₀|x⁰₀) =x⁰₀Bˆ Buradax₀’lar verili de ˘gerlerdir.

Ortalama kestirimi ayrıca yansızdır: E (x⁰ B) = xˆ ⁰ B.ˆ

(40)

Ortalama kestiriminin varyansı ise ¸söyledir:

var( ˆY₀|x⁰0) = σ²x⁰₀(X⁰X)⁻¹x⁰₀

x⁰₀burada kestirim yapmada kullanılan X de ˘gi¸skenlerinin verili de ˘gerlerini içeren satır yöneyidir.

(X⁰X)⁻¹ise çoklu ba ˘glanım tahmininde kullanılan dizeydir.

Uygulamada, hata teriminin sabit varyansı σ²yerine yansız tahmincisi ˆσ²koyularak formül ¸su ¸sekilde yazılır:

var( ˆY₀|x⁰₀) = ˆσ²x⁰₀(X⁰X)⁻¹x⁰₀

Yukarıdaki e¸sitlik kullanılarak,x⁰₀veriliyken ˆY₀ortalama kestiriminin %100(1 − α) güven aralı ˘gı bulunabilir.

(41)

Bireysel Kestirimin Dizey Gösterimi

Y ’nin bireysel kestirimi (Y₀|x⁰₀), ortalama kestirimi ( ˆY₀|x⁰₀) ile aynıdır:

(Y₀|x⁰0) =x⁰₀Bˆ

Di ˘ger yandan, bireysel kestirimin varyansı ortalama kestiriminin varyansından daha büyüktür:

var(Y₀|x⁰0) = ˆσ²[1 +x⁰₀(X⁰X)⁻¹x⁰₀] var(Y₀|x⁰₀)burada E [Y₀− ˆY₀|X ]²demektir.

Uygulamada, ortalama kestiriminde oldu ˘gu gibi, σ²yerine yansız tahmincisi ˆσ²kullanılır.

(42)

Ödev

KitaptanAppendix C“The Matrix Approach to Linear Regression Model” okunacak.

Önümüzdeki Ders Çoklue¸sdo ˘grusallık