Sabit Varyans
Var(ui|Xi) = Var(ui) = E(ui2) = s2 Eşit Varyans
Y
X
1
EKKY’nin varsayımlarından biri anakütle regresyon fonksiyonu ui lerin eşit varyanslı olmasıdır.
Her hata terimi varyansı bağımsız değişkenlerin verilen değerlerine göre s2 ye eşit aynı (sabit) bir değerdir. Bu nedenle eşit varyansa sabit varyans da denir.
2
Sabit Varyansta Hataların Dağılımı
x
ty
t. . .
. . . .
. . . .
. . .
. .
. . . .
.. . . . . .
. . . . . . .
. . . . .
.
.
Gelir
Tüketim
3
. .
x
tx
1x
2f(y
t)
Sabit Varyans Durumu
.
.
x
3x
4Gelir
Farklı Varyans Kavramı
4
• “Sabit varyans”(homoscedasticity) varsayımına göre verili açıklayıcı değişkenlerine bağlı olarak ’nin koşullu varyansı sabittir:
•“Farklı varyans” (heteroscedasticity) durumunda ise de- ğiştikçe ’nin koşullu varyansı da değişir:
•Farklı varyansa bir örnek olarak tasarrufların varyansının gelirle birlikte artmasını verebiliriz.
•Yüksek gelirli ailelerin tasarrufları, düşük gelirli ailelere oranla hem ortalama olarak daha çoktur hem de değişirliği daha fazladır.
i=1, 2,..,n
Xi Yi
Xi
Yi
2 2
E(u )
i s
2 2
i i
E(u ) s
Farklı Varyans
Var(ui|Xi) = Var(ui) = E(ui2) = si2 Farklı Varyans Hata
Zaman
5
Farklı Varyansta Hataların Dağılımı
x
ty
t.
. . . . . . . .
. . . .
. . . .
. .
.
. . .
. .
. . .
. . . .
. . .
. .
. . . .
. . .
. .
Gelir Tüketim
6
.
x
tx
1x
2f(y
t)
x
3. .
Farklı Varyans Durumu
Gelir
Zengin bireyler
Yoksul bireyler
7
Farklı Varyansın Nedenleri
• Hata terimi varyansının değişken olma nedenlerinden bazıları şunlardır:
1. “Hata öğrenme” (error learning) modellerine göre bireyler bazı konuları öğrendikçe daha az hata yaparlar. Buna göre de nin de zamanla küçülmesi beklenir.
Örnek olarak, bilgisayarda klavye kullanma süresi arttıkça hem klavye hataları hem de bunların varyansları azalır.
8
s
22. Gelir düzeyi arttıkça gelirin harcanabileceği seçenekler de genişler.
Böylece, gelir düzeyi ile birlikte hem harcamaların hem de bunların varyanslarının artması beklenir.
3. Zaman içerisinde veri derleme tekniklerinin gelişmesine koşut olarak de düşebilir.
4. Farklı varyans “dışadüşen”(outlier) gözlemlerin bir sonucu olarak da ortaya çıkabilir.Böyle gözlemlerin alınması ya da bırakılması, özellikle de örneklem küçükken sonuçları önemli ölçüde değiştirebilir.
Farklı Varyansın Nedenleri
2
si
9
Farklı Varyansın Nedenleri
5. Farklı varyansın bir diğer nedeni de model belirleme (spesifikasyon) hatasıdır. Özellikle de önemli bir değişkenin modelden çıkartılması farklı varyansa yol açabilir.
6. Farklı varyans sorunu yatay kesit verilerinde zaman serisi verilerine oranla daha fazla görülebilmektedir. Bunun nedeni, zaman serilerinde değişkenlerin zaman içerisinde yakın büyüklüklerde olma eğilimidir.
10
Farklı Varyans ile Karşılaşılan Durumlar
Kar dağıtım modelleri, Sektör modelleri, Ücret modelleri ve Deneme - Yanılma modelleri gibi kesit verilerinde karşılaşılır.
11
En Küçük Kareler İle İlgili Özellikleri
1. En Küçük Kareler Tahmincileri doğrusal ve sapmasızdır.
2. Katsayı tahmincileri etkin değildir.
3. En Küçük kareler tahmincilerinin standart hataları doğru değildir.
4. Standart hata formulleri doğru olmadığından güven aralıkları ve hipotez testleri geçerli değildir.
12
y t = b 1 + b 2 x t + e t
Farklı varyans durumunda:
En küçük kareler varyans formulu geçersizdir:
var(b
2) = s
2S ( x
t- x )
2Enküçük kareler varyans formulu aşağıdaki gibi düzeltilmelidir.:
var(b
2) = S s
t 2( x
t- x )
2[S ( x
t- x )
2]
213
Farklı Varyansın Belirlenmesi
•Grafik Yöntemle.
•Sıra Korelasyonu testi ile.
•Goldfeld-Quandt testi ile.
•White testi ile.
•Lagrange çarpanları testi ile
14
Grafik Yöntem
YIL
50 40
30 20
10 0
LMAAS
5.2
5.0
4.8
4.6
4.4
4.2
4.0
3.8
3.6
15
Grafik Yöntem
YIL
50 40
30 20
10 0
E2 .7
.6
.5
.4
.3
.2
.1
0.0
-. 1
16
Grafik Yöntem
YIL
50 40
30 20
10 0
Standardized Residual
4
3
2
1
0
-1
-2
-3
-4
17
Sıra Korelasyonu Testi
1.Aşama H0: r = 0 H1: r 0
2.Aşama a = ? s.d.=?
3.Aşama
t
tab=?
r ? 1
2 n
t r
2 s
hes s
-
-
4.Aşama
H0 hipotezi reddedilebilir
t
hes> t
tab) ? 1 n
( n 6 d
1
r
22
s i
- S
-
18
Sıra Korelasyonu Testi
75 88 95 125 115 127 165 172 183 225
Y
80 100 120 140 160 180 200 220 240 260 X
7.0545 4.7091 -3.6364 11.0182 -14.327 -17.672 4.9818 -3.3636 -7.7091 18.9455
e Xs es di di2
1 2 3 4 5 6 7 8 9 10
1 2
4 3
6 8 7 9
10 5
7 1
3 -1
3 -3 -3 -3
0 -4
49 1
9 1
9 9 9 9
0 16
Sdi2=112 Mutlak değerli olarak bulundukları
yer itibariyle küçükten büyüğe sıra
numarası verilir d=X-e 19
Sıra Korelasyonu Testi
- S
-
n ( n 1 ) 6 d
1
r
22 i
s
-
-
10 ( 10 1 ) 6 112
1
2 = 0.32121.Aşama H0: r = 0 H1: r 0
2.Aşama a = 0.05 s.d.= 8 3.Aşama
t
tab= 2.306
hes 2
) 3212 .
0 ( 1
2 10
3212 .
t 0
-
-
=0.9593
4.Aşama
H0 hipotezi reddedilemez.
t
hes< t
tab20
Büyük örneklere uygulanan bir F testidir. Bu test s2i nin farklı varyansının bağımsız değişkenlerden biri ile pozitif ilişkili olduğunu varsayar.
2 2
2
.
ii
s X
s
s2i Xi ile pozitif (aynı yönde) ilişkilidir ve s2i farklı varyansı X’in karesi ile orantılıdır. Yani Xi değerleri arttıkça s2i değeri de
artmaktadır.
Goldfeld-Quandt Testi
Goldfeld-Quandt Testi
Y X2s X3 ... Xk
Y = b1 + b2 X2 + b3 X3+ ... + bk Xk + u
I.Alt Örnek n1
II.Alt Örnek n2
Çıkarılan Gözlemler
YI = b11 + b21 X2 + b31 X3+ ... + bk1 Xk + u
YII = b12 + b22 X2 + b32 X3+ ... + bk2 Xk + u n(1/6) < c < n(1/3)
Se12=?
Se22=? 22
Goldfeld-Quandt Testi
1.Aşama H0: Eşit Varyans H1: Farklı Varyans
2.Aşama a = ? 3.Aşama
F
tab=?
e ?
F e
21 2
hes 2
S
S
4.Aşama
H0 hipotezi reddedilebilir
F
hes> F
tab2 ?
) k 2 c n f (
f1 2 - -
23
X bağımsız değişkeninin değerleri küçükyen büyüğe doğru ilgili Y bağımlı değişkeninin değerleri de taşınarak sıralanır. Ortadan c kadar gözlem çıkarılır.
Yıl Tasarruf Gelir
1 264 8777
2 105 9210
3 90 9954
4 131 10508
5 122 10979
6 107 11912
7 406 12747
8 503 13499
9 431 14269
10 588 15522
11 898 16730
12 950 17663
13 779 18575
14 819 19635
15 1222 21163
16 1702 22880
17 1578 24127
Tasarruf 1654
Gelir 25604
1400 26500
1829 27670
2200 28300
2017 27430
2105 29560
1600 28150
2250 32100
2420 32500
2570 35250
1720 33500
1900 36000
2100 36200
2300 38200
Gelir bağımsız değişkenine göre
tasarrufu da sıralıyoruz.
n1 Tasarrfuf Gelir n2 Tasarrfuf Gelir
1 264 8777 1 1829 27670
2 105 9210 2 1600 28150
3 90 9954 3 2200 28300
4 131 10508 4 2105 29560
5 122 10979 5 2250 32100
6 107 11912 6 2420 32500
7 406 12747 7 1720 33500
8 503 13499 8 2570 35250
9 431 14269 9 1900 36000
10 588 15522 10 2100 36200
11 898 16730 11 2300 38200
Gelire göre sırandı.
Ortadan 31/4=8 veya 9 gözlem çıkarılacak.
İki alt grup oluşturuldu.
X S
1 - 738 . 84 0 . 008
(189.4) (0.015)
1447771
2 1
Se
X S
2 1141 . 07 0 . 029
(709.8) (0.02)
769899
2 2
Se
f1=f2=(n-c-2k)/2=9 sd de Ftab=3.18
144771
5
769899 2
1 2
2
S
S
e
F
teste
White Testi
Y = b1 + b2 X2 + b3 X3+ u
White Testi için yardımcı regresyon:
u2 = a1 + a2 X2 + a3 X3+ a4 X22 + a5 X32 + a6 X2X3 + v Ry2 = ?
White Testi Aşamaları:
1.Aşama
2.Aşama a = ? 3.Aşama
4.Aşama
H0: a2 = a3 = a4 = a5 = a6=0
H1 : ai’lerin en az bir tanesi anlamlıdır s.d.= k-1 c2tab=?
W= n.Ry2 = ?
W > c2tab H0 hipotezi reddedilebilir
29
White Testi
lnMaaş = 3.8094 + 0.439 Yıl + 0.06 eğitim n=222 White Testi için yardımcı regresyon:
1.Aşama
2.Aşama a = 0.05 3.Aşama
4.Aşama
H0: a2 = a3 = a4 = a5= a6=0
H1 : ai’lerin en az bir tanesi anlamlıdır s.d.=6-1=5 c2tab=11.07 W= n.Ry2 = 222(0.0901)= 20.0022
W > c2tab H0 hipotezi reddedilebilir
e2= -0.0018 + 0.02 Yıl + 0.07 Yıl2- 0.03 Eğitim + 0.004 Eğitim2 + 0.014 Yıl*Eğitim
Ry2 = 0.0901
30
Lagrange Çarpanları(LM) Testi
Y = b1 + b2 X2 + b3 X3+ u
LM testi için yardımcı regresyon:
Ry2 = ? LM Testi Aşamaları:
1.Aşama
2.Aşama a = ? 3.Aşama
4.Aşama
H0: b = 0 H1 : b0
s.d.= 1 c2tab=?
LM= n.Ry2 = ? LM > c2tab
v Y ˆ
b a
e
2
*
* 2
H0 hipotezi reddedilebilir
31
Lagrange Çarpanları(LM) Testi
lnMaaş = 3.8094 + 0.439 Yıl + 0.06 Eğitim n=222 LM Testi için yardımcı regresyon:
1.Aşama
2.Aşama a = 0.05 3.Aşama
4.Aşama
H0: b = 0 H1 : b0
s.d.=1 c2tab=3.84146
LM= n.Ry2 = 222(0.0537)= 11.9214
LM > c2tab H0 hipotezi reddedilebilir e2 = -0.2736 + 0.0730 (lnMaas)2
Ry2 = 0.0537
32
UYGULAMA: 32 ailenin yıllık gıda harcamaları (Y) ve aylık ortalama gelirleri (X) aşağıda verilmiştir.
Aile Sayısı Y X u Aile Sayısı Y X u
1 2.2 2.8 -0.75464 17 1.5 2 -1.25412
2 3 3.5 -0.1301 18 5.8 7.2 1.74247
3 4.1 13.5 -1.53666 19 8.2 18.1 1.41032
4 3.5 8.2 -0.80818 20 4.3 6.2 0.49313
5 4.2 5.9 0.46833 21 9.4 16.1 3.11164
6 6.3 15.3 0.21216 22 5.1 25.2 -3.46933
7 4.6 9.7 -0.08417 23 2.4 8.2 -1.90818
8 8.8 26.4 -0.07012 24 8.1 13.4 2.48841
9 7.3 18.2 0.48526 25 4.9 5.6 1.24352
10 4.4 6.7 0.4678 26 3 4.2 -0.30556
11 6.7 11.3 1.61478 27 4.6 8.8 0.14142
12 3.5 4.7 0.06911 28 1.9 3.5 -1.2301
13 6.8 26.3 -2.04505 29 2.6 12.4 -2.76094
14 7.2 22.3 -0.64243 30 3.9 4.3 0.56938
15 3.1 6.1 -0.68181 31 7 12.9 1.51373
16 2.4 3.2 -0.6549 32 11.2 26.5 2.3048233
UYGULAMA: Yi = b0 + b1Xi + i modeli için sabit varyans varsayımının geçerli olup olmadığını
•Grafik Yöntemle.
•Sıra Korelasyonu testi ile.
•Goldfeld-Quandt testi ile.
•White testi ile.
•Lagrange çarpanı testi ile inceleyiniz.
34
Grafik Yöntem
35
Sıra Korelasyonu Testi
1.Aşama H0: r = 0 H1: r 0
2.Aşama a = 0.05 s.d.=?
3.Aşama
t
tab=?
r ? 1
2 n
t r
2 s
hes s
-
-
4.Aşama
H0 hipotezi reddedilebilir
t
hes> t
tab) ? 1 n
( n 6 d
1
r
22
s i
- S
-
36
Sıra Korelasyonu Testi
- S
-
n ( n 1 ) 6 d
1
r
22 i
s 2
1 6 3630
32(32 1)
- -
1.Aşama H0: r = 0 H1: r 0
2.Aşama a = 0.05 s.d.= 30
t
tab= 2.042
hes 2
0.3347 32 2 t
1 (0.3347)
-
- =
1.9454
4.Aşama
H0 hipotezi reddedilemez.
t
hes< t
tab37
Goldfeld-Quandt Testi
c = 32 / 5 = 6.4 6 gözlem atılacak. (14.-19. gözlemler)
13 gözlemden oluşan iki grup için modeller
1.-13. gözlemler için
Yi = 0.5096 + 0.6078Xi
e12 3.620120.-32. gözlemler için
Yi = 3.8153 + 0.1723Xi
e22 49.963138
Goldfeld-Quandt Testi
1.Aşama H0: Eşit Varyans H1: Farklı Varyans
2.Aşama a = 0.05 3.Aşama
F
tab=2.82
2 2
hes 2
1
e 49.9631
F 13.8016
e 3.6201
S
S
4.Aşama
H0 hipotezi reddedilebilir
F
hes> F
tab1 2
(32 6 2 * 2)
f f 11
2
- -
39
White Testi
White Testi için yardımcı regresyon:
1.Aşama
2.Aşama a = 0.05 3.Aşama
4.Aşama
H0: a2 = a3 = 0 ;
H1 : ai’lerin en az bir tanesi anlamlıdır s.d.=3-1=2 c2tab=5.99 W= n.Ry2 = 32(0.2296) = 7.3472
W > c2tab H0 hipotezi reddedilebilir e2= -0.6909 + 0.3498X – 0.0058X2 Ry2 = 0.2296
Y 2.2528 0.2507X
i40
Lagrange Çarpanları(LM) Testi
LM Testi için yardımcı regresyon:
1.Aşama
2.Aşama a = 0.05 3.Aşama
4.Aşama
H0: b = 0 H1 : b0
s.d.=2-1=1 c2tab=3.84146
LM= n.Ry2 = 32(0.201) = 6.432
LM > c2tab H0 hipotezi reddedilebilir Ry2 = 0.201
Y 2.2528 0.2507X
i2 2
e 0.417 + 0.060 Y
41
nin BİLİNMESİ HALİ
FARKLI VARYANSI ORTADAN KALDIRMA YOLLARI
2
s
i
2nin BİLİNMEMESİ HALİ
s
iFarklı varyans durumunda EKKY tahmincileri etkinlik özelliklerini kaybettiklerinden güvenilir değildirler. Bu sebeple farklı varyans ortadan kaldırılmadan EKKY uygulanmamalıdır. Y
ilerin (veya u
ilerin) farklı varyansları s
2inin bilinip bilinmemesine göre farklı varyansı kaldıran iki yol vardır:
42
s
i2nin BİLİNMESİ HALİ
Y
i= b
1+ b
2X
i+ u
is
i2i i i
i 2 i
1 i
i X u
1 b Y b
s
s
s s
( )
i2 2i 2
i
i 1 E u
E u
s
s 1 2 1
2 i i
s s
2
* * * * *
i 1 i i
Y b b X u
• Genelleştirilmiş EKKY(GEKKY)
43
Genelleştirilmiş EKKY(GEKKY)
Sabit terimi yoktur.
İki tane bağımsız değişken vardır.
i i i
i 2 i
1 i
i X u
1 b Y b
s
s
s s
44
Genelleştirilmiş EKKY(GEKKY)
2
* * *
* *
1 i
i i
Y b b X e e
*i e
is
i(
* *)
22* * *
1 2
i i i
e Y - b - b X min
(
ei si)
2 (
Yi si)
- b 11*(
si)
- b*2(
Xi si)
2
wi (
1s
i2)
(
* *)
22 1 2
i i i i i
w e w Y - b - b X
45
Genelleştirilmiş EKKY(GEKKY)
(
* *) ( )
2 *
1 2
i i 1 i i i
w e b 2 w Y b b X 1
- - -(
* *) ( )
2 *
1 2
i i 2 i i i i
w e b 2 w Y b b X X
- - -2 *
i i 1
w e b 0
2 *
i i 2
w e b 0
* *
1 2
i i i i i
w Y b w b w X
* *
2
1 2
i i i i i i i
w X Y b w X b w X
* *
* *
1 2
b Y - b X
( )( ) ( )( )
( ) ( ) ( )
i i i i i i i i
*
2 2 2
i i i i i
w w X Y w X w Y
b
w w X w X
-
-
*
i i i
X
w X w*
i i i
Y
w Y w 46EKKY ve GEKKY Arasındaki Fark
( )
22
i i 1 2 i
e Y - b - b X
EKKY
GEKKY w e
i i2 w Y
i(
i- b
1*- b X
*2 i)
2min
min
2
i i
w 1 s
47
s
i2nin BİLİNMEMESİ HALİ
1.HAL: LOGARİTMİK DÖNÜŞÜMLER
i 1 2 i i
Y b b X u ln Y
i ln b
1 b ln X
2 i v
i2 .HAL:
E u ( )
2i s
i2 s
2X
i2i 1 2 i i
Y b b X u Y X
i i b 1 X
1(
i) b X 1 X
2 i(
i) u X
i i( )
1 i 2 i
b 1 X b v
( )
2i(
i i)
2 i2( )
i2 2 2 i2 2 iE v E u X 1 X E u 1 X
X s s
48
s
i2nin BİLİNMEMESİ HALİ
3 .HAL:
E u ( )
2i s
i2 s
2X
ii 1 2 i i
Y b b X u
( ) ( )
i i 1 i 2 i i i i
Y X b 1 X b X 1 X u X
( )
1 i 2 i i
b 1 X b X v
( )
i2(
i i)
2 i( )
2i i(
i2 i)
2E v E u X 1 X E u 1 X s X s
49
4 .HAL:
E u ( )
i2 s
i2 s
2( a
0 a X
1 i)
2 s
i2nin BİLİNMEMESİ HALİ
( )
2i i2 2E u s s f (X)
( ) (
0 1 i) (
2 0 1 i)
f X a a X a a X
i 1 2 i i
Y b b X u ( a
0 a X
1 i) bölünür
50
5 .HAL:
E u ( )
i2 s
i2 s
2 E Y ( )
i
2 s
i2nin BİLİNMEMESİ HALİ
i 1 2 i i
Y b b X u
( ) ( ) ( ( ) ) ( )
i i 1 i 2 i i i i
Y E Y b E Y b X E Y u E Y
( ) ( )
1 i 2 i i i
b 1 E Y b X E Y v
51
UYGULAMA: 32 ailenin yıllık gıda harcamaları (Y) ve aylık ortalama gelirleri (X) aşağıda verilmiştir.
Aile Sayısı Y X u Aile Sayısı Y X u
1 2.2 2.8 -0.75464 17 1.5 2 -1.25412
2 3 3.5 -0.1301 18 5.8 7.2 1.74247
3 4.1 13.5 -1.53666 19 8.2 18.1 1.41032
4 3.5 8.2 -0.80818 20 4.3 6.2 0.49313
5 4.2 5.9 0.46833 21 9.4 16.1 3.11164
6 6.3 15.3 0.21216 22 5.1 25.2 -3.46933
7 4.6 9.7 -0.08417 23 2.4 8.2 -1.90818
8 8.8 26.4 -0.07012 24 8.1 13.4 2.48841
9 7.3 18.2 0.48526 25 4.9 5.6 1.24352
10 4.4 6.7 0.4678 26 3 4.2 -0.30556
11 6.7 11.3 1.61478 27 4.6 8.8 0.14142
12 3.5 4.7 0.06911 28 1.9 3.5 -1.2301
13 6.8 26.3 -2.04505 29 2.6 12.4 -2.76094
14 7.2 22.3 -0.64243 30 3.9 4.3 0.56938
15 3.1 6.1 -0.68181 31 7 12.9 1.51373
16 2.4 3.2 -0.6549 32 11.2 26.5 2.30482
52 52
1.HAL: LOGARİTMİK DÖNÜŞÜMLER
( )
i iln Y 0.2546 0.5742ln X t (1.5691) (8.1077) prob (0.1271) (0.0000)
R
2 0.6866
( )
2 2ln e 0.0472 0.0123ln Y R
2 0.0178
1.Aşama
2.Aşama a = 0.05 3.Aşama
4.Aşama
H0: b = 0 H1: b 0
s.d.=2-1=1 c2tab=3.84146
LM= n.Ry2 = 32(0.0178) = 0.5696
LM < c2tab H0 hipotezi reddedilemez.
53
2 .HAL:
E u ( )
2i s
i2 s
2X
i2( )
i i i
Y X 1.277 1 X 0.3652 t (5.151) (8.109) prob (0.000) (0.000)
R
2 0.4694
2 2
e 0.0118 0.0297Y R
2 0.0509
1.Aşama
2.Aşama a = 0.05 3.Aşama
4.Aşama
H0: b = 0 H1: b 0
s.d.=2-1=1 c2tab=3.84146
LM= n.Ry2 = 32(0.0509) = 1.6288
LM < c2tab H0 hipotezi reddedilemez.
54
3 .HAL:
E u ( )
2i s
i2 s
2X
i( )
i i i i
Y X 22.246 1 X 8.3144 X
t (-4.686) (15.337) prob (0.001) (0.000)
-
R
2 0.7938
2 2
e 2.7482 0.0749Y R
2 0.2365
1.Aşama
2.Aşama a = 0.05 3.Aşama
4.Aşama
H0: b = 0 H1: b 0
s.d.=2-1=1 c2tab=3.84146
LM= n.Ry2 = 32(0.2365) = 7.568
LM > c2tab H0 hipotezi reddedilebilir.
55
5 .HAL:
E u ( )
i2 s
i2 s
2 E Y ( )
i
2( ) ( ) ( ( ) )
i i
i i i
1 1
Y E Y 1.839 0.292
E Y X E Y
t (5.2630) (7.4167) prob (0.0000) (0.0000)
R
2 0.0442
2 2
e -0.0439 0.1182Y
R
2 0.0290
1.Aşama
2.Aşama a = 0.05 3.Aşama
4.Aşama
H0: b = 0 H1: b 0
s.d.=2-1=1 c2tab=3.84146
LM= n.Ry2 = 32(0.0290) = 0.928
LM < c2tab H0 hipotezi reddedilemez.
56