Regresyon Analizi

İstatistiksel anlamda iki değişken arasındaki ilişki, değerlerinin karşılıklı değişimleri arasındaki bağlılık şeklinde ifade edilebilir. Yani X değişkeninin değerleri değişirken buna bağlı olarak Y değişkeninin değerleri de aynı veya zıt yönde değişiyorsa, bu iki değişken arasında bir ilişki olduğu söylenebilir. İki veya daha fazla sayıdaki değişken arasında bir ilişkinin olup olmadığı ve eğer bir ilişki varsa bu ilişkinin derecesinin saptanması istatistikte çokça kullanılan önemli konular arasındadır (Url-6).

Değişkenler arasındaki ilişkiyi ifade edebilmek için korelasyon ve regresyon analizlerinden yararlanılmaktadır. Korelasyon analizi, serbest ve bağımlı değişkenler arasındaki ilişkinin düzeyini veya derecesini ölçen analizdir. Regresyon analizi ise değişkenler arasındaki ilişkinin fonksiyonel şekli üzerine yoğunlaşmaktadır (Düzcan, 2010). Diğer bir ifadeyle, korelasyon analizi “Bu iki değişken arasında ilişki var mı?” sorusuna cevap bulmaya çalışırken, regresyon analizi ise “Bu iki değişken arasında nasıl bir ilişki var?” sorusuna cevap aramaktadır (Özçekiç, 2007).

Regresyon, Fransızca regression kelimesinden türeyerek dilimize giren ve sözlük anlamıyla bir şeyi başka bir şeye bağlama işi ve biçimi olarak ifade edilen bir kavramdır. İstatistiksel anlamda ise değişkenler arasındaki ilişkiden doğan ve bu

değişkenlerin değişimleri arasında bir bağlılık ilişkisi kuran istatistiksel ifade regresyon olarak tanımlanmaktadır. Yani değişkenler arasındaki neden sonuç ilişkisini bir fonksiyonla açıklamaya çalışan istatistiksel yaklaşıma regresyon analizi adı verilmektedir. (Özçekiç, 2007).

Aralarında sebep-sonuç ilişkisi bulunan iki ya da daha fazla değişken arasındaki ilişkiyi belirlemek ve bu ilişkiyi kullanarak o konu ile ilgili tahminler yapabilmek amacıyla yapılan regresyon analizi, değişkenlerden birisi belirli bir birim değiştiğinde diğerinin nasıl bir değişim gösterdiğini inceler. Regresyon analizi sonuçlarının yorumlanmasında sıkça yapılan hata, x bağımsız değişkeninin y bağımlı değişkenine sebep olduğu şeklinde yapılan yorumdur. Burada dikkat edilmesi gereken nokta bağımsız değişkenlerin bağımlı değişkendeki değişimi açıklıyor olmasının sebepselliği gerektirmemesidir. Yani sebepsellik ile ilişki farklı kavramlardır. İki değişken arasındaki bir ilişkinin sebebi belki de iki değişkenin üçüncü bir değişkenle olan ilişkilerinden kaynaklanıyor olabileceği gibi tesadüfi olarak da ortaya çıkmış olabilir. Regresyon analizi değişkenler arasındaki ilişkinin yapısı ve derecesi ile ilgilenmektedir (Url-7).

Regresyon analizi bağımsız değişken sınıfına göre ve fonksiyon tipine göre iki farklı şekilde gruplandırılmaktadır. Tek bağımsız değişken olması durumunda “basit regresyon analizi”; birden çok değişken olması durumunda ise “çoklu regresyon analizi” olarak isimlendirilme yapılmaktadır. Fonksiyon tipine göre ise “doğrusal regresyon analizi” ve “doğrusal olmayan regresyon analizi” olmak üzere iki farklı gruba ayrılmaktadır (Düzcan, 2010).

7.1.1 Basit doğrusal regresyon

Değişkenler arasında bulunduğu varsayılan gerçek doğrusal ilişkinin tek bir bağımsız değişken içeren bir doğru denklemi ile gösterilmesiyle elde edilen basit doğrusal regresyon modelinde ana kütle için denklem şu şekilde ifade edilir (Url-6):

Yi = α + β x i + e (7.1)

Bu formülde Y bağımlı değişkeninin tek bir bağımsız değişken olan “x” ile arasındaki ilişki doğrusal fonksiyonla ifade edilmiştir. Formülde e terimi hata değerini; α ve β sabit katsayıları ise regresyon denklemini belirleyecek olan katsayıları ifade etmektedir.

Modelin α ve β parametrelerini bulabilmek için x bağımsız değişkeni ve Y bağımlı değişkeni ile ilgili gözlemlere ihtiyaç vardır fakat bu değişkenlerin ana kütlelerini oluşturan bütün değerleri bilmek imkansızdır. Dolayısıyla örneklemeye başvurulur ve bu yöntemle α ve β parametrelerinin tahmini olan a ve b katsayıları bulunabilir. Yeni denklem şu şekildedir:

Y = a + bx + e (7.2) Parametrelerin tahmini olan a ve b katsayılarını bulabilmek için en küçük kareler yöntemine kullanılır. Y gözlem değerlerini, Y* ise regresyon doğrusu üzerinde bulunan teorik değerleri ifade ederse; hata terimi şu şekilde bulunur (Yel, 2011):

e = Yi – Yi* (7.3)

En küçük kareler yöntemi, Formül 7.3’deki e hata terimlerinin karelerinin toplamının minimum yapılmasını esas alan bir yaklaşımdır ve Formül 7.4’deki şekilde ifade edilir:

Σ e2

= Σ (Yi - Yi*)2 = minimum (i= 1,...,n) (7.4)

7.1.2 Çoklu regresyon analizi

Bir bağımlı değişken ve birden fazla bağımsız değişkenin yer aldığı regresyon modelleri çok değişkenli regresyon modelleri olarak isimlendirilir.

Yani basit regresyondan farklı olarak, çoklu regresyonda bağımlı değişken üzerinde birden fazla bağımsız değişkenin toplu etkisi araştırılır. Birçok değişken bir araya gelerek bir değişkeni etkileyebildikleri gibi, kendi aralarında da birbirlerini etkileyebilmektedir. Dolayısıyla çoklu regresyon analizinde bağımsız değişkenler eş zamanlı olarak bağımlı değişkendeki değişimi açıklamaya çalışmaktadırlar (Düzcan, 2010 ; Url-7).

Hesaplama bakımından basit regresyon analizine benzeyen çoklu regresyon analizinde bağımlı değişken Y ve birden çok bağımsız değişken X1, X2,…, Xk vardır.

Çoklu regresyon analizi denklemi Formül 7.5’deki gibi ifade edilir:

Yi = β0 + β1x1i +…+ βkxki + εi (i =1,2,…,n) (7.5)

Basit doğrusal regresyonda olduğu gibi çoklu regresyon analizinde de denklemdeki β katsayılarının değerini bulmak için en küçük kareler yöntemi kullanılır. Y gözlem

değerlerine en yakın tahmini değerleri verecek olan çoklu regresyon denklemi hataların kareleri toplamını minimum yapan fonksiyondur (Yel, 2011).

Çoklu regresyon analizinde tahmin hatalarının tesadüfi olduğu ve normal dağılım gösterdiği, tahmin hatalarının birbirinden bağımsız olduğu ve bağımsız değişkenler arasında basit doğrusal ilişkiler olmadığı varsayımları yapılmaktadır (Düzcan, 2010). 7.1.3 Belirlilik katsayısı

Örnekten hesaplanan regresyon denkleminin verilere uyum düzeyini, dolayısıyla denklemin başarısını ölçmede belirlilik katsayısı (R²) denilen bir istatistik kullanılmaktadır (Düzcan, 2010).

Bağımlı değişkende meydana gelen 1 birim değişikliğin hangi oranda bağımsız değişkenler tarafından temsil edildiğini belirten belirlilik katsayısı, regresyon denkleminin başarısını ölçme yanında denklemin tahmin gücünü de yansıtan bir istatistiktir (Yel, 2011).

Regresyon denkleminin ne kadar anlamlı olduğunu ortaya koyması açısından son derece önemli olan belirlilik katsayısı, değişimin ne kadarının bağımsız değişkence açıklanabildiğini ortaya koymaktadır (Özçekiç, 2007).

Belirlilik katsayısı değeri 0 ile 1 arasında değer almaktadır. Belirlilik katsayısının 1 değerini alması bağımlı değişkendeki değişimin tamamının bağımsız değişkenler tarafından açıklanabildiğini; 0 değerini alması ise bağımlı değişkendeki değişimin bağımsız değişkenler tarafından hiç açıklanamadığını ortaya koymaktadır.