3.1. Giriş
Bu bölümde, AÖM’nin çıkış ağırlıklarının hesaplanması için bir YFT algoritması önerilmiştir. Özellikle YSE algoritmasının en uygun gizli katman nöron sayısının elde edilmesi ve eğitim süreci karmaşıklığı gibi konularda AÖM ve düzenlenmiş AÖM yöntemlerine karşı üstünlüğü incelenmiştir. YSE algoritması ilgilenilen maliyet fonksiyonunu optimize etmektedir. Böylece YSE-AÖM yöntemi düşük işlem karmaşıklığına sahip olmaktadır [12, 14]. Literatürdeki düzenlenmiş AÖM çalışmalarına benzer şekilde YSE-AÖM tahmin problemlerine uygulanmıştır. Önerilen yöntemde YSE algoritması ilgili nöronları budamak için kullanılmıştır. Böylece en uygun ağ boyutu otomatik olarak ayarlanmaktadır. AÖM’de olduğu gibi, YSE-AÖM yönteminde de giriş katmanından gizli katmana bağlayan giriş ağırlıkları ve eşikler rastgele seçilmektedir. Daha sonra çıkış katmanı ağırlıkları YSE algoritması kullanılarak hesaplatılır. Böylece seyreklik sayesinde ilgisiz nöronlar otomatik olarak budanarak en uygun nöron sayısına sahip ağ elde edilmiş olur. Deneysel çalışmalardan elde edilen sonuçlar YSE tabanlı AÖM’nin, AÖM’ye üstünlüğünü göstermiştir.
3.2. Önerilen YSE-AÖM yöntemi
YSE algoritması m seyreklik seviyesi parametresinin belirlenmesine gerek duyar. m seyreklik parametresi modelde kullanılan gizli düğüm sayısı hakkında bilgi vermektedir. [15]’te belirtildiği gibi mmin dan mmaks’a artan bir K dizisi tanımlanmıştır. Sonuç olarak K
tane model elde edilmiştir. En iyi modeli seçmek için OKHK ölçütü dikkate alınmıştır. Önerilen yöntemin akış şeması Şekil 3.1’de gösterilmiştir.
AÖM başlat Veri Seti Min. OKHK sahip β seç K-seyreklik ara Model
Şekil 3.1. Önerilen YSE-AÖM yöntemi akış şeması
3.2. Deneysel Çalışmalar
Önerilen YSE-AÖM yönteminin başarımını test etmek için kullanılan veri setleri UCI [81] ve Statlib [82]’den elde edilmiştir. Kullanılan veri setleri hakkında bilgi Tablo 3.1’de özetlenmiştir.
Tablo 3.1. Kullanılan veri setleri
Veri Seti Özellik
Sayısı
Örnek Sayısı Eğitim Test
Breast Cancer 33 130 64
Pima Indians Diabetes 9 512 256
Bupa 7 230 115
Body Fat 15 168 84
Şekil 3.1’de gösterilen akış şemasının veri seti hazırlama adımında veri setleri SOBV göre normalize edilmiştir [83] ve rastgele üç parçaya bölünüp, üçte ikisi eğitim, kalanı ise test için kullanılmıştır.
Seyreklik seviyesi K parametresinin belirlenmesi için iki adımlı bir arama algoritması kullanılmıştır. İlk adımda K, Breast Cancer ve Body Fat veri setleri için 5’den 50’ye 5’lik artımla, Pima ve Bupa veri setleri içinse 10’dan 100’e 10’luk artımla arama algoritması gerçekleştirilmiştir. Her K değeri için OKHK hesaplanmış ve düşük OKHK
değerine sahip K diğer adım için seçilmiştir. İkinci adımda ise elde edilen uygun K değeri için K-5 den K+5’e 1’er artımla arama algoritması düşünülmüştür. En küçük OKHK değerine sahip en uygun K değeri seçilmiştir. Deneyler 100 defa tekrarlanmış ve elde edilen sonuçların OKHK’sı, standart sapması ve işlem sürenin ortalaması hesaplanmıştır. YSE-AÖM yöntemi için elde edilen sonuçlar Tablo 3.2’de verilmiştir. Tablo 3.2’de ortalama OKHK, ortalama standart sapma σ, gizli katman nöron sayısı Nöron ve ortalama süre Süre (saniye biriminde) ile gösterilmiştir.
Tablo 3.2. YSE-AÖM sonuçları
Veri seti OKHK σ Nöron Süre (s) Breast Cancer 0.2665 0.0094 200(14) 0.0850 Pima I. D. 0.4095 0.0067 200(16) 0.2114 Bupa 0.2356 0.0074 400(14) 0.2081 Body Fat 0.0273 0.0039 250(52) 0.0816
Tablo 3.2’den görüldüğü gibi en küçük ortalama OKHK değeri ve ortalama standart sapma değeri Body Fat veri seti için elde edilmiştir. Deneysel çalışmada Breast Cancer ve Pima Indians Diabetes veri setleri için 200 nöron, Bupa veri seti için 400 nöron ve Body Fat veri seti için 250 nöron düşünülmüştür, en düşük sayıda nöron sayısına sahip model (14 nöron) Breast Cancer ve Bupa veri setleri için elde edilmiştir. Deneysel çalışmada en düşük nöron sayısına sahip model Breast Cancer ve Bupa veri setlerinde elde edilirken ilgili ortalama OKHK değerleri en fazla nöron kullanan Body Fat veri seti kadar iyi değildir. Ortalama OKHK açısından en kötü sonuç Pima Indians Diabetes veri setinde elde edilmiştir.
Deneysel çalışma normal AÖM’ye YSE-AÖM’de için kullanılan veri setleri uygulanarak sürdürülmüştür. AÖM ile aynı şartlarda bire bir karşılaştırma yapabilmek için bütün veri setleri aynı yolla işlenmiştir. AÖM yönteminde en uygun nöron sayısı YSE- AÖM’ye benzer yolla elde edilerek, her bir veri seti için 100 defa döngüye sokulup elde edilen sonuçların ortalaması hesaplanmıştır. AÖM için elde edilen sonuçlar Tablo 3.3’de YSE-AÖM yöntemi ile karşılaştırmalı olarak verilmiştir. Tablo 3.3’ten görüldüğü gibi önerilen yöntem Breast Cancer, Pima I.D., ve Bupa veri setleri için daha iyi ortalama OKHK değeri ortaya koymuştur. YSE-AÖM yöntemi Body Fat veri seti için ortalama OKHK açısından AÖM yönteminden daha kötü başarıma sahiptir. Ortalama standart
sapma açısından Body Fat veri seti hariç diğer veri setlerinde YSE-AÖM yöntemi üstün başarım göstermiştir. Gizli katman nöron sayısı bakımından YSE-AÖM yöntemi Breast Cancer için yaklaşık 64 kat, Pima için yaklaşık 3 kat, Bupa için yaklaşık 6 kat ve Body Fat için 15 kat daha az nöron sayısına sahiptir.
Tablo 3.3. AÖM ile YSE-AÖM yönteminin karşılaştırılması
Veri Seti
AÖM YSE-AÖM
OKHK σ Nöron Süre (s) OKHK σ Nöron Süre (s) Breast C. 0.3236 0.0164 904 0.1072 0.2665 0.0094 14 0.0850 Pima I. D. 0.4269 0.0125 54 0.6533 0.4095 0.0067 16 0.2114 Bupa 0.5244 0.1114 95 0.2062 0.2356 0.0074 14 0.2081 Body F. 0.0075 0.0004 780 0.1266 0.0273 0.0039 52 0.0816
Bupa veri setinde AÖM nöron sayısı 95 olduğundan geçen süre yinelemeli yapıya sahip olan YSE-AÖM yönteminden daha kısadır. Deney işlem süresi bakımından YSE- AÖM yöntemi Bupa veri seti dışındaki bütün setlerinde daha üstün başarıma sahiptir. Tablo 3.3’ten görüldüğü gibi önerilen YSE-AÖM yöntemi AÖM ile karşılaştırıldığında daha iyi başarıma sahiptir.
4. REGRESYON PROBLEMLERİ İÇİN DİKGEN EŞLEME TAKİP