UVM metodu için YSA mimarisinin GA optimizasyonu ile

öneme sahiptir. Gerçekleştirilen sinir ağında GA optimizasyonu, gizli katmandaki sinir hücresi sayılarının belirlenmesinde kullanılmıştır. Kromozomların kodlanmasında, dolaylı kodlama yöntemi kullanılmış ve sadece gizli katmandaki sinir hücresi sayıları hakkındaki bilgi kromozomlara dahil edilmiştir. Parametreler 5- bit uzunluğunda ikili kromozomlara kodlanmıştır. İkili kodlama ve kullanılan bitlerin sayısına bağlı olarak gizli katmandaki sinir hücresi sayıları [0,31] aralığındadır. Böylece, çalışmada kullanılan yaklaşımda çözüm uzayı, gizli katmandaki gizli düğüm sayıları için 0 ile 31 arasındaki değerlere sahip sinir ağı mimarilerinin tümünü içermektedir.

GA yapısında popülasyon büyüklüğü, 4 kromozom sayısına sahip olacak şekilde sabit olarak seçilmiş, GA 50 nesil için yürütülmüş ve her bir popülasyondaki yeni nesil sayısı %75 olarak belirlenmiştir. Doğal seçim genetik operatörü olarak rulet metodu, yeni nesillerin oluşturulması için ise tek nokta çaprazlama metodu kullanılmıştır. Eğitmede kullanılan GA parametreleri Tablo 4.9’da görülmektedir.

Tablo 4.9 Gizli katmandaki sinir hücresi sayısının belirlenmesinde kullanılan GA parametreleri

Mutasyon operatörü, Pm 0.05

Çaprazlama operatörü, Pc 1

Popülasyon büyüklüğü 4

Maksimum nesil sayısı 50

Doğal seçim tipi Rulet

Doğal seçim tabanı Rank

Çaprazlama Tek nokta

UVM’nin gerçekleştirilmesinde kullanılan sinir ağında gizli düğüm sayılarının bulunması amacıyla öncelikle geleneksel deneme yanılma yöntemi uygulanmıştır. Eğitme ve doğrulama seti için elde edilen MSE değerlerinin değişimi Şekil 4.31’de gösterilmektedir. Sinir ağının 1-31 arasındaki düğüm sayıları için eğitilmesiyle bulunan ağ performansı sonuçlarından, MSE değerine bakıldığında en iyi ağ eğitmede 31 düğüm sayısı, doğrulamada ise 19 gizli düğüm sayısı için bulunmuştur.

Şekil 4.31 Geleneksel deneme yanılma yönteminde düğüm sayısına 1-31 arası değerler verildiğinde elde edilen minimum MSE değerleri

Deneme yanılma yöntemiyle bulunan ağ mimarisi, DSP’de programlanabilecek boyutta olmadığından, GA optimizasyonunda amaç fonksiyonuna bir ceza terimi eklenmesi ile düğüm sayısının gereğinden fazla sayıda olmasının önüne geçilmesi amaçlanmıştır. Bu nedenle amaç fonksiyonu için

) ( x

f e

α genel ifadesi ve genelleştirme hatasının çarpımından oluşan daha önceden (4.1) ile verilen denklem kullanılmış, böylece sinir ağı mimarisi GA optimizasyonu ile belirlenmiştir. (4.1) denkleminde farklı katsayıların etkisinin incelenmesi amacıyla iki farklı durum için sinir ağında beşer adet GA optimizasyonlu eğitme gerçekleştirilmiştir.

• 1. durum: Amaç fonksiyonu = Eg e0.025x olarak alındığında, Tablo 4.10’da görüldüğü gibi, gerçekleştirilen 5 ayrı eğitmeden en iyi amaç fonksiyonu değerine sahip olanlar içinde en düşük genelleştirme hatasına sahip olanı 1_3 nolu eğitme için elde edilmiştir. Bu eğitmede amaç fonksiyonunun nesil sayısına göre değişimi Şekil 4.32’de verilmiştir. Buna göre bu durum için optimum YSA mimarisi 1x6x2 olarak bulunmuştur.

Şekil 4.32 1. durum için gerçekleştirilen genetik algoritma optimizasyonunda elde edilen amaç fonksiyonu değerinin nesil sayısına göre değişimi

Tablo 4.10 Amaç fonksiyonu = Eg e0.025x olarak alındığı durumda elde edilen eğitme sonuçları Eğitme no YSA mimarisi Toplam ağırlık ve biyas sayısı Amaç fonksiyonu değeri Genelleştirme hatası (MSE) 1_1 1x9x2 38 0.0083 0.0032 1_2 1x4x2 18 0.0061 0.0039 1_3 1x6x2 26 0.0056 0.0029 1_4 1x6x2 26 0.0069 0.0036 1_5 1x9x2 38 0.0080 0.0031

• 2. durum: Amaç fonksiyonu = Eg e0.05x olarak alındığında, ağırlık ve biyasların toplam sayısına göre uygulanan ceza terimi daha büyük olmakta, böylece önceki durumda uygulanana göre daha kompleks mimariler için amaç fonksiyonu daha düşük değerler almaktadır. Tablo 4.11’de görüldüğü gibi gerçekleştirilen 5 ayrı eğitmeden, en iyi amaç fonksiyonu değerine sahip olanlar içinde en düşük genelleştirme hatasına sahip olanı 2_5 nolu eğitme için elde edilmiştir. Bu eğitmede amaç fonksiyonunun nesil sayısına göre değişimi Şekil 4.33’te görülmektedir. Buna göre bu durum için optimum YSA mimarisi 1x5x2 olarak bulunmuştur.

Şekil 4.33 2. durum için gerçekleştirilen genetik algoritma optimizasyonunda elde edilen amaç fonksiyonu değerinin nesil sayısına göre değişimi

Tablo 4.11 Amaç fonksiyonu = Eg e0.05x olarak alındığı durumda elde edilen eğitme sonuçları Eğitme no YSA mimarisi Toplam ağırlık ve biyas sayısı Amaç fonksiyonu değeri Genelleştirme hatası (MSE) 2_1 1x4x2 18 0.0106 0.0043 2_2 1x3x2 14 0.0089 0.0044 2_3 1x5x2 22 0.0102 0.0034 2_4 1x3x2 14 0.0081 0.0040 2_5 1x5x2 22 0.0093 0.0031

İki durum için en iyi amaç fonksiyonu değerine ulaşılan sinir ağları içinden genelleştirme hatasına bakıldığında, elde edilen en düşük değer 1x6x2 YSA mimarisine sahip olan için bulunmuştur. Bu nedenle bu çalışmada UVM metodunun YSA tabanlı gerçekleştirilmesinde 6 gizli düğüm kullanılarak DSP ile gerçekleştirme için uygun büyüklükte bir yapı elde edilmiştir.

4.2.4.3. UVM metodu için YSA’nın eğitilmesi ve testi

Gerçekleştirilen sinir ağında gizli katman ve çıkış katmanında transfer fonksiyonu olarak tanjant hiperbolik fonksiyonu, sinir ağının eğitilmesinde ise Levenberg-Marquardt algoritması kullanılmıştır. Eğitme iterasyonu sayısı 100, hata

hedefi 1.10-10’dur. YSA’nın off-line olarak eğitilmesinden elde edilen ağırlık ve biyas değerleri tezde geliştirilen UVM metodunun DSP’de yürütülmesi amacıyla kullanılmıştır. Erken sonlandırma yöntemi kullanılarak gerçekleştirilen eğitme sonunda eğitme hatası için MSE değeri 0.0033, doğrulama hatası için 0.0971, test hatası için ise 0.1451 olarak bulunmuştur.

Sinir ağından elde edilen sonuçların doğruluğunun gösterilmesi amacıyla eğitme verisi içerisinde bulunmayan 300 adet rasgele giriş-çıkış verisi kullanılarak test işlemi gerçekleştirilmiştir. LM algoritması ile eğitilen sinir ağı için test verisi kullanılarak elde edilen çıkışlar ile istenen çıkış değerleri arasındaki farkı gösteren bağıl hata değerleri Şekil 4.34’te görülmektedir.

Şekil 4.34 Eğitilen sinir ağında anahtarlama süreleri Ta ve Tb için, istenen ve sinir ağından elde edilen çıkış değerleri arasındaki farkı gösteren bağıl hata değerleri