Yapay sinir ağı yapısı, biyoloji temelli bir yöntemdir. Dolayısıyla, bu yöntemin alt elemanları ve terminolojisi de biyolojiden esinlenilmiştir. Daha da temelinde insan sinir yapısının ve beyninin, veri iletimi ve öğrenme modeli paralelinde bir taklididir de denebilir. Çizelge 3.1’te insan sinir sistemi ile yapay sinir ağı terminolojisinin yaptıkları işler açısından benzerlikleri ve karşılıkları belirtilmiştir.
Çizelge 3.1. Biyolojik sinir sistemi ile yapay sinir ağı yapısının benzerlikleri (Demir, 2018).
Dawson ve arkadaşları, yaptıkları çalışmalar sonucu ortaya koydukları makalelerinde, yapay sinir ağını “ Birbirine bağlı nöronlardan müteşekkil, en basitiyle giriş, çıkış ve gizli katman olmak üzere üç temel katmandan oluşan bir ağ yapısıdır” şeklinde tanımlamışlardır (Dawson vd., 2009).
Zurada ise yazmış olduğu kitabında, “Yapay sinir sistemleri veya sinir ağları, deneyimsel bilgi edinebilen, depolayan ve kullanan fiziksel hücresel sistemlerdir” şeklinde yapay sinir ağlarının deneyimsel bilgi edinebilmesi yönünden tanımlayarak o yönüne dikkat çekmiştir (Zurada, 1992).
Haykin, kaleme almış olduğu “Sinir Ağları ve Makine Öğrenmesi” adlı kitabında, yapay sinir ağını, deneyimsel bilgiyi saklama ve bu bilgileri kullanıma uygun hale getirmeye doğal bir eğilime sahip, basit işlem birimlerinden oluşan paralel dağıtılmış masif bir yapıdır, şeklinde tanımlamıştır (Haykin, 1999).
En temel bir yapay sinir ağı yapısı, giriş katmanı, aktivasyon fonksiyonunun ve toplama işleminin yapıldığı gizli katman ve çıkış katmanından oluşmaktadır. Şekil 3.1’de temel bir yapay sinir ağı yapısı gösterilmiştir. Yapay sinir ağının öğrenmesi ve kendini tahmin odaklı eğitmesinde ağırlıkların ve bias değerlerinin önemli rolü vardır.
Biyolojik Sinir Sistemi Yapay Sinir Ağı Yapısı
Nöronlar Temel İşlemci Elemanlar
Dentrit Toplama Fonksiyonu
Hücre Gövdesi Aktivasyon Fonksiyonu
Sinaps Ağırlıklar
Şekil 3.1. Temel bir yapay sinir ağı yapısı.
Yapay sinir ağlarında öğrenme, ağ elemanlarından ağırlık ve bias değerlerinin eğitim ve tecrübe ile güncellenmesi sayesinde gerçekleşir. Sistem ilk anda ağırlık ve bias değerlerinin rastgele atanmış değerleri üzerinde çalışır. Daha sonra bu rassal değerler öğreti biçimi ve tecrübe sonucu elde edilen veriler ile güncellenmiş olur. Bu güncellenmedeki asıl amaç, giriş/ler ve çıkış/lar arasındaki ilişki, yapay sinir ağı yapısına öğretilerek tutarlı sonuçlar alınmasını sağlamaktır. Eğitim, verilerin türüne adedine göre uzun bir zaman alabilir, ancak eğitim verilerinin birbirine göre tutarlılığı ve adedi, ağın doğru sonuç üretmesi yani tahmin etmesi ile doğru oranlı olarak değişir. Tek katmanlı yapılar lineer olmayan sistemler için ideal değildir. Özellikle çok katmanlı algılayıcılarla doğrusal olmayan olayların öğrenimi ve tahmini sağlanabilir.
Yapay sinir ağları, yapılarına göre ileri ve geri beslemeli olmak üzere iki tiptir. İleri beslemeli yapay sinir ağı yapısında katmanların hiyerarşik düzenini bozan yapı yoktur. Ve her katmanın çıkışı bir sonraki katmanın girişi şeklinde ileri yönde çalışır. Adını bundan alır. Sonuç alma konusunda veri anlamında geri besleme olmadığından daha hızlıdır. Şekil 3.2’de ileri yönde bir yapay sinir ağına yer verilmiştir.
X1 X2 X3 . . . Xn Bias Toplama
Fonksiyonu Fonksiyonu Aktivasyon
Çıkış Y
GİRİŞ KATMANI
GİZLİ
KATMAN KATMANIÇIKIŞ
w1 w2 w3 wn
Şekil 3.2. İleri yönde bir yapay sinir ağı yapısı.
Geri beslemeli yapay sinir ağında ise çıkıştan alınan veriler direk olarak ağın girişine uygulanabilir. Ve bu durumda çıkış verisi, giriş katmanındaki verilerle birlikte ağırlık güncelleme konusunda etkisi olur. Geri beslemeye sahip bir yapay sinir ağının örneği Şekil 3.3’de gösterilmiştir.
Şekil 3.3. Geri beslemeye sahip bir yapay sinir ağı yapısı örneği.
Yapay sinir ağlarında ağın yapısına göre ve giriş parametresindeki verilerin durumuna göre seçilen birtakım transfer fonksiyonları kullanılmaktadır. Çizelge 3.2’de giriş çıkış ilişkileri
H11 H12 H13 H21 H22 X1 X2 X3 H23 H24 H31 H32 H33 H34 O1 O2 O3 Y1 Y2 Y3 GİRİŞ
KATMANI GİZLİ KATMAN KATMANI ÇIKIŞ
H11 H12 H1N O1 On X1 X2 Xn Y1 Y2 Geri Besleme Geri Besleme
ve grafiksel gösterimleri aynı zamanda MATLAB’te kullanılan komutları açısından transfer fonksiyonları gösterilmiştir.
Çizelge 3.2. Transfer fonksiyonlarının giriş- çıkış ilişkileri, grafiksel gösterimleri ve MATLAB
kodları (Hagan vd., 1996).
Transfer Fonksiyonu Adı
Giriş/Çıkış İlişkisi Grafiksel
Gösterimi MATLAB Komutu
Hard Limit a = 0, n 0 a = 1, n 0
hardlim
Simetrik Hard Limit a = -1, n 0 a = +1, n 0
hardlims
Lineer a=n purelin
Doygun Lineer a = 0, n 0, a= n, 0 n 1 a = 1, n>1 satlin Simetrik Doygun Lineer a = - 1, n -1 a= n, -1 n 1 a =1, n>1 satlins Logaritmik Sigmoid a = 1 1+𝑒−𝑛 logsig Hiperbolik Tanjant Sigmoid a= 𝑒𝑛−𝑒−𝑛 𝑒𝑛+𝑒−𝑛 tansig Pozitif Lineer a = 0, n 0 a= n, 0 n poslin
Kompetitif a=1, max n nöron a=0, diğer tüm nöronlar
compet
Bu tez çalışmasında ise, tahmin prosesinde yapay sinir ağı tipi olarak geri yayılımlı yapay sinir ağı yapısı kullanılmıştır. Bu sebeple öğrenme yapılarından sadece geri yayılımlı yapay sinir ağı konusu ele alınacaktır.
3.1. Geri Yayılımlı (Back-Propagation) Yapay Sinir Ağı Yapısı
Geriye yayılımlı yapay sinir ağı mimarisi sık kullanılan ve kullanımı kolay bir yapıdır. Geri yayılım yapısı ile delta kuralı ya da gradyan iniş olarak adlandırılan bir teknik kullanarak, ağırlıklar vasıtasıyla, hatanın en düşük olduğu ana kadar güncelleme yapmaya devam eder. Hatayı minimize etme adına iyi bir alternatif olduğu bilinmektedir.
Geriye yayılım yapısından kabaca bahsedilecek olunursa, ilk iterasyonda, ağırlık değerleri rassal olarak belirlenerek, ağın gizli katmanından ve aktivasyon fonksiyonundan da geçtikten sonra yapay sinir ağı yapısı bir sonuç üretir. Bu sonucun tutarlı olması ile ilişkili olarak ağın ağırlıklarının arttırıldığı varsayılsın ve ağırlıkların arttırımı her iterasyonda devam ettirilerek sonuçlar alınmaya devam edilsin. Yapay sinir ağından elde edilen sonuçlar ile hedef değerler karşılaştırıldığında, ağın ağırlığının her arttırıldığında hedef değerlerden uzaklaştığı görüldüğü durumda, ağın ağırlıkları azaltılarak, toplam hata düşürülmesi için iterasyona devam edilir. Azaltılarak güncellenmiş ağırlıklardan elde edilen yeni sonuçlar ile hedefler karşılaştırıldığında hedefe yakınlaşması durumunda öğreti işleminin sağlandığı söylenebilir. Kısaca, geriye yayılım yapısı, ağırlıkların değiştirilmesinin sinir ağındaki toplam hatayı nasıl etkilediğinin belirlenmesi ile ilgilidir (Haykin, 1999).