Yapay sinir ağlarõnõn modern çalõşmalarõ 19.yy.da nörobiyologlarõn insan sinir sistemi üzerindeki geniş çalõşmalarõ ile başlamõştõr. Anatomi uzmanõ Cajal (1892) sinir sisteminin birbirleri ile sahip olduklarõ aksonlar vasõtasõyla gönderdikleri elektriksel sinyaller ile haberleşen, sonunda dallanarak diğer binlerce nöronun dentritine (alõcõ bölgeler) dokunan ve elektriksel sinyali sinapslar (değişken dirençli bağlantõ noktalarõ) ile ileten ayrõk nöronlardan oluştuğunu belirlemiştir. Bu temel resim ileriki on yõllar boyunca farklõ nöron tiplerinin tanõmlanmasõ, elektriksel tepkilerinin analiz edilmesi, bağlantõ örüntüleri ve beyinin ana fonksiyonel bölgeleri ortaya çõkarõlarak detaylandõrõlmõştõr. Nörobiyologlar için tek olarak bir nöronun işlevselliği konusunda çalõşmak kolay olmasõna rağmen, nöronlarõn algõ ve bilme gibi üst seviye işlevleri başarmak için nasõl birlikte çalõştõklarõnõ belirlemek zor olmuştur. Yüksek hõzlõ bilgisayarlarõn gelişi ile sinir sistemlerinin çalõşan modellerinin oluşturulabilmesi mümkün olmuş ve bu, araştõrmacõlara bu sistemler ile rahatlõkla deneyler yaparak özelliklerinin daha iyi anlaşõlmasõ sağlanmõştõr [65].
Sinirsel ağlar için 19yy. sonlarõ ve 20yy. başlarõnda Hermann von Helmholtz, Ernst Mach ve Ivan Pavlov gibi bilim adamlarõnõn öncelikle fizik, psikoloji ve nörofizyoloji gibi disiplinler arasõ çalõşmalarõndan oluşan arka plan çalõşmalarõ yer almõştõr. Bu ilk çalõşmalar öğrenme, görme, koşullandõrma gibi genel teoriler üzerinde yapõlmõş ve nöron çalõşmasõnõn belirgin bir matematiksel modelini içermemiştir.
Sinirsel ağlarõn modern bakõşõ, McCulloch ve Pitts’in 1940’lardaki çalõşmalarõ ve 1943’te yayõnladõklarõ makale ile yapay nöronlardan oluşan ağlarõn herhangi bir aritmetik veya mantõksal fonksiyonu gerçekleyebileceğini göstermeleri ile başlamõştõr [62]. İkili eşik birimi (binary threshold unit) olarak adlandõrõlan bir nöronun sayõsal modeli, net girişin verilen bir eşik değerini aşõp aşmamasõna bağlõ olarak çõkõşõ 0 veya 1 olan bu önermeleri [65] çoğu kez bu çalõşmalarõ sinirsel ağ alanõnõn kökeni olarak kabul edilmiştir [62]. Bu modelde, bu tür nöronlardan oluşan, sonlu durumlu bir otomatta toplanmõş, nöronlarõ arasõndaki ağõrlõk katsayõlarõna uygun değerler verilen bir sistemin herhangi sõralõ bir fonksiyonu hesaplayabileceği gösterilmiş olmasõ epey heyecan oluşturmuştur. Daha sonra araştõrmacõlar herhangi bir işlevi yapabilecek ağlarõn ağõrlõk katsayõlarõnõn bulunmasõnõ sağlayacak öğrenme yöntemleriaraştõrmayabaşlamõşlardõr [65].
Bunu daha sonra 1949 yõlõndaki çalõşmasõ ile Donald Hebb izlemiştir. Pavlov’un keşfettiği gibi klasik koşullanmanõn, nöronlarõn ayrõ özelliklerinden kaynaklandõğõ önermesini getirmiş ve biyolojik nöronlardaki öğrenme için bir mekanizma önermesinde bulunmuştur. Gelecekte Hebbian öğrenmesi olarak bilinecek olan 20 yõllõk çalõşmalarõnõ, sonunda 1949 yõlõnda “The Organization of Behavior” başlõğõnda yayõnlamõştõr.
Yapay sinir ağlarõnõn pratikte ki ilk uygulamalarõ 1950’lerin sonlarõna doğru Rosenblatt’õn perseptron ağõ ve ilişkilendirilmiş öğrenme kuralõnõ buluşu ile ortaya çõkmõştõr. Rosenblatt ve meslektaşlarõ bir perseptron ağõ oluşturarak örüntü tanõmayõ gerçekleştirmedeki yeteneğini göstermişlerdir. Ancak sonrasõnda temel perseptron ağõnõn sadece sõnõrlõ bir sõnõftaki problemleri çözebildiği gösterilmiştir [62]. Bu çalõşmadan önce, IBM araştõrma laboratuarlarõnda Nathanial Rochester’õn önce başarõsõz olan ancak sonraki denemelerinde başarõlõ sonuçlar veren bir sinirsel ağõn simülasyonu, yapay zeka ve sinirsel ağlardaki çalõşmalarõ hõzlandõran 1956 yõlõnda yapay zeka üzerine yapõlan Dartmouth Yaz Araştõrma Projesi ve aynõ yõllarda John von Neumann’õn telgraf röleleri ve vakum tüpleri ile yaptõğõ basit nöron fonksiyonlarõnõ taklit çalõşmalarõ da çok önemli çalõşmalardõr [66].
Hemen hemen aynõ zamanlarda, Widrow ve Hoff, halen günümüzde Widrow-Hoff öğrenme kuralõ olarak kullanõlan, yeni bir öğrenme algoritmasõ (LMS-Least Mean Square) geliştirmişler ve bunu yapõsal ve yeteneksel olarak Rosenblatt’õn perseptronuna yakõn olan uyarlamalõ (adaptif) lineer sinir ağõnõn (ADALINE-ADAptive LInear NEuron) eğitiminde kullanmõşlardõr.
1969’da Minsky ve Papert’in kitaplarõnda geniş bir biçimde irdelenen ve duyurulan aynõ ayrõlmaz sõnõrlamalar nedeni ile Rosenblatt ve Widrow ağlarõ zorluklar yaşarken, bu kõsõtlamalarõn farkõnda olan iki araştõrmacõ bu kõsõtlamalarõn üstesinden gelebilmek için yeni ağ önermelerinde bulundularsa da daha karmaşõk ağlarõn eğitilmesi için öğrenme algoritmalarõnõn başarõlõ bir biçimde geliştirememişlerdir. Bu kitaptan etkilenen bir çok kişi sinirsel ağlar araştõrmalarõnõn ilerisinin olmadõğõna inanmõşlardõr. Bununla beraber deneylerin yapõlabilmesi için güçlü sayõsal bilgisayarlarõn olmayõşõ, araştõrmacõlarõn bu alanõ terk etmesine ve sinirsel ağlardaki çalõşmalarõn bir on yõl boyunca duraklamasõ ile sonuçlanmõştõr.
Buna rağmen 1970’lerde bazõ önemli çalõşmalar sonucunda, Kohonen ve Anderson, birbirlerinden ayrõ çalõşmalarõ ile hafõza gibi davranan sinirsel ağlar geliştirmişlerdir. 1976’da Grossberg kendinden organize olan ağlarõn keşfinde oldukça aktif rol almõştõr. 1960’larõn sonralarõna doğru yeni fikir ve deney yapõlabilecek bilgisayarlarõn olmayõşõ nedeni ile sendeleyen sinirsel ağlara olan ilgi ve araştõrmalar, 1980’lerde kapasite olarak hõzlõ biçimde gelişen yeni kişisel bilgisayarlar ve iş istasyonlarõnõn geniş biçimde varolmasõ ve önemli yeni yaklaşõmlarla bu engellerin üstesinden gelinmesinin sağlanmasõyla dramatik bir biçimde artmõştõr. Sinirsel ağlarõn yeniden doğuşunda iki yeni yaklaşõm çok etkin olmuştur. Bunlardan ilki, fizikçi John Hopfield tarafõndan bir seminerde sunulan ve birliksel hafõza olarak kullanõlabilen yinelenen ağlarõn belirli bir sõnõfõnõn çalõşmasõnõ açõklamada istatistiksel mekaniğin kullanõlmasõdõr [62]. Hopfield’õn bir ağõn bir enerji fonksiyonu açõsõndan analiz edilebileceğini önerdiği bu çalõşmasõ, bir olasõlõklõ ağ olan, istenen herhangi bir davranõş için eğitilebilen Boltzman makinesinin geliştirilmesinin de tetikleyicisi olmuştur [65]. Aynõ zamanlarda Japonya’nõn Kyoto
kentinde Ortak/Rekabetçi Sinirsel Ağlar üzerine Amerika-Japonya Bağlantõ Konferansõ yapõlmõştõr. 1987’de IEEE’nin ilk Uluslararasõ Sinirsel Ağlar Konferansõ 1800’ün üzerinde katõlõmcõ ile yapõlmõştõr [66].
1980’lerdeki ikinci anahtar gelişme ise birbirinden bağõmsõz birkaç farklõ araştõrmacõ tarafõndan keşfedilen çok katmanlõ perseptron ağlarõnõn eğitilmesi için geri yayõlõm algoritmasõnõn geliştirilmesidir. Geri yayõlõm algoritmasõnõn en etkili yayõnõ 1986’daki Rumelhart ve McClelland tarafõndan yayõnlanmõş olanõdõr. Bu algoritma 1960’larda Minsky ve Papert’in eleştirilerine cevap niteliğindedir.
Bu yeni gelişmelerle sinirsel ağlar alanõ yeniden canlanmõştõr. O zamandan günümüze binlerce sayfa yayõn yapõlmõş ve sinirsel ağlar bir çok uygulama bulmuş ve bu alan, yeni teorik ve pratik çalõşmalarla gelişmektedir. “Önümüzdeki 10-20 yõlda neler olacak?” veya “Sinirsel ağlar bir matematiksel veya mühendislik aracõ olarak kalõcõ bir yer alacak mõ, yoksa gelecek vaat eden bir çok teknoloji gibi yavaş yavaş yok olup gidecek mi?” sorularõna yanõt vermek gerekir ise; mevcut durumda, her probleme çözüm olarak değil, ancak uygun durumlarda kullanõlabilecek bir araç olarak sinirsel ağlarõn kalõcõ bir yerinin olacağõ ve beyin hakkõndaki bilgimizin sõnõrlõ olmasõ göz önünde bulundurulduğunda sinirsel ağlardaki gelişmenin gelecekte daha fazla olacağõ söylenebilir [62]. Ancak tüm bu teknolojide donanõmsal gelişmenin çok önemli bir anahtar görevi vardõr. Günümüzde şirketler sayõsal, analog ve optik olmak üzere üç tipte sinirsel yonga üzerinde çalõşmaktadõr. Bazõlarõ ise Uygulamaya Özel Tümleşik Devre (Application Specific Integrated Circuit - ASIC) sinirsel ağõ oluşturmak için silikon derleyici üzerinde çalõşmalarõnõ sürdürmektedir. ASIC’ler ve nöron benzeri sayõsal yongalar yakõn geleceğin yeni dalgasõ olacak gibi görünmektedir [66].