Bilgisayarların donanımsal geli¸simi yapay zeka teknolojilerinin geli¸simine daima olumlu katkı sa˘glamı¸stır. Daha çok i¸slem gerektiren karma¸sık analizlerin yapılması ve sonuç elde edilmesi bilgisayarlardaki geli¸smelere ba˘glı olarak mümkün hale gelmi¸stir. Bu sayede yapay zeka sistemleri daha kapsamlı analizler yapabilecek ve daha geni¸s problemleri çözebilecek hale gelmi¸stir. Bu de˘gi¸sim yapay sinir a˘glarını etkileyerek bu alanda yeni bir teknolojik dönü¸sümün kapısını aralamı¸stır. Yapay sinir a˘glarının dönü¸sümü bir bütün olarak çalı¸san sinir a˘gının dinamik çalı¸smasına olanak tanımı¸stır. Dinamik çalı¸san yapay sinir a˘gları, klasik yapay sinir a˘glarının aksine problemin bütünü aynı modeli kullanarak de˘gil, problemin alt kümelerine en çok uyacak modeller bütünü kullanarak problemi çözmektedirler.
Problemi küçük parçalara ayırarak detaylı alt çözümlerden sonuç üreten dinamik yapay sinir a˘gları, çalı¸sma biçimlerine uygun olarak, derin sinir a˘gları olarak adlandırılmı¸slardır. Derin sinir a˘glarında yapay sinir a˘glarının aksine a˘gın dü˘gümleri (nöronlar) problemin ayrı parçaları üzerinde uzmanla¸sırlar. Yapay sinir a˘glarında ise tüm nöronlar problemin bütününe bir çözüm getirmeye çalı¸smaktadırlar. Bundan dolayı derin a˘glar daha küçük detayları yakalayarak daha do˘gru sonuç üretmektedirler. Fakat derin a˘gların detayları yakalayabilmesi için detayları içeren büyük miktarda veri ile e˘gitilmesi gerekmektedir. Büyük veri derin a˘gların e˘gitim sürecini oldukça uzatsa da, derin a˘gların yapay sinir a˘gları üzerinde kurdu˘gu üstünlük karma¸sık problemlerin çözümünde bu teknolojinin yaygın olarak kullanılmasını sa˘glamı¸stır.
9.2 Derin Ö˘grenme Mimarileri
Dü¸sünme ve problem çözme esnasında beynimiz biz farkında olmadan çok sayıda i¸slem gerçekle¸stirir. Bu i¸slemler genellikle sınıflandırma (anormallik tespiti, nesne tanıma, yüz tanıma, vb.), kümeleme, tahmin, optimizasyon, simülasyon, çıkarım i¸slemleridir. Bir yapay zeka sisteminin problemleri çözebilmesi için bahsedilen i¸slemleri gerçekle¸stirecek mekanizmalara sahip olması gerekmektedir. ˙Ihtiyaç duyulan yapının olu¸sturulabilmesi için derin sinir a˘glarında çok sayıda katman tasarlanarak her katmanın belirli i¸slerde özelle¸smesi sa˘glanabilmektedir. Her katman uzmanla¸stı˘gı konuda yaptı˘gı çıkarımları daha ilerideki katmanlara iletir. Önündeki katmanlardan veri alan katmanlar da aldıkları girdileri kullanarak sonuç üretirler.
Örne˘gin ürün tanıyacak bir sistemde bir katman ürünün rengini tespit edebilir. Çünkü her rengin çok sayıda tonu bulunmaktadır ve kamera foto˘grafını çekti˘gi ürünün rengini, ı¸sıklandırmaya ba˘glı olarak yakın ama farklı tonlarda gösterecektir. Ba¸ska bir katman ürünün büyüklü˘gü hakkında, bir katman da ürünün ¸sekli hakkında karar verebilir. Bu kararlar bir katmana iletilip, ilgili katmanda ürünün detay bilgileri de˘gerlendirilerek, ürünün tespiti sa˘glanabilir. Derin ö˘grenme sistemlerinin çalı¸sma sistematikleri yapay sinir a˘glarının dinamikle¸stirilmesine dayansa da ihtiyaca ve probleme özgü olarak çe¸sitli derin ö˘grenme algoritmaları geli¸stirilmi¸stir. Bu bölümde konvolüsyonel sinir a˘gları, derin inanç a˘gları ve derin oto-kodlayıcılar incelenmi¸stir (Liu et al., 2017).
9.2.1 Kıvrımlı (Konvolüsyonel) Sinir A˘gları
Kıvrımlı sinir a˘gaları ilk kez (LeCun, Bottou, Bengio, & Haffner, 1998) tarafından geli¸stirilmi¸stir ve günümüzde birçok alanda uygulamaları görülmektedir. Kıvrımlı sinir a˘gları çok katmanlı ileri beslemeli yapay sinir a˘glarının bir türüdür ve birçok kıvrımlı bütünle¸stirici katmandan olu¸smak-tadır. Kıvrımlı sinir a˘gları gizli katmanlara sahip olması, a˘gırlık atamaları, hata hesaplamaları gibi özellikleri açısından yapay sinir a˘gı ile ortak özellik göstermektedir. Aynı zamanda, kıvrımlı sinir a˘gları tam ba˘gımlı katmanlara ihtiyaç duymazlar ve ayrıca gizli katmanlarda farklı görevler için özelle¸sebilirler (Deng, 2014).
¸Sekil 9.1: Kıvrımlı sinir a˘glarının i¸s akı¸s ¸seması
9.2.2 Derin ˙Inanç A˘gları
Derin inanç a˘gları tek seferde bir gizli özellik katmanını ö˘grenmek amacıyla Kısıtlı Boltzmann Makinesi (RBM) kullanılarak e˘gitilmi¸s olasılıklı bir modeldir (Hinton, Osindero, & Teh, 2006). ˙Ilk katın e˘gitim süreci tamamlandıktan sonra, ikinci RBM’nin gizli birimleri katmanı eklenir. ˙Istenen katman sayısına ula¸sılana kadar katmanlar birbiri ardına eklenir. Birinci katın ö˘grenilmi¸s özellikleri ikinci kat için girdi olarak alınır ve ikinci tabaka aynı ¸sekilde e˘gitilir.
9.2 Derin Ö ˘grenme Mimarileri 153 Günümüzde, derin inanç a˘gları, denetlenmemi¸s veya üretken ö˘grenme algoritmalarına kıyasla, daha az sıklıkta kullanılmaktadır, ancak yine de derin ö˘grenme kapsamı içerisinde tanımlanmaktadır-lar.
¸Sekil 9.2: Üç Sınırlı Boltzmann Makinasından (RBM) olu¸san Derin ˙Inanç A˘gları
¸Sekil 9.2’de verilen geleneksel bir DBN mimarisini, anlatmak gerekirse, giri¸s verilerini ve birden çok gizli katmanı olan bir yapıdan olu¸sur. DBN’nin her bir tabakası, RBM’nin e˘gitim prosedürüne göre e˘gitilmi¸stir. RBM1 e˘gitimi tamamlandıktan sonra modele RBM2’nin gizli birimleri eklenir. RBM1’in gizli aktivasyonları RBM2’ye görünür bir RBM2 tabakası olarak beslenir ve bu i¸slem RBM3 için de tekrarlanır.
9.2.3 Derin Oto-Kodlayıcılar
Oto-kodlayıcılar denetimsiz ö˘grenim için kullanılabilecek basit sinir a˘gları olarak tanımlanmı¸stır (Rumelhart, Hinton, & Williams, 2013). En önemli özelli˘gi çıkı¸s de˘gerlerini giri¸s de˘gerlerine e¸sit olarak ayarlamaya çalı¸smasıdır3. Çıkı¸s nöronlarının sayısı giri¸slerle aynıdır, ancak gizli nöronların sayısı farklıdır. Böylece giri¸s verileri farklı sayıda birim ile ifade edilir. Bu gizli nöronların a˘gırlık de˘gerleri, geri yayılma algoritması kullanılarak belirlenmektedir. Örnek bir oto kodlayıcı, ¸Sekil 9.3’te gösterilmi¸stir.
Bir oto-kodlayıcı, aslında kendi girdilerini yeniden yapılandırmayı amaçlayan yapay bir sinir a˘gı modelidir. Bu nedenle, giri¸s etkili kodlama yetene˘gine sahip oldu˘gu zaman ya da gizli birimlerin sayısı, birtakım giri¸s birimlerinden daha az oldu˘gunda, boyutsallı˘gın azaltılması durumları için de kullanılmaktadır.
¸Sekil 9.3: Üç Sınırlı Boltzmann Makinasından (RBM) olu¸san Derin ˙Inanç A˘gları