2. YAPAY ZEKÂNIN ASKERİ SAHADAKİ YANSIMALARI
3.2. Etik ve Hukuki Sorunlar Ekseninde Askeri Dönüşüm
3.2.4. Hukuki Eksende Güvenilirlik Sorunu
Otonom silahlara ilişkin test, ölçüm ve değerlendirme faaliyetlerini gerçekleştirecek bir uluslararası mekanizmanın bulunmaması ve devletlerin ulusal uygulama örnekleri incelendiğinde bu yönde bir eğilim gözlemlenmemesi, otonom
165 Ibid, s. 361.
166 Duygu Türk ve Özkan Agtaş, “Hanna’nın Kimsesizliği: Okuyucu’yu Hannah Arendt’le Okumak”, Ankara Üniversitesi SBF Dergisi, C. LXXII No. 4 (2017), s. 990.
77
silahların güvenilirliği sorununu gündeme getirmektedir.167 08 Haziran 1977 tarihinde imzalanan, 12 Ağustos 1949 tarihli Cenevre Sözleşmelerine Ek Uluslararası Silahlı Çatışmaların Kurbanlarının Korunmasına İlişkin I No’lu Protokol’de yer alan 36’ncı madde, yeni silahlara ilişkin hukuki bir düzenleme getirmektedir: “Bir Yüksek Akit Taraf, yeni bir silahın, savaş aracının ya da yönteminin üzerinde çalışmalar yapması, geliştirilmesi, elde etmesi ya da benimsemesi durumunda bunun kullanımının işbu Protokol ya da ilgili Yüksek Akit Tarafı bağlayan herhangi bir uluslararası hukuk kuralıyla her koşulda ya da bazı hallerde yasaklı olup olmadığını belirlemek yükümlülüğü altındadır.”168
Birleşmiş Milletler tarafından otonom silah sistemlerinin düzenlenmesi için 1981 tarihli “Belirli Konvansiyonel Silahlar Sözleşmesi” (Certain Conventional Weapons Convention-CCW) olarak bilinen “Aşırı Derecede Yaralayan ve Ayırım Gözetmeyen Etkileri Bulunan Belirli Konvansiyonel Silahların Kullanımının Yasaklanması veya Sınırlandırılması Sözleşmesi” çerçevesinde gerçekleşen “Devlet Uzmanları Grubu”
(Group of Governmental Experts – GGE) toplantıları bu konudaki çalışmalara örnek teşkil etmektedir. 2014 yılında başlayan toplantılar 2016 yılında resmileşmiştir. Devletler arasında silah sistemlerindeki otonominin sınırsız olamayacağı yönünde bir uzlaşı belirmiş olsa da ek bir düzenlemeye ihtiyaç duyulup duyulmadığı noktasında anlaşmazlıklar bulunmaktadır. Otonom silahlara dair, tespit edilemeyen parçacıklar, mayınlar, bubi tuzakları ve diğer teçhizat, yakıcı silahlar, kör edici lazer silahlar ve savaş artığı patlayıcılar konusunda kabul edilmiş olan Sözleşmeye ek Protokollere169 benzer şekilde otonom silahlara dair bir Protokol kabul edilebileceği veya 1997 yılında
anti-167 Scharre, op. cit., s. 355.
168 Melike Batur Yamaner, A. Emre Öktem, Bleda Kurtdarcan, Mehmet C. Uzun, 12 Ağustos 1949 Tarihli Cenevre Sözleşmeleri ve Ek Protokolleri, Galatasaray Üniversitesi Hukuk Fakültesi Yayınları:42, İstanbul, s. 212.
169 Türkiye Cumhuriyeti Birleşmiş Milletler Cenevre Ofisi Nezdinde Daimî Temsilciliği, “Silahsızlanma Konferansı (CD) ve Diğer Silahsızlanma Faaliyetleri”, 30 Ocak 2019, http://cenevreofisi.dt.mfa.gov.tr/Mission/ShowInfoNote/353781 (erişim tarihi: 15.05.2021).
78
personel mayınların yasaklandığı gibi katil robotları engellemeye yönelik bir anlaşma müzakeresinin gerçekleşebileceği düşünülmektedir.170Ancak 2018-2019 yıllarında gerçekleşen CCW toplantılarında ABD, Rusya, Güney Kore ve İsrail başta olmak üzere askeri teknolojiler alanında ilerleme kaydetmiş devletler ayrı bir anlaşma veya ek Protokol önerisini alanın henüz yeterince olgunlaşmadığı gerekçesiyle reddetmiştir.171
Anılan dönemde, devletler arası bir uzlaşı sağlanmasının zorluğunun öne çıkması ile Avrupa Parlamentosu tarafından kabul edilen 12 Eylül 2018 tarihli otonom silah sistemleri kararı ile (European Parliament resolution of 12 September 2018 on autonomous weapon systems (2018/2752(RSP))172 “acil bir mesele olarak silah sistemlerinin kritik işlevleri üzerinde, konuşlandırma sırasında da dahil olmak üzere, anlamlı insan kontrolü sağlayan, ölümcül otonom silah sistemleri üzerinde ortak bir pozisyon geliştirmek ve benimsemek” ve “ölümcül otonom silah sistemlerini yasaklayan yasal olarak bağlayıcı bir araç üzerinde uluslararası müzakerelerin başlaması için çalışmak” çağrılarında bulunulmuştur.173 Avrupa Birliği gibi önemli bir aktör tarafından yapılacak bu yönde bir açıklamanın, yasaklama çağrılarını yaygınlaştırıcı nitelikte olabileceği düşünülse de yasaklama niteliği taşıyan bir ek Protokol veya anlaşma konusunda uzlaşı sağlanamamıştır.
2018-2019 yıllarında gerçekleştirilen çalışmaları müteakip GGE kapsamında, 15 Kasım 2019 tarihinde CCW’ye taraf, imzacı ve gözlemci toplam 94 devletin174 ve otonom
170 Human Rights Watch, op. cit., 2019, s. 2.
171 Ibid, s. 5.
172 European Parliament resolution of 12 September 2018 on autonomous weapon systems (2018/2752(RSP)), https://www.europarl.europa.eu/doceo/document/TA-8-2018-0341_EN.pdf?redirect (erişim tarihi: 15.05.2021).
173 Ariel Conn, “European Parliament Passes Resolution Supporting a Ban on Killer Robots”, Future of Life Institute, 14 Eylül 2018, https://futureoflife.org/2018/09/14/european-parliament-passes-resolution-supporting-a-ban-on-killer-robots/ (erişim tarihi: 15.05.2021).
174 Katılımcı Devletler: CCW’ye Taraf Olan: ABD, Afganistan, Almanya, Arjantin, Arnavutluk, Avustralya, Avusturya, Bahreyn, Belarus, Belçika, Birleşik Arap Emirlikleri, Birleşik Krallık, Brezilya, Bulgaristan, Burkina Faso, Çek Cumhuriyeti, Çin, Dominik, Ekvador, El Salvador, Estonya, Fas, Fildişi Sahili, Filipinler, Filistin, Finlandiya, Fransa, Guatemala, Güney Afrika, Gürcistan, Hırvatistan, Hindistan, Hollanda, Honduras, Irak, İrlanda, İspanya, İsrail, İsveç, İsviçre, İtalya, Japonya, Kanada, Karadağ, Katar, Kazakistan, Kıbrıs, Kolombiya, Kore, Kosta Rika, Kuveyt, Kuzey Makedonya, Küba, Laos, Letonya, Litvanya, Lübnan, Lüksemburg, Macaristan, Meksika, Moldova, Norveç, Pakistan, Panama, Peru, Polonya, Portekiz, Romanya, Rusya, Senegal, Sırbistan, Slovakya, Slovenya, Sri Lanka, Suudi Arabistan, Şili,
79
silah sistemlerinin yasaklanması yönünde çalışmalar yürüten sivil toplum kuruluşlarının katılımları ile düzenlenen oturumda 11 adet “yol gösterici ilke” (guiding principles) üzerinde uzlaşı sağlanmıştır. Bahsekonu ilkeler aşağıdaki şekildedir:175
i. Uluslararası insani hukuk, ölümcül otonom silah sistemlerinin potansiyel gelişimi ve kullanımı da dahil olmak üzere tüm silah sistemlerine tam olarak uygulanmaya devam eder.
ii. Hesap verme sorumluluğunun makinelere aktarılamayacağından hareketle silah sistemlerinin kullanımına ilişkin kararlar için insan sorumluluğu muhafaza edilmelidir. Bu, silah sisteminin tüm yaşam döngüsü boyunca dikkate alınmalıdır.
iii. Çeşitli biçimler alabilen ve bir silahın yaşam döngüsünün çeşitli aşamalarında uygulanabilen insan-makine etkileşimi, ölümcül otonom silah sistemleri alanında ortaya çıkan teknolojilere dayalı silah sistemlerinin potansiyel kullanımının uygulanabilir uluslararası hukuk ile ve özellikle uluslararası insani hukuk ile uyumlu olmasını sağlamalıdır. İnsan-makine etkileşiminin kalitesini ve kapsamını belirlerken, operasyonel bağlam ve bir bütün olarak silah sisteminin özellikleri ve yetenekleri dahil olmak üzere bir dizi faktör dikkate alınmalıdır.
iv. CCW çerçevesinde ortaya çıkan herhangi bir silah sistemini geliştirme, yerleştirme ve kullanma sorumluluğu, bu tür sistemlerin sorumlu bir insan komuta ve kontrol zinciri dahilinde işletilmesi de dahil olmak üzere, geçerli uluslararası hukuka uygun olarak sağlanmalıdır.
v. Devletlerin uluslararası hukuk kapsamındaki yükümlülüklerine uygun olarak, yeni bir silah, araç veya savaş yönteminin incelenmesi, geliştirilmesi, edinilmesi
Tunus, Türkiye, Ukrayna, Uruguay, Ürdün, Vatikan, Venezuela, Yeni Zelanda, Yunanistan. İmzacı Olan:
Mısır, Sudan. Gözlemci: Azerbaycan, Gana, Mozambik, Myanmar, Somali, Tayland, Umman.
175 CCW, “Meeting of the High Contracting Parties to the Convention on Prohibitions or Restrictions on the Use of Certain Conventional Weapons Which May Be Deemed to Be Excessively Injurious or to Have Indiscriminate Effects”, Cenevre, 13-15 Kasım 2019.
80
veya benimsenmesinde, bu silahın kullanımının bazı veya tüm koşullarda uluslararası hukuk tarafından yasaklanıp yasaklanmayacağına karar verilmelidir.
vi. Ölümcül otonom silah sistemleri, fiziksel güvenlik, uygun fiziksel olmayan önlemler (bilgisayar korsanlığı veya veri sahtekarlığına karşı siber güvenlik dahil) alanında ortaya çıkan teknolojilere dayalı yeni silah sistemleri geliştirirken veya satın alırken, terörist grupların ele geçirme riski ve yayılmasının dikkate alınması gerekir.
vii. Risk değerlendirmeleri ve hafifletme önlemleri, herhangi bir silah sistemindeki yeni teknolojilerin tasarım, geliştirme, test etme ve yerleştirme döngüsünün bir parçası olmalıdır.
viii. Ölümcül otonom silah sistemleri alanında ortaya çıkan teknolojilerin, uluslararası insani hukuk ve diğer uygulanabilir uluslararası yasal yükümlülüklere uyumu sürdürmek için kullanılması düşünülmelidir.
ix. Potansiyel politika önlemleri oluştururken, ölümcül otonom silah sistemleri alanında ortaya çıkan teknolojiler antropomorfize edilmemelidir.
x. CCW bağlamındaki tartışmalar ve alınan herhangi bir potansiyel politika önlemi, akıllı otonom teknolojilerin barışçıl kullanımlarında ilerlemeyi veya bunlara erişimi engellememelidir.
xi. CCW, askeri gereklilik ve insani düşünceler arasında bir denge kurmayı amaçlayan Sözleşme'nin hedef ve amaçları bağlamında ölümcül otonom silah sistemleri alanında ortaya çıkan teknolojiler konusunu ele almak için uygun bir çerçeve sunmaktadır.
Devletler 2020-2021 yıllarında ölümcül otonom silah sistemleri üzerine “normatif ve operasyonel bir çerçeve” geliştirme amacıyla dört haftalık toplantılar düzenleme konusunda uzlaşı sağlamış ve 13-17 Aralık 2021 tarihlerinde gerçekleşmesi öngörülen GGE’nin 2021 CCW Gözden Geçirme Konferansı’nda önemli ve siyasi açıdan iddialı
81
öneriler sunabileceği düşünülmüştür. Ancak, Covid-19 salgını nedeniyle 2020 yılı toplantıları ertelenmiş ve yazılı görüş gönderme yöntemi ile çalışmalara devam edilmiştir.176
Devletler tarafından çalışmalarına rehberlik edeceği düşünülen yönlendirici ilkeler belirlenmesi önemli bir adım olarak görünse de silah sistemlerinde giderek artan otonominin neden olduğu çok yönlü endişeler için yeterli veya uygun bir yanıt teşkil etmediği değerlendirilmektedir.177 Öncelikle, teknolojik silahlar kapsamına nelerin girdiğinin belirlenmesi ve kavramsal çerçevenin üzerinde uzlaşılmasına ihtiyaç duyulmaktadır. Ancak, terör kavramı örneğinde olduğu gibi devletlerin uzun yıllardır gündemde olmasına rağmen uluslararası bir uzlaşı sağlayamadıkları birçok kavram bulunmaktadır. Aynı zamanda devletler, Ar-Ge faaliyetlerine devam edebilmek için yeni düzenlemelerden kaçınmak amacıyla tam otonom silah kavramını farklı tekniklerle bir nevi yumuşatmaktadır. Tam otonom silah sistemlerinde farklı modların aktive edilebilmesinden hareketle, bu sistemleri tam otonom değil yarı otonom veya denetimli otonom olarak sınıflandırarak düzenlemenin öncelikli olmadığını vurgulama eğiliminin baskın olduğu gözlemlenmektedir. Yeni dijital teknolojilerin mevcut yasal bağlamlarda ele alınması zorlukları beraberinde getirmekte, yeni bir yasal bağlam oluşturulabilmesi için hukuki ve teknik uzmanlık bilgisine ihtiyaç duyulmaktadır. Ancak bu şekilde otonom silah sistemlerinin ve askeri robotların performans ve risk değerlendirmelerinin yapılabileceği verimli bir ortam sağlanabilecektir.178
Günümüzde kaydedilen ilerlemeler ve önümüzdeki dönemdeki potansiyel gelişmeler ele alındığında, askeri sahada yapay zekâ kullanımının savaş alanında bir dönüşüme neden olacağı ancak ortaya tek bir deterministik sonuç çıkmayacağı göz
176 Stockholm International Peace Research Institute, “SIPRI Yearbook 2020: Armaments, Disarmament and International Security Summary”, Oxford University Press, 2020, s. 19.
177 Human Rights Watch, op. cit., 2019, s. 6.
178 Vincent Boulanin ve Maaike Verbruggen,, “Article 36 Reviews: Dealing with the challenges posed by emerging technologies”, Stockholm International Peace Research Institute, 2017, s. 20.
82
önünde bulundurulmalıdır.179 Dönüşümün boyutunda ve niteliğinde, ulusal ve uluslararası politika yapıcıların aldıkları kararlar esas belirleyici olacaktır. Mevcut durumun incelenmesinden de görüleceği üzere, ivedilikle ele alınması gereken sorunlara dair ulusal sorumluluklar ve uluslararası diplomasi neredeyse yok denecek kadar yavaş bir hızda ilerlemektedir. Savaşın şeklini ve aktörlerini değiştirmeye yönelik gelişmelere ilişkin bugünden alınacak kararlar ve sağlanacak düzenlemeler, önümüzdeki dönemde daha da belirgin hale geleceği düşünülen yeni savaş alanında uzun vadeli etkilere sahip olacaktır.
SONUÇ
Yapay zekânın sağladığı dönüştürücü etki, bir hegemon kontrolünde ya da dünyanın belirli bir bölgesinde değil her yerde hissedilmektedir. İnovatif süreçlerin yarattığı dinamikler, üretim süreçlerini, karar alma mekanizmaları ve toplumsal alanı dönüştürmektedir. İnovasyonun devamlı hale gelmesi bir yandan ekonomik kazanç
179 Harari, op. cit., s. 413.
83
sağlarken diğer yandan aktörler tarafından esnek politika çerçeveleri benimsenmesi ihtiyacını da beraberinde getirmektedir. Askeri teknolojiler hızla yayılmakta ve bu teknolojilere sahip aktörler, devletlerle sınırlı kalmamaktadır. Bu durum, tüm aktörlerin otonom silahlara sahip olduğu bir dünya tahayyülünü mecburi kılmaktadır.
Alan Turing tarafından 1950 yılında kaleme alınan makale ile temeli atılan yapay zekâ çalışmaları, 1956 yılında gerçekleşen Dartmouth Yapay Zekâ Yaz Araştırma Projesi ile akademik bir disiplin niteliği kazanmıştır. Kuruluşundan bugüne çalışmaların inişli çıkışlı bir yapıya sahip olduğu da göz önünde bulundurulmakla birlikte yapay zekâya dair en önemli nokta yalnızca güncel bir eğilim olmaması, bir akademik disiplin teşkil etmesidir. Bu doğrultuda yapay zekânın yalnızca içinde bulunduğumuz dijital dönüşüm süreciyle ortaya çıkmadığı, bu dönemdeki dijitalleşmeyle beraber yükselişe geçtiği ancak önümüzdeki süreçte çalışmalarda yeniden bir düşüş yaşanması durumunda da yapay zekâ çalışmalarının akademik olarak devam edeceği ve dolayısıyla yeniden desteklenebileceği göz önünde bulundurulmalıdır. Bu durum yapay zekâya dair uzun vadeli ve kapsamlı yol haritaları belirlemenin önemini vurgular niteliktedir. Öte yandan, Nilsson tarafından makinelere kendi ortamlarında doğru düzgün ve olan biteni öngörerek işlev görmesini sağlayan zekâ kazandırmaya adanmış etkinlik olarak tanımlanan yapay zekâ matematik, mantık, sinir bilim, dil bilim, istatistik, olasılık kuramı, kontrol mühendisliği, psikoloji ve bilgisayar bilimi gibi farklı alanlardan beslenerek disiplinler arası bir yaklaşım doğrultusunda geliştirilmektedir. Bu durum, yapay zekâ sistemlerinin farklı süreçlerdeki etkileri üzerinde gerçekleştirilen çalışmalarda da esas verimin çok disiplinli bir yaklaşımla sağlanacağını gösterir niteliktedir.
Nöral ağlar aracılığıyla gerçekleştirilen derin öğrenme sürecinde otonom öğrenmenin bir parçası olarak kurulan karmaşık ve çeşitlendirilebilir korelasyonlar sonucu yapay zekâ sistemlerinin karar alma süreçleri açıklanabilirlikten ve şeffaflıktan uzaklaşmakta, sistem tasarımcısı tarafından bile alınan kararların neden-sonuç ilişkisi
84
anlaşılamamaktadır. Kara kutu sorunu olarak adlandırılan bu süreç genel bir sorun haline geldikçe, yapay zekâ-insan ikiliğinin önüne geçmek adına insanın karar alma döngüsündeki rolünü ve varlığını korumak daha öncelikli hâle gelmektedir.
Yapay zekâ teknolojisinin güvenlik sistemlerinde kullanımı, son 10 yılda giderek artış gösterse de yapay zekâ çalışmalarının başladığı günden itibaren güvenlik, ön plana çıkan bir uygulama alanı teşkil etmiştir. Askeri alanda robotik çalışmalar İkinci Dünya Savaşı’ndan bu yana devam etmekte ve savaş alanında robotik çalışmalardan faydalanılmaktadır. Başlangıçta konuşma anlama, görüntü işleme ve stratejik hesaplama gibi spesifik alanlara yönelik küçük programların yerini yapay zekâ çalışmalarındaki gelişmelerin hızlanması ile birlikte geniş kapsamlı hedeflerin belirlendiği büyük bütçeli stratejik planlar almıştır. Belirtilen alanların kullanıldığı sürücüsüz araç teknolojileri gibi ticari alanla iç içe geçmiş olan daha karmaşık askeri teknolojilerde ilerleme kaydedilmiş ve oluşan bilgi birikimi doğrultusunda 2000’li yıllardan itibaren insanın askeri alandaki rolünün azaltılarak robotların ve otonom sistemlerin görünürlüğünün artırılmasına yönelik çalışmalar gündeme gelmiştir.
Üzerinde uzlaşı sağlanmış bir tanımı bulunmayan robotların askeri amaçlarla kullanımı ele alındığında, bomba imha, lojistik ve arama kurtarma gibi amaçlarla kullanılan hizmet ve destek sağlayan robotlar kadar savaşçı robotların da farklı amaçlarla kullanıldığı gözlemlenmektedir. Saldırı, savunma ve tatbikat gibi farklı bağlamlarda geliştirilen insansız kara, deniz ve hava araçlarının yanı sıra sınır güvenliğini sağlamak gibi hassas alanlarda da askeri robotlardan faydalanılmaktadır. Robotik sistemlerin insanla işbirliği içerisinde çalışarak savaş alanını daha hasarsız bir hale getirebileceğinin yanı sıra askeri robotik çalışmaların denetlenemez bir hal almasının çatışmayı daha da körükleyeceği göz önünde bulundurulması gereken bir durumu teşkil etmektedir.
Savaş alanında daha hızlı tamamlayanın taktiksel üstünlüğe sahip olacağı OODA döngüsü, otonom silah sistemleriyle beraber dönüşüm geçirmektedir. Bu sistemler ile
85
birlikte savaş alanındaki gözlemleme, konumlanma, karar alma ve uygulama süreçlerinde insan kaynaklı rasyonalite ve insani muhakeme süreci dışarıda bırakılmaktadır. Özellikle tam otonom sistemler bir gelecek tahayyülü gibi görünse de halihazırda dünyanın farklı bölgelerinde savunma şirketleri tarafından geliştirilmiş sistemler bulunmaktadır. Askeri alanda karar alma ve harekete geçme hızının artmasının taktiksel üstünlük sağlayan temel faktör olduğu göz önüne alındığında, tam otonom silah çalışmalarının yürütülmediği devletler de yaşanan dönüşüme uyum sağlamak amacıyla bu sistemlerin ülkelerine transferlerine yönelik çalışmalarını hızlandırmaktadır. Ticari faaliyetlere de konu olan otonom silah sistemleri, giderek daha fazla devletin askeri envanterinde yer almaktadır.
Yetkinlik, zekâ ve gelişmişliğin arttığı ve daha karmaşık görevleri yerine getirebilen otonom silah sistemlerini asıl tanımlayan etkinin zekâ değil serbesti olduğu unutulmamalıdır. İnsanların karar alma sürecine ne ölçüde dahil olacakları hususu konuyla ilgili tartışmaların zeminini oluşturmakla beraber en kısa sürede açıklığa kavuşturulması gereken meseledir. Devletler arasında otonomi tanımı ile ilgili bir uzlaşı sağlanmamış ve hatta kavramın sınırları bile belirlenmemiştir. Mevcut durumda otonomi kavramı, devletlerin gerekli düzenleme yükümlülüklerini bertaraf etmek için sınırlarını muğlaklaştırdıkları, belirsiz bir kavram olarak ele alınmaktadır. Tam otonom silah çalışmaları yürütülen çeşitli devletlerdeki uygulamalar incelendiğinde, araştırmacıların, insanların karar alma süreçlerine ne ölçüde dahil olacağı hususunu karar alma mekanizmalarında yer alan politik aktörlere bırakma yoluna gittikleri görülmektedir.
Araştırmacılar ve siyasi karar alma mekanizmaları arasındaki bu sessiz uzlaşı, devletlerin otonom silahlar kavramının içini boşaltmasına hizmet etmekte, devletler yasal denetim yükümlülüklerini, otonom sistemleri, otomatik veya otomatikleştirilmiş olarak göstererek askıya almaktadır.
Hedef belirleme noktasında yapacağı küçük bir yanlışlıkla büyük bir yıkıma neden olabilecek otonom sistemler, başta savaşlar, terör ve suikastlar olmak üzere güç
86
kullanımında köklü bir dönüşüm yaratma potansiyeline sahiptir. İnsan hayatının söz konusu olduğu ve anlık kararların yıkıcı durumları beraberinde getirmesi riskini barındıran savaş alanında, özellikle hedef belirleme ve saldırı adımlarında değerlendirme ve karar alma sürecinin insani bir muhakeme yerine yapay zekâ sistemleri tarafından algoritmik olarak yerine getirilmesi, aktörlerin temel hedefi olan hızı ve çevikliği sağlarken etik ve hukuki sorunları da beraberinde getirmektedir.
Devletler ve devlet dışı aktörler tarafından rakiplerinden daha hızlı bir şekilde sistemlere sahip olmak için körüklenen bir “yapay zekâ silahlanması yarışı”
belirginleşmekte, bu yarışta temel hedef sistemlere diğer aktörlerden önce sahip olmak olduğu için düzenleme ve denetleme ihtiyacı bir kenara bırakılmaktadır. Devletler ulusal, bölgesel ve uluslararası alanda düzenlemelere gitmek konusunda isteksiz davranmakta ve devletleri denetim altına alacak bir mekanizma bulunmamaktadır. Bu yönde bir mekanizmanın yokluğundan hareketle, devletlerin ve devlet dışı aktörlerin bu sistemlere sahip olmasının yaratacağı sorunlar göz önünde bulundurulmalıdır. Aynı zamanda, yasal düzenlemeler gerçekleştirilse bile, devletlerin bu düzenlemelere ne ölçüde uyacağı ve düzenlemelerin uygulamada ne kadar geçerli olacağı tartışmalıdır. Suç tanımının hangi unsurları içereceği, suç işlenmesi durumunda nasıl bir yaptırım uygulanacağı ve suç ile fail arasındaki bağın nasıl kurulacağı soruları cevapsız kalmaktadır. Nitekim halihazırda Cenevre Sözleşmelerine Ek Uluslararası Silahlı Çatışmaların Kurbanlarının Korunmasına İlişkin I No’lu Protokol’de yer alan 36’ncı madde ve Aşırı Derecede Yaralayan ve Ayırım Gözetmeyen Etkileri Bulunan Belirli Konvansiyonel Silahların Kullanımının Yasaklanması veya Sınırlandırılması Sözleşmesi kapsamında sürdürülen çalışmalarda bağlayıcı bir hukuki metin veya denetim mekanizması üzerine uzlaşı sağlanamamakta, bağlayıcılığı olmayan ve genel ifadelerin yer aldığı belirli ilkeler benimsenmektedir.
Askeri alanda benimsenen teknolojik gelişmeler, siyasi karar alma mekanizmalarının ve savaş alanının, etik ve kabul edilebilirlik anlayışını
87
değiştirmektedir. Söz konusu savaş alanındaki dönüşüm olduğunda bu durum, daha karmaşık bir sürece işaret etmektedir. Sistemlere sağlanan otonomi arttıkça bir yandan savaş alanında hız kazanılırken diğer yandan neden olunan yıkımın ölçeği de genişlemekte ve otonominin sınırının, insana yıkıcı süreçlere müdahale etme şansı verme noktasında belirlenmesi ihtiyacı belirginleşmektedir.
Tarafsız bir teknoloji tahayyülünde bulunma eğilimi ön plana çıksa da algoritmalar ve yapay zekâ sistemleri, insanlar tarafından kendilerine sağlanan veri setleri ile bizzat belirli kişisel görüşlere ve değerlere sahip insanlar tarafından eğitilmekte, bu nedenle topluma içkin tartışmalar teknolojik tartışmaların da temelini oluşturmaktadır.
Bu kapsamda, toplumsal güveni artırarak yapay zekânın entegrasyon sürecini hızlandırmak ve yapay zekânın sağladığı katma değerden en üst düzeyde faydalanırken toplumsal ilişkiler üzerindeki potansiyel olumsuz etkilerden korunmak, devletlerin politika tercihleri doğrultusunda şekillenen bir alan teşkil etmektedir. Yapay zekâ teknolojisi, devletler nasıl anlamlandırırsa o yönde ilerleme potansiyeli ile küresel alanda büyük faydalar sağlama veya öngörülemez yıkımlara neden olma ihtimallerini beraberinde getirmektedir.
EKLER
Ek-I: Savunma Şirketleri Tarafından Geliştirilen Askeri Otonom Sistem Örnekleri (2019 Yılı İtibariyle) 180
Şirket Yönetim
Merkezi
Üretilen Otonom Sistem Örnekleri
180 Slijper, “Slippery Slope: The Arms Industry and Increasingly Autonomous Weapons”, s. 6.
88
AeroVironment ABD ▪ Switchblade Gezici Mühimmat
Airbus Avrupa Birliği
▪ İkili Modlu Brimstone Güdümlü Füzesi
▪ “Many Drones Make Light Work” Sürü Teknolojisi
AVIC Çin
▪ GJ-11 Keskin Kılıç Silahlı İnsansız Hava Aracı
▪ ASN-301 Gezici Mühimmat
BAE Systems Birleşik Krallık
▪ Taranis Silahlı İnsansız Hava Aracı
▪ İkili Modlu Brimstone Güdümlü Füzesi
▪ RTD İnsansız Kara Aracı
▪ MAPLE Otonom Deniz Platformu
Boeing ABD
▪ Stingray Silahlı İnsansız Hava Aracı
▪ Wave Glider İnsansız Deniz Aracı
▪ Echo Voyager İnsansız Su Altı Aracı
CASC Çin ▪ CH-901 ve WS-43 Gezici Mühimmatı
Dassault Fransa ▪ Neuron Silahlı İnsansız Hava Aracı DefendTex Avustralya ▪ Drone 40 Gezici Mühimmatı
DoDAAM Systems
Güney Kore
▪ Süper Aegis II Otomatikleştirilmiş Sınır Kontrol Silahı
Dynetics ABD ▪ Sürü Teknolojisi: Gremlins
ECA Grup Fransa
▪ Cobra, Nerva ve Caméléon İnsansız Kara Araçları
▪ Otonom Su Altı Araçları
Elbit İsrail
▪ Gezici Mühimmatı
▪ Seagull İnsansız Deniz Aracı
89
FLIR ABD
▪ Black Hornet Nano İnsansız Hava Aracı
▪ Ripsaw M5 RVC
General Atomics
ABD
▪ Agile Condor
▪ Yapay Zekâ Destekli MQ-9 Reaper İnsansız Hava Aracı
General Dynamics
ABD
▪ İnsansız Su Altı Araçları Bluefin ve Black Pearl
Hanwha Güney Kore
▪ SGR-1A Nöbetçi Robotu
▪ Çok Amaçlı İnsansız Kara ve Su Altı Araçları
Huntington Ingalls
ABD ▪ Orca Otonom Denizaltı
IAI İsrail
▪ Harpy
▪ Mini Harpy
▪ Harop
▪ Green Dragon Gezici Mühimmatı
▪ Robattle İnsansız Kara Aracı
Kongsberg Norveç ▪ JSM/NSM Güdümlü Füzeleri
KNDS Fransa/Almanya
▪ Ana Kara Savaş Sistemleri, Nerve ve Caméléon İnsansız Kara Araçları
Kratos ABD ▪ XQ-58A Valkyrie Sürü Teknolojisi
L3Harris ABD
▪ C-Target 9 İnsansız Kara Aracı
▪ MAST-9 İnsansız Deniz Aracı
▪ Sonobuoy Dağıtıcı Sistem
Leidos ABD ▪ Sea Hunter İnsansız Deniz Aracı
90
Leonardo İtalya
▪ nEUROn Silahlı İnsansız Hava Aracı
▪ İkili Modlu Brimstone Güdümlü Füzesi
LIG Nex1 Güney Kore
▪ Taşınabilir İnsansız Kara Aracı
▪ İnsansız Deniz Aracı Sea Sword
Lockheed Martin
ABD
▪ LRASM Seyir Füzesi
▪ Have Raider İnsanlı-İnsansız Takım Oluşturma
Milrem Estonya ▪ TheMIS İnsansız Kara Aracı
NCSIST Tayvan
▪ Hong Que (Cardinal) Mini İnsansız Hava Aracı
▪ Chien Hsiang Gezici Mühimmatı
NORINCO Çin
▪ Calavry, War Wolf, Sharp Claw ve King Leopard İnsansız Kara Araçları
Northrop Grumman
ABD
▪ X-47B Silahlı İnsansız Hava Sistemi
▪ MQ-4C Triton İnsansız Hava Aracı
▪ Fire Scout Otonom Helikopter
▪ OFFSET Sürü Teknolojisi Praesidium
Global
Avustralya
▪ Göreve Uyarlanabilir Platform Sistemi İnsansız Kara Aracı
QinetiQ Birleşik Krallık
▪ Titan ve EMAV İnsansız Kara Araları
▪ Taranis Silahlı İnsansız Hava Aracı
▪ MAPLE Otonom Deniz Platformu
Rafael İsrail
▪ Spice Güdümlü Füze
▪ Orbiter K Gezici Mühimmatı
▪ Sentry Tech Sınır Kontrol
Raytheon ABD ▪ JSM/NSM Seyir Füzesi
91
▪ SeaRAM Füze Sistemi
▪ SM-2 Block IIB Füze Sistemi
▪ MIM-104 Patriot Hava Savunma Sistemi
▪ Coyote ve OFFSET Sürü Teknolojileri
Rheinmetall Almanya
▪ Wiesel Vingman ve Mission Master İnsansız Kara Araçları
Rostec Rusya
▪ KYB ve Lantset Gezici Mühimmatı
▪ Uran-9 İnsansız Kara Aracı
▪ T-72 İnsansız Tank
Saab İsveç
▪ nEUROn Silahlı İnsansız Hava Aracı
▪ Otonom Su Altı Araçları (AUV-62)
▪ Otonom Hava Araçları (Skeldar V-200)
Safran Fransa
▪ nEUROn Silahlı İnsansız Hava Aracı
▪ Patroller İnsansız Hava Aracı
▪ Vampir NG İnsansız Deniz Aracı ST Engineering Singapur ▪ DroNet İnsansız Hava Aracı
STM Türkiye ▪ KARGU, ALPAGU ve TOGAN Gezici
Mühimmatları
Swiftships ABD ▪ Anaconda İnsansız Deniz Aracı
Teledyne ABD
▪ DARPA Yeni Nesil Cerrahi Olmayan Nöroteknoloji Programı
▪ Otonom Su Altı Araçları
Textron ABD
▪ Ripsaw M5 RVC
▪ İnsansız Deniz Aracı
Thales Fransa ▪ Watchkeeper İnsansız Hava Aracı