Katil Robotları Yasaklamak Neden Yeterli Olmayabilir?

Yapay zekâ, yalnızca arama motorlarını daha akıllı hale getiren, metin yazan veya fotoğraf üreten bir teknoloji olmaktan çoktan çıktı. Algoritmalar artık araçları yönlendirebiliyor, karmaşık görüntüleri analiz edebiliyor, sensörlerden gelen verileri yorumlayabiliyor ve insan müdahalesinin sınırlı olduğu ortamlarda karar verebiliyor.

Bu gelişmelerin doğal olarak ulaştığı en tartışmalı alanlardan biri ise savaş teknolojileri.

Bir zamanlar bilim kurgu filmlerinin konusu olan otonom savaş sistemleri, bugün artık yalnızca teorik bir gelecek senaryosu değil. İnsan tarafından uzaktan kontrol edilen insansız araçlardan, hedefleri algılayıp sınıflandırabilen sistemlere kadar uzanan teknoloji zinciri, savaş alanında insanın rolünün giderek değişebileceğini gösteriyor.

Tam da bu nedenle dünyada önemli bir tartışma yürütülüyor:

İnsan hayatı üzerinde ölümcül kararlar verebilen otonom silah sistemleri yasaklanmalı mı?

İlk bakışta cevap oldukça basit görünüyor: Evet.

İnsanların yaşam ve ölüm kararlarını makinelerin vermesine izin vermek, ahlaki açıdan son derece tehlikeli bir ihtimaldir. Bir makinenin merhameti, vicdanı, bağlamı değerlendirme yeteneği veya savaşın sonuçlarını insani açıdan kavrama kapasitesi yoktur.

Ancak mesele yalnızca ahlaki bir tartışmadan ibaret değildir.

Asıl sorun, böyle bir yasağın teknik olarak tanımlanıp tanımlanamayacağı, denetlenip denetlenemeyeceği ve devletler tarafından gerçekten uygulanıp uygulanmayacağıdır.

Çünkü yapay zekâ destekli otonom silahları diğer birçok silahtan ayıran temel özellik, onların yalnızca birer “silah” olmamasıdır.

Aynı teknoloji, sivil bir otomobilde, fabrikada, veri merkezinde, insansız hava aracında veya askeri bir sistemde kullanılabilir.

Bu nedenle katil robotları yasaklama girişimi, aslında çok daha büyük bir soruyu gündeme getiriyor:

Bir silahı mı yasaklayacağız, yoksa o silahı mümkün kılan teknolojiyi mi?

İkinci seçenek ise neredeyse imkânsız bir noktaya ulaşır.

---

Katil Robot Denildiğinde Gerçekte Neyi Konuşuyoruz?

“Katil robot” ifadesi, kamuoyunda çoğu zaman Hollywood filmlerindeki insansı makineleri çağrıştırıyor.

Metal bir gövdeye sahip, silahlı ve insanları takip eden bir robot…

Fakat gerçek tartışmanın merkezinde bu tür makineler bulunmuyor.

Asıl mesele; insansız hava araçları, otonom kara araçları, deniz sistemleri, gelişmiş mühimmatlar, sensör ağları ve hedef tespit sistemleri gibi platformların giderek daha fazla karar verme yeteneğine sahip olması.

Buradaki kritik fark, insanın sistem üzerindeki kontrolünün derecesidir.

Bir drone’un insan tarafından kumanda edilmesi başka bir şeydir.

İnsanın hedefi seçmesi, drone’un ise yalnızca verilen koordinata gitmesi başka bir şeydir.

Sistemin çevresini analiz ederek hedefleri sınıflandırması ve belirli koşullar gerçekleştiğinde insan müdahalesi olmadan hareket etmesi ise tamamen farklı bir aşamadır.

Dolayısıyla “otonom silah” kavramı sanıldığından çok daha geniştir.

Bu da hukuki ve diplomatik açıdan büyük bir problem yaratmaktadır.

Bir sistem ne zaman gerçekten otonomdur?

İnsan operatörünün yalnızca son onayı vermesi yeterli midir?

İnsan hedefi seçmiyor ancak saldırı koşullarını önceden belirliyorsa karar hâlâ insana mı aittir?

Bir sistem iletişim bağlantısını kaybettiğinde kendi başına hareket edebiliyorsa bu durum nasıl değerlendirilecektir?

Bu soruların her biri, uluslararası hukuk açısından son derece karmaşık sonuçlar doğurabilir.

---

İnsan Denetiminin Ortadan Kalkması Neden Tehlikeli?

Otonom silahların en büyük problemi, onların “kötü” olması değildir.

Sorun, makinelerin yanlış karar verebilmesidir.

Bir yapay zekâ sistemi ne kadar gelişmiş olursa olsun, çevresinden aldığı veriler hatalıysa sonuç da hatalı olabilir.

Bir sensör yanlış ölçüm yapabilir.

Bir görüntü sistemi bir nesneyi yanlış sınıflandırabilir.

Bir iletişim sistemi bozulabilir.

Eğitim verilerindeki eksiklikler gerçek dünyada beklenmedik sonuçlar doğurabilir.

Düşman tarafından yanıltıcı sinyaller üretilebilir.

Hava koşulları sensör performansını değiştirebilir.

Ve bütün bunların ötesinde savaş alanı, yapay zekâ modellerinin eğitiminde kullanılan kontrollü ortamlardan çok daha karmaşıktır.

Bir insan asker de hata yapar.

Fakat insanın hata yapması ile bir makinenin hata yapması arasında önemli bir fark vardır.

İnsan karar vermeden önce tereddüt edebilir.

Korkabilir.

Emri sorgulayabilir.

Karşısındaki kişinin sivil olduğunu fark edebilir.

Beklenmedik bir durumla karşılaştığında prosedürün dışına çıkabilir.

Makine ise kendisine verilen kurallar çerçevesinde hareket eder.

Bu nedenle insanın savaş alanındaki en büyük avantajlarından biri aynı zamanda en büyük zayıflığıdır:

İnsan davranışı öngörülemezdir.

Bir insan, algoritmanın öngörmediği bir durumda kararını değiştirebilir.

Bir makinenin ise böyle bir esnekliği ne ölçüde gösterebileceği tartışmalıdır.

---

Asıl Tehlike Hata Değil, Hatanın Hızı Olabilir

Otonom savaş sistemlerini tehlikeli kılan başka bir özellik de işlem hızıdır.

İnsanların karar verme süresi sınırlıdır.

Makineler ise çok büyük miktarda veriyi çok kısa sürede işleyebilir.

Bu avantaj normal koşullarda son derece değerlidir.

Ancak savaş alanında aynı özellik tehlikeli bir probleme dönüşebilir.

Bir yapay zekâ sistemi yanlış bir değerlendirme yaptığında insanın müdahale edebilmesi için gereken zaman çok kısa olabilir.

Özellikle çok sayıda otonom sistemin aynı anda hareket ettiği bir ortamda, küçük bir hata zincirleme sonuçlar doğurabilir.

Bir sistem diğerini tehdit olarak algılayabilir.

Karşı taraf buna tepki verebilir.

İlk sistem yeni tepkiyi başka bir tehdit olarak değerlendirebilir.

Böylece insanların karar alma süreçlerinin gerisinde kaldığı bir çatışma döngüsü oluşabilir.

Bu durum özellikle yapay zekâ destekli sistemlerin birbirleriyle karşı karşıya geldiği bir gelecekte daha ciddi hale gelebilir.

Savaşın temposu insanın karar verme hızını aştığında, savaşın kontrolünü kaybetme riski ortaya çıkar.

---

Ukrayna Savaşı: Otonom Savaşın Gerçek Dünya Laboratuvarı mı?

Ukrayna-Rusya savaşı, modern savaş teknolojisinin dönüşümünü gözlemlemek açısından son derece önemli bir örnek oluşturuyor.

Bu savaşta insansız hava araçları, elektronik harp, sinyal karıştırma, keşif sistemleri, uydu bağlantıları ve yapay zekâ destekli görüntü işleme gibi teknolojiler daha önce görülmemiş ölçekte önem kazandı.

Özellikle elektronik harp, insansız sistemlerin en büyük problemlerinden birini ortaya çıkardı:

İnsan ile makine arasındaki bağlantı her zaman güvenilir değildir.

Uzaktan kumandalı bir sistemin iletişim bağlantısı kesildiğinde operatörün kontrolü sınırlanabilir.

Bu durum, daha fazla otonomi arayışını teşvik ediyor.

Sistem ne kadar kendi başına çalışabiliyorsa, iletişim bağlantısına o kadar az bağımlı hale geliyor.

İşte tartışmanın kritik noktası burada ortaya çıkıyor.

Bir tarafta iletişim bağlantısına bağımlı sistemler bulunuyor.

Diğer tarafta ise bağlantı kesildiğinde bile belirli görevleri sürdürebilen daha otonom sistemler.

Askeri açıdan bakıldığında ikinci seçenek son derece cazip.

İnsan hayatını riske atmadan görev gerçekleştirmek, elektronik harp ortamında faaliyet göstermek ve çok sayıda sistemi aynı anda yönetebilmek ciddi avantajlar sağlayabilir.

Ancak aynı avantajlar, bu teknolojilerin neden kontrol edilmesi gerektiğini de gösteriyor.

---

Savaşın Ekonomisi de Otonom Silahları Teşvik Ediyor

Burada yalnızca teknolojik gelişmeleri düşünmek yeterli değil.

Ekonomik faktör de en az teknoloji kadar önemlidir.

Bir savaşta insan asker kaybetmenin maliyeti yalnızca ekonomik değildir.

Eğitim, lojistik, sağlık, psikolojik destek ve siyasi sonuçlar da hesaba katılır.

İnsan yerine makine kullanmak, bazı görevlerde bu maliyetlerin azaltılmasını sağlayabilir.

Dahası, yapay zekâ sistemleri ölçeklenebilir.

Bir insan asker aynı anda yalnızca belirli bir görevi yerine getirebilir.

Bir yazılım ise uygun donanım üzerinde çok sayıda sistemin koordinasyonuna yardımcı olabilir.

Bu nedenle otonom sistemler askeri açıdan yalnızca “daha akıllı silahlar” değildir.

Aynı zamanda savaşın ekonomik modelini değiştirebilecek teknolojilerdir.

Bir ülke, kendi askerlerinin hayatını daha az riske atarak karşı taraf üzerinde ciddi bir baskı oluşturabiliyorsa, bu teknolojiden tamamen vazgeçmek için çok güçlü bir gerekçeye ihtiyaç duyacaktır.

İşte bu noktada yasakların karşısındaki temel problem ortaya çıkmaktadır:

Devletler stratejik avantaj sağlayan bir teknolojiden gönüllü olarak vazgeçmeye ne kadar hazırdır?

Tarih, bunun kolay olmadığını gösteriyor.

---

Silah Yasakları Ne Zaman Başarılı Oluyor?

Uluslararası toplum daha önce de çeşitli silahları sınırlandırmaya veya yasaklamaya çalıştı.

Bazı girişimler başarılı oldu.

Bunun önemli örneklerinden biri anti-personel kara mayınlarının yasaklanmasıdır.

1997 tarihli Ottawa Antlaşması, anti-personel mayınların kullanımını, stoklanmasını, üretimini ve devrini yasaklayan önemli bir uluslararası düzenleme oluşturdu.

Bu tür bir yasağın uygulanmasını kolaylaştıran önemli bir unsur, yasaklanan nesnenin oldukça somut olmasıdır.

Kara mayını bir kara mayınıdır.

Üretimi, depolanması ve kullanımı belirli fiziksel süreçlere bağlıdır.

Buna karşılık yapay zekâ tabanlı otonom sistemlerde durum çok daha karmaşıktır.

Çünkü burada yasaklanmak istenen şey çoğu zaman belirli bir fiziksel nesne değil, bir davranış biçimidir.

Ve davranış, yazılımla değiştirilebilir.

---

Yapay Zekâ Silahlarını Diğer Silahlardan Ayıran Özellik

Bir tankı veya savaş uçağını tespit etmek görece kolaydır.

Büyük, pahalı ve fiziksel bir platformdur.

Fakat bir otonom sistemi mümkün kılan yazılımın tespit edilmesi aynı ölçüde kolay değildir.

Daha da önemlisi, kullanılan donanımların büyük kısmı yalnızca askeri amaçlı değildir.

Aynı işlemciler;

• veri merkezlerinde,
• otomobillerde,
• robotlarda,
• güvenlik sistemlerinde,
• endüstriyel makinelerde,
• bilgisayarlarda,
• akıllı cihazlarda

kullanılabilir.

Bu durum yapay zekâ teknolojisinin en önemli özelliklerinden birini ortaya çıkarıyor:

Çift kullanımlılık.

Aynı teknoloji hem tamamen barışçıl hem de askeri amaçlarla kullanılabilir.

Bir görüntü tanıma sistemi hastalık teşhisinde kullanılabilir.

Aynı temel teknoloji başka bir ortamda nesne sınıflandırmak için kullanılabilir.

Bir otonom navigasyon sistemi lojistik sektöründe kullanılabilir.

Benzer teknolojiler askeri araçların çevrelerini algılamasına yardımcı olabilir.

Bu nedenle yapay zekânın kendisini yasaklamak, yalnızca askeri teknolojiyi değil, sivil teknolojinin büyük bölümünü de hedef almak anlamına gelebilir.

---

“Otonom Silah” Nerede Başlıyor?

Yasağın önündeki en büyük hukuki problemlerden biri de tanım meselesidir.

Bir füze hedefini kendi sensörleriyle takip ediyorsa ne olacaktır?

Bir insansız hava aracı uçuş sırasında rotasını otomatik olarak değiştiriyorsa?

Bir araç çevresindeki nesneleri yapay zekâ ile sınıflandırıyorsa?

Bir savunma sistemi gelen tehditleri otomatik olarak analiz edip önceliklendiriyorsa?

Bir insan yalnızca “şu bölgeyi koru” komutu veriyor, sistem geri kalan kararları kendisi alıyorsa?

Bunların hangisi otonom silah kabul edilecektir?

Sorun tam olarak burada ortaya çıkıyor.

Yapay zekâ sistemleri bir anda “otonom” hale gelmiyor.

Özerklik dereceleri bulunuyor.

Bu nedenle gelecekteki uluslararası düzenlemelerin yalnızca “otonom silahlar yasaktır” demesi yeterli olmayabilir.

Asıl soru şudur:

Ne kadar özerklik kabul edilebilir?

---

Asıl Tehlike Teknolojinin Kendisi mi, Kontrolsüz Kullanımı mı?

Burada önemli bir ayrım yapmak gerekiyor.

Yapay zekâ teknolojisinin savaş alanında kullanılmasının her biçimi aynı değildir.

Savunma amaçlı bir sistem ile saldırı amacıyla tasarlanmış bir sistem arasında önemli farklar vardır.

Bir radar sisteminin tehditleri daha hızlı tespit etmesi başka bir şeydir.

Bir sistemin insan müdahalesi olmadan ölümcül güç kullanması başka bir şeydir.

Bu nedenle tartışmayı “yapay zekâ savaşta kullanılmalı mı?” sorusuna indirgemek yetersizdir.

Daha doğru soru şudur:

Yapay zekâ savaşta hangi kararları verebilmeli ve hangi kararlar mutlaka insanlarda kalmalıdır?

Bu ayrım gelecekteki düzenlemelerin temelini oluşturabilir.

---

İnsan Denetimi Tamamen Ortadan Kalkmamalı

Otonom silahların tamamen yasaklanmasının teknik açıdan zor olması, insan denetiminin gereksiz olduğu anlamına gelmez.

Tam tersine.

Belki de gelecekteki uluslararası hukuk açısından en önemli konu, insan denetiminin hangi aşamalarda zorunlu tutulacağıdır.

Örneğin kritik kararların insan tarafından onaylanması, sistemlerin sınırlandırılmış görev alanlarına sahip olması, kayıt mekanizmalarının bulunması ve hata durumlarında güvenli şekilde devre dışı kalabilmesi gibi ilkeler tartışılabilir.

Burada amaç teknolojiyi tamamen durdurmak değil, insanın nihai sorumluluğunu korumaktır.

Çünkü bir makinenin karar vermesi durumunda bile, o makineyi tasarlayan, eğiten, konuşlandıran ve kullanan insanlar vardır.

Dolayısıyla “makine hata yaptı” açıklaması, insan sorumluluğunu ortadan kaldırmamalıdır.

---

Yasaklamak Yerine Savunma Yapay Zekâsı mı Geliştirilmeli?

Burada ikinci bir görüş ortaya çıkıyor.

Eğer saldırı amaçlı otonom sistemlerin tamamen ortadan kaldırılması mümkün değilse, toplumun kendisini bunlara karşı koruyabilmesi gerekir.

Bu noktada yapay zekâ yalnızca saldırı teknolojisinin değil, savunmanın da temel unsurlarından biri haline gelebilir.

Geleceğin savunma sistemleri;

• tehditleri daha erken tespit eden,
• çok büyük miktarda sensör verisini analiz eden,
• sahte ve gerçek tehditleri ayırt etmeye çalışan,
• iletişim kesintilerinde dayanıklılığını koruyan,
• insan operatörlerinin kararlarını destekleyen,
• saldırıların etkisini azaltmaya çalışan

yapay zekâ sistemlerinden oluşabilir.

Ancak burada da kritik bir sınır vardır.

Savunma sistemlerinin geliştirilmesi, otomatik öldürme mekanizmalarının sınırsız biçimde yaygınlaştırılması anlamına gelmemelidir.

Savunma teknolojisinin amacı insan kararını ortadan kaldırmak değil, insanın karar verme kapasitesini güçlendirmek olmalıdır.

---

Yapay Zekâ Yarışı Yeni Bir Silahlanma Yarışına Dönüşebilir

En büyük tehlikelerden biri de burada ortaya çıkıyor.

Bir ülke yapay zekâ destekli otonom sistemler geliştirirse, diğer ülkeler kendilerini geride kalmış hissedebilir.

Bunun sonucunda klasik silahlanma yarışından farklı bir süreç başlayabilir.

Artık mesele yalnızca daha fazla tank, uçak veya füze üretmek olmayabilir.

Daha iyi algoritmalar, daha hızlı işlemciler, daha iyi sensörler ve daha güçlü veri altyapıları stratejik üstünlüğün temel unsurları haline gelebilir.

Bu yarışın önemli bir özelliği de yazılım geliştirme hızının geleneksel silah üretiminden farklı olmasıdır.

Bir mühimmatın üretim kapasitesini artırmak ciddi fiziksel altyapı gerektirir.

Bir yazılım sisteminin güncellenmesi ise çok daha hızlı gerçekleştirilebilir.

Dolayısıyla geleceğin askeri rekabeti yalnızca fabrikalarda değil, veri merkezlerinde ve yazılım laboratuvarlarında da yaşanabilir.

---

En Büyük Risklerden Biri de Siber Güvenlik

Otonom savaş sistemlerinin yaygınlaşması, başka bir tehlikeyi daha beraberinde getiriyor:

Kontrolün ele geçirilmesi.

Bir silah sisteminin otonom olması, onun saldırılara karşı bağışıklık kazandığı anlamına gelmez.

Tam tersine, yazılım ve iletişim altyapısına daha fazla bağımlı hale gelen sistemler yeni güvenlik riskleri oluşturabilir.

Bir sistemin yanlış verilerle beslenmesi, iletişim altyapısının bozulması veya yazılımın güvenliğinin ihlal edilmesi, savaş alanında ciddi sonuçlar doğurabilir.

Bu nedenle geleceğin askeri yapay zekâ sistemlerinde yalnızca “ne kadar akıllı olduğu” değil, ne kadar güvenilir olduğu da önem kazanacaktır.

En güçlü yapay zekâ sistemi bile güvenilir değilse stratejik bir risk haline gelebilir.

---

Otonom Sistemler Birbirleriyle Savaşırsa Ne Olacak?

Bugün savaşların önemli bölümü hâlâ insan kararları tarafından yönetiliyor.

Fakat gelecekte iki tarafın da büyük ölçüde otonom sistemler kullandığını düşünelim.

Bir tarafta yapay zekâ destekli hava araçları.

Diğer tarafta bunları tespit eden yapay zekâ destekli savunma sistemleri.

Karşı tarafta bunları yanıltmaya çalışan başka algoritmalar.

Buna karşı geliştirilen yeni algoritmalar…

Böyle bir ortamda savaş alanı, insanın doğrudan kontrol ettiği bir ortamdan çok, birbirleriyle yarışan algoritmaların oluşturduğu karmaşık bir sisteme dönüşebilir.

Bu noktada en büyük sorunlardan biri karar zincirinin hızıdır.

İnsanlar diplomatik çözüm ararken makineler çoktan yeni bir karşılık üretmiş olabilir.

Bu nedenle gelecekte savaşın en tehlikeli tarafı, makinelerin insanlardan daha “kötü” olması değil;

insanların makinelerin oluşturduğu hızın gerisinde kalması olabilir.

---

Peki Katil Robotları Yasaklamak Gerçekten Faydasız mı?

Burada kesin bir “evet” veya “hayır” cevabı vermek doğru olmayabilir.

Çünkü uluslararası anlaşmaların tamamen işe yaramaz olduğunu söylemek de aşırı bir yaklaşım olur.

Uluslararası hukuk, devletlerin davranışlarını şekillendirebilir.

Standartlar oluşturabilir.

Şeffaflığı artırabilir.

Belirli teknolojilerin kullanım alanlarını sınırlandırabilir.

İnsan denetimini zorunlu hale getirebilir.

Savaş suçlarının soruşturulması için hukuki çerçeve sağlayabilir.

Dolayısıyla sorun “anlaşma yapmak gereksizdir” değildir.

Asıl sorun, teknolojik olarak tanımlanması ve denetlenmesi son derece güç bir sistemi yalnızca yasaklama yoluyla ortadan kaldırabileceğimize inanmak olabilir.

Daha gerçekçi yaklaşım, yasaklamayı ve düzenlemeyi teknolojik savunma kapasitesiyle birlikte ele almaktır.

---

Geleceğin Çözümü: Yasak, Denetim ve Savunma Üçgeni

Belki de gelecekte ihtiyaç duyulan şey tek başına bir yasak değil, üç katmanlı bir güvenlik yaklaşımıdır.

1. İnsan denetimi

Ölümcül sonuç doğurabilecek kritik kararların hangi koşullarda insan tarafından denetlenmesi gerektiği açık biçimde belirlenmelidir.

2. Uluslararası düzenleme

Devletlerin hangi tür sistemleri geliştirebileceği, hangi kullanım biçimlerinin kabul edilemez olduğu ve ihlallerin nasıl soruşturulacağı konusunda ortak kurallar oluşturulmalıdır.

3. Yapay zekâ destekli savunma

Saldırı amaçlı otonom sistemlere karşı erken uyarı, tehdit analizi, elektronik savunma ve siber güvenlik gibi alanlarda güçlü savunma kapasitesi geliştirilmelidir.

Bu üç unsur birbirinin alternatifi değil, tamamlayıcısı olmalıdır.

---

İnsanlığın Önündeki Asıl Sınav

Katil robotlar tartışması aslında yalnızca robotlarla ilgili değildir.

Bu tartışma, teknolojinin insan kararlarının yerini ne ölçüde alabileceğiyle ilgilidir.

Bir yapay zekâ sistemi savaşta hedef tespit edebilir.

Bir başka sistem tehdidi sınıflandırabilir.

Bir diğeri savunma kararlarını destekleyebilir.

Ancak bütün bunların sonunda şu soru değişmeyecektir:

İnsan hayatı hakkında son sözü kim söyleyecek?

Bu soru, önümüzdeki yıllarda yalnızca askeri teknoloji açısından değil, yapay zekânın tamamı açısından önem kazanacak.

Çünkü bugün savaş alanında tartıştığımız özerklik, yarın otomobillerde, güvenlik sistemlerinde, sağlıkta, altyapıda ve kritik kamu hizmetlerinde karşımıza çıkabilir.

Savaş teknolojisi bu nedenle daha geniş bir dönüşümün en uç örneğidir.

---

Sonuç: Mesele Robotları Durdurmak Değil, Kontrolü Kaybetmemek

Katil robotların yasaklanması fikrinin arkasındaki ahlaki kaygı son derece anlaşılır.

İnsanlık, ölüm ve yaşam kararlarını tamamen makinelerin insafına bırakmak istememelidir.

Ancak teknoloji tarihi bize başka bir gerçeği de gösteriyor.

Bir teknoloji yeterince güçlü, ucuz, erişilebilir ve stratejik açıdan değerliyse, onu yalnızca yasaklayarak ortadan kaldırmak son derece zordur.

Yapay zekâ bu açıdan geleneksel silahlardan çok daha karmaşık bir örnektir.

Çünkü otonom sistemleri mümkün kılan işlemciler, sensörler, yazılımlar ve veri altyapıları yalnızca askeri alanlarda kullanılmıyor.

Aynı teknolojiler sivil hayatın merkezinde bulunuyor.

Bu nedenle “otonom silahları yasaklayalım” demek, kulağa güçlü bir çözüm gibi gelse de uygulamada çok daha karmaşık bir sorunun yalnızca bir bölümüne cevap veriyor.

Daha önemli soru şudur:

Bu teknolojinin hangi sınırları aşmasına izin vermeyeceğiz?

İnsan denetimi nerede zorunlu olacak?

Bir yapay zekâ sisteminin yaptığı hatadan kim sorumlu olacak?

Bir ülkenin anlaşmayı ihlal edip etmediği nasıl tespit edilecek?

Otonom sistemlerin sivil hedeflere zarar vermesi nasıl önlenecek?

Ve daha önemlisi, yapay zekâ destekli bir savaş başladığında karar verme sürecinin kontrolü gerçekten insanların elinde kalabilecek mi?

Geleceğin güvenlik mimarisi bu sorulara cevap vermek zorunda.

Bu nedenle çözümün yalnızca yasaklama olmadığı söylenebilir.

Fakat bunun tersi de aynı derecede tehlikelidir: “Nasıl olsa yasaklanamayacak, o halde geliştirelim.”

Bu yaklaşım, insanlığın kendi ürettiği teknolojik yarışın esiri olmasına yol açabilir.

Asıl hedef, kontrolsüz bir otonomi yarışını önlemek olmalıdır.

Bunun için uluslararası hukuk, teknik standartlar, insan denetimi, güvenli yapay zekâ araştırmaları, siber güvenlik ve savunma teknolojileri aynı çerçevede ele alınmalıdır.

Belki de geleceğin en önemli silahı en fazla ateş gücüne sahip olan değil, karar verme sürecini en güvenilir şekilde kontrol edebilen sistem olacaktır.

Çünkü savaş alanında yapay zekâların kullanıldığı bir dünyada üstünlük yalnızca daha hızlı karar vermekten geçmeyecek.

Asıl üstünlük, yanlış kararı vermemeyi başarabilmekten geçecek.

İnsanlığın önündeki gerçek sınav da burada başlayacak.

Mesele yalnızca katil robotların ortaya çıkmasını engellemek değil.

Mesele, bir gün onları geliştirdiğimizde bile onların bizi yönetmesine izin vermemek.

Yazan: Ali Değişmiş

• KATEGORİLER:
• | Blog & Makaleler |