Yapay Zeka Tehlikesine Karşı Uyarı

Uluslararası güvenlik uzmanları yapay zekanın gelecekte neden olabileceği tehlikeler hakkında rapor yayınladı. Raporda, yakın zamanda beklenen tehlikeler açıklanırken aynı zamanda hükümetlerin alabileceği önemler hakkında da önerilere yer verildi.

Uluslararası güvenlik uzmanları yapay zekanın kötü niyetle kullanılması halinde neden olabileceği tehlikeler hakkında 100 sayfalık rapor yayımladı. Raporda, yapay zekanın kötüye kullanılmaması için tasarlayanlara önemli uyarılarda bulunuluyor.  Yapay zekanın kötüye kullanılması halinde neler olabileceği de raporda paylaşıldı. Füzeye dönüştürülmüş insansız hava araçları, kamuoyunu manipüle eden sahte videolar ve otomatikleştirilmiş bilgisayar korsanlığı bunlardan sadece birkaçı.

Yakın zamanda beklenen tehlikeler

Cambridge Üniversitesi Varoluşsal Risk Araştırması Merkezi’nden Shahar Avin, önümüzdeki beş yıl içinde yapay zekanın  getirebileceği tehditlere dikkat çekiyor. Avin, yakın gelecekte yapay zekanın kötü amaçlı kullanılabileceği muhtemel birkaç senaryoyu şöyle sıraladı:

• Google’un yapay zeka şirketi DeepMind tarafından geliştirilen ve zekasıyla rakiplerini alt eden AlphaGo oyunu, bilgisayar korsanları tarafından verilerde yeni örüntüleri ve kodlardan yararlanmanın yeni yollarını bulmak için kullanılabilir.
• Kötü niyetli bir kişi bir insansız hava aracı satın alarak, belirli bir kişiyi hedef alması için onu yüz tanıma yazılımıyla eğitebilir.
• Bot’lar otomatikleştirilebilir ya da sahte videolar siyasi manipülasyon için kullanılabilir.
• Bilgisayar korsanları hedeflerin kimliğine bürünmek için ses sentezini kullanabilir.

Oxford Üniversitesi İnsanlığın Geleceği Enstitüsü’nden araştırmacı Miles Brundage da şunları söyledi.

“Yapay zeka vatandaşlar, organizasyonlar ve devletler için risklerin büyüklüğünü değiştirecek. Suçlular makineleri hecklemek ya da şifre çalmak üzere insan kapasitesi seviyesinde eğitebilir ya da gözetleme, fişleme ve baskı amacıyla kulanılabilir. Güvenlik üzerindeki etkileri çok büyük.”

Raporda, hükümetlerin bu konuda yapabilecekleri de sıralanıyor.

• Kanun koyucular ve teknik araştırmacılar, yapay zekanın kötüye kullanımının açacağı sorunları anlamak ve buna karşı hazırlanmak için birlikte çalışmalılar.
• Yapay zeka olumlu amaçlar için kullanılabilse de, gerçekte iki taraflı bir teknoloji olduğunun farkına varılmalı ve yapay zeka araştırmacıları ve mühendisleri dikkatli olmalı ve kötüye kullanılma ihtimalini önceden göz önünde bulundurmalı.
• Bilgisayar güvenliği gibi, uzun zamandır çift yönlü riskleri olan disiplinlerden ders çıkarmalılar.
• Yapay zekanın kötüye kullanılmasının oluşturacağı tehditleri önlemek ve azaltmak konusunda daha fazla çıkar grubu harekete geçmeli.

Uzmanlar tehditlerin gerçek olabileceğine dikkat çekiyor ve dünya çapında hükümetleri, kurumları ve insanları harekete geçmeye çağırıyor.