“Güvenli Yapay Zeka” İçin 18 Ülkenin İmzasıyla İlk Uluslararası Mutabakat Oluşturuldu

18 ülke, güvenli yapay zeka teknolojisinin geliştirilmesi için tam anlamıyla bağlayıcı olmayan bir mutabakat oluşturdu. Bu anlaşma, güvenli yapay zeka için nelerin yapılması gerektiğini çerçeveleyerek belirli bir yol haritası sunuyor.

Yapay zeka tabanlı teknolojiler, hayatımızın pek çok alanına giriş yapmış bulunuyor. Artık yapay zeka ile görüntü veya video oluşturabiliyor, yazı yazdırabiliyor, uygulamalar geliştirebiliyoruz. Bu durum, birçok kesimin yapay zeka teknolojilerinin risk taşıyabileceğine dair endişelerini artmasına sebep oluyor. Tartışmalar, ülkelerin yapay zekâya ilişkin yasal düzenlemeler geliştirmelerini teşvik etti. Hatta ABD bu konuda ilk adımları attı. Avrupa Birliği de uzun bir süredir bir yapay zekâ yasası üzerinde çalışıyordu. Şimdiyse aralarında ABD ile Birleşik Krallık gibi gelişmiş ülkelerin de bulunduğu 18 ülke, bağlayıcı olmayan bir mutabakat imzaladı. Bu mutabakat, güvenli yapay zekâ teknolojilerinin nasıl olması gerektiğini açıklıyor.

ABD ve Birleşik Krallık’ın yanı sıra Almanya, İtalya, Estonya, Polonya, Güney Kore, Çekya, Singapur, Nijerya, İsrail ve Avustralya gibi ülkelerin de katıldığı bu mutabakat, temelde yapay zekâ teknolojilerinin potansiyel risklerinden korunmayı amaçlıyor. Uluslararası alanda ilk kez ortaya çıkan bu anlaşma, kullanıcı verilerinin korunmasını ve geliştirilen sistemlerin bilgisayar korsanlarına karşı daha dayanıklı hâle getirilmesini sağlayacak öneriler sunuyor.

Mutabakata göre güvenli bir yapay zekâ teknolojisi, şu dört maddeye önem vermeli:

• Güvenli tasarım.
• Güvenli geliştirme.
• Güvenli dağıtım.
• Güvenli işletme.

Şimdi ise söz konusu 18 ülke için güvenli yapay zekâ teknolojileri sağlanmasını sağlayacak maddelere hep beraber göz atalım.

“Güvenli Tasarım”

• Tehdit ve riskler konusunda personel farkındalığının artırılması.
• Geliştirilecek yapay zekâ sistemine yönelik tehditlerin tespit edilip, modellenmesi.
• Sistemin işlevsellik, performans ve güvenlik özelliklerinin kombinasyonunun oluşturulması.
• Geliştirilecek sisteme uygun yapay zekâ modelinin, güvenliği ön plana çıkarabilmesi.

“Güvenli Geliştirme”

• Sistem paydaşlarının güvence altına alınması.
• Geliştirilecek yapay zekâ sisteminin sahip olduğu tüm varlıkların tanımlanması ve korunması.
• Verilerin, modellerin ve istemlerin arşivlenmesi.
• Risk değerlendirmesinin yapılması.