Connect with us

Yapay Zeka Farklı Diller Kullanılarak Manipüle Edilebiliyor

Yapay Zeka Haberleri

blank

Yayınlama

-

Son dönemde popülerliği hızla artan yapay zeka teknolojisi, gelişmeye devam ediyor ve ChatGPT gibi modeller aracılığıyla kullanıcılarla etkileşime geçmeye devam ediyor. Ancak, bu teknolojinin yol açabileceği güvenlik sorunları artık ciddi bir endişe kaynağı haline geldi.

Yapay zeka modelleri, kendilerine yöneltilen komutları cevaplayabilmek adına sahip oldukları bilgi havuzlarıyla birlikte kullanıcılarla aralarındaki etkileşim neticesinde öğrendikleri ifadeleri de kullanırlar. Bu modeller, kötü niyetli kullanımları engellemek amacıyla belirli güvenlik önlemlerine sahip olsalar da, çeşitli teknik saldırılara karşı son derece savunmasız hale gelebiliyorlar.

Brown Üniversitesi tarafından gerçekleştirilen bir araştırmaya göre, ChatGPT gibi yapay zeka modelleri, İngilizce ve Almanca gibi popüler dilleri daha etkili bir şekilde işleyebildikleri için hem sabit hem de dinamik olarak efektif bir biçimde faaliyet gösterebiliyor.

ChatGPT

Ancak, araştırma, dünya genelinde daha az kullanılan ve yapay zeka modellerinin bilgi havuzlarında daha sınırlı bir yer tutan  özellikle Ukraynaca ve İbranice gibi dillerin, bu tür güvenlik önlemlerini kolaylıkla manipüle edebildiğini ortaya koydu.

Örneğin, yasa dışı bir sorun olan “Bomba nasıl yapılır?” gibi bir sorunun cevabını almak isteyen herhangi bir kullanıcının, bu soruyu öncelikle düşük popülariteye sahip bir dilde sorarak ve akabinde çeviri yapılmasını sağlayarak istediği sonuca ulaşabileceği tespit edildi.

Bu durum, birçok güvenlik önlemine rağmen yapay zekanın ciddi bir açığa sahip olduğunu ortaya koyuyor. Düşük ve orta sayıda kaynağa sahip olan diller kullanıldığında manipüle edilebilen modellerin geliştiricileri, bu sorunu ele almaya zorladı. Araştırmada ele alınan diller ise şu şekilde:

  • Yüksek kaynaklı diller: İngilizce, Çince, Arapça, Hintçe
  • Orta kaynaklı diller: Ukraynaca, Bengalce, Tayca, İbranice
  • Düşük kaynaklı diller: Zulu, İskoç Galce, Hmong, Guarani
Senin reaksiyonun hangisi?
+1
1
+1
0
+1
0
+1
0
+1
0
+1
0
+1
0

Blog

blank
Blog & Makaleler7 gün

Deprem Bilinci ve Hazırlıklı Olma: Alınması Gereken Önlemler

Deprem Bilinci ve Hazırlıklı Olma: Ankara Gibi Düşük Riskli Bölgelerde Bile Alınması Gereken Önlemler Ankara’da Meydana Gelen Son Deprem ve...

blank
Blog & Makaleler1 hafta

Karar Yorgunluğu: Modern Çağın Görünmez Tehlikesi

Karar Yorgunluğu: Modern Çağın Görünmez Tehlikesi Neden sürekli yorgunuz? Gelin, bu yorgunluğun sebebini birlikte araştıralım. Gün içinde verdiğimiz kararlar zihinsel...

blank
Blog & Makaleler1 hafta

Bir Balina Yanlışlıkla Bir İnsanı Yutabilir mi?

Bir Balina Yanlışlıkla Bir İnsanı Yutabilir mi? Denizlerin devasa sakinleri olan balinalar, büyüklükleri ve beslenme alışkanlıklarıyla her zaman insanların ilgisini...

blank
Blog & Makaleler1 hafta

Teknoloji ve Aşk: Dijital Çağda Sevgililer Günü

Teknoloji ve Aşk: Dijital Çağda Sevgililer Günü Sevgililer Günü, duyguların en yoğun şekilde ifade edildiği, sevginin ve romantizmin ön planda...

blank
Blog & Makaleler2 hafta

Berat Gecesi: Affın ve Arınmanın Manevi Işığı

Berat Gecesi: Affın ve Arınmanın Manevi Işığı İslam dünyasında önemli bir yere sahip olan Berat Gecesi, günahların bağışlandığı, duaların kabul...

blank
Blog & Makaleler3 hafta

Karlı Bir Çevrimiçi İş Kurmak İçin DeepSeek AI Nasıl Kullanılır?

Karlı Bir Çevrimiçi İş Kurmak İçin DeepSeek AI Nasıl Kullanılır? 2025’te yapay zeka, çevrimiçi gelir elde etmede devrim yaratarak içerik...

blank
Blog & Makaleler3 hafta

Muhabbet Kuşu Bakımı: Sağlıklı ve Mutlu Bir Kuş İçin İpuçları

Muhabbet Kuşu Bakımı: Sağlıklı ve Mutlu Bir Kuş İçin İpuçları Muhabbet kuşları, renkli tüyleri ve neşeli cıvıltılarıyla evcil hayvan olarak...

Galeri

blank
Blog & Makaleler3 ay

Google Haritalar’da Köklü Değişiklik

Google Haritalar’da Köklü Değişiklik: Polis Noktaları Artık Görülebilecek Google Haritalar, dünya genelinde milyonlarca kullanıcıya hizmet sunan bir navigasyon ve bilgi...

blank
Blog & Makaleler12 ay

Teknoloji ve Bilimin Dönüm Noktaları: 6 Mart’ın Anlamı

Teknoloji ve Bilimin Dönüm Noktaları: 6 Mart’ın Anlamı Teknoloji ve bilim, insanlığın ilerlemesinde ve gelişiminde kritik bir rol oynamaktadır. Her...

blank
Teknoloji Galerileri1 sene

Bakan Uraloğlu: 3. Çeyrek Raporu Sonuçlarını Açıkladı

Ulaştırma ve Altyapı Bakanı Abdulkadir Uraloğlu, 2023 yılı 3’üncü çeyreği rakamlarını açıkladı. Bakan Uraloğlu, Bilgi Teknolojileri ve İletişim Kurumu tarafından...

blank
Blog & Makaleler1 sene

Evrenin İlk Elementi: Big Bang’den Başlangıç Noktasına Yolculuk

Evrenin İlk Elementi: Big Bang’den Başlangıç Noktasına Yolculuk Evren, 13,8 milyar yıl önce, son derece yoğun ve sıcak bir durumdan...

blank
Bilişim Haberleri1 sene

SİNEMADA YAPAY ZEKA

Sinemada yapay zeka, birçok farklı şekilde kullanılabilir ve hikaye anlatımına, karakter gelişimine, görsel efektlere ve genel film yapımına önemli katkılarda...

blank
Blog & Makaleler1 sene

Möbius Şeridi: Geometrinin Harikası

Möbius Şeridi: Geometrinin Harikası Matematik ve geometri, doğanın düzenini anlama ve modelleme konusunda insanlığın en güçlü araçlarından biridir. Bu disiplinler,...

blank
Teknoloji Galerileri2 sene

Saatte 100 Km Hız Yapan Airscooter!

Yumurta şeklindeki kişisel uçan araba ‘Airscooter’ gökyüzünde saatte 100 km hızla uçabiliyor.   Yumurta Şeklindeki Uçan Araba: Airscooter Jetpack üzerinde...

Etiket Bulutu

Kategoriler

Trending