Connect with us

Yapay Zeka Farklı Diller Kullanılarak Manipüle Edilebiliyor

Yapay Zeka Haberleri

blank

Yayınlama

-

Son dönemde popülerliği hızla artan yapay zeka teknolojisi, gelişmeye devam ediyor ve ChatGPT gibi modeller aracılığıyla kullanıcılarla etkileşime geçmeye devam ediyor. Ancak, bu teknolojinin yol açabileceği güvenlik sorunları artık ciddi bir endişe kaynağı haline geldi.

Yapay zeka modelleri, kendilerine yöneltilen komutları cevaplayabilmek adına sahip oldukları bilgi havuzlarıyla birlikte kullanıcılarla aralarındaki etkileşim neticesinde öğrendikleri ifadeleri de kullanırlar. Bu modeller, kötü niyetli kullanımları engellemek amacıyla belirli güvenlik önlemlerine sahip olsalar da, çeşitli teknik saldırılara karşı son derece savunmasız hale gelebiliyorlar.

Brown Üniversitesi tarafından gerçekleştirilen bir araştırmaya göre, ChatGPT gibi yapay zeka modelleri, İngilizce ve Almanca gibi popüler dilleri daha etkili bir şekilde işleyebildikleri için hem sabit hem de dinamik olarak efektif bir biçimde faaliyet gösterebiliyor.

ChatGPT

Ancak, araştırma, dünya genelinde daha az kullanılan ve yapay zeka modellerinin bilgi havuzlarında daha sınırlı bir yer tutan  özellikle Ukraynaca ve İbranice gibi dillerin, bu tür güvenlik önlemlerini kolaylıkla manipüle edebildiğini ortaya koydu.

Örneğin, yasa dışı bir sorun olan “Bomba nasıl yapılır?” gibi bir sorunun cevabını almak isteyen herhangi bir kullanıcının, bu soruyu öncelikle düşük popülariteye sahip bir dilde sorarak ve akabinde çeviri yapılmasını sağlayarak istediği sonuca ulaşabileceği tespit edildi.

Bu durum, birçok güvenlik önlemine rağmen yapay zekanın ciddi bir açığa sahip olduğunu ortaya koyuyor. Düşük ve orta sayıda kaynağa sahip olan diller kullanıldığında manipüle edilebilen modellerin geliştiricileri, bu sorunu ele almaya zorladı. Araştırmada ele alınan diller ise şu şekilde:

  • Yüksek kaynaklı diller: İngilizce, Çince, Arapça, Hintçe
  • Orta kaynaklı diller: Ukraynaca, Bengalce, Tayca, İbranice
  • Düşük kaynaklı diller: Zulu, İskoç Galce, Hmong, Guarani
Senin reaksiyonun hangisi?
+1
1
+1
0
+1
0
+1
0
+1
0
+1
0
+1
0

Blog

blank
Blog & Makaleler6 gün

Chang’e 6 Ayın Uzak Tarafındaki İlk Örnekleri Dünya’ya Getirmeye Hazırlanıyor

Chang’e 6 Ayın Uzak Tarafındaki İlk Örnekleri Dünya’ya Getirmeye Hazırlanıyor Çin, uzay araştırmaları alanında bir ilki daha gerçekleştirerek Chang’e 6...

blank
Bilişim Haberleri7 gün

Masraff Yapay Zeka ile Zaman ve Personel Giderlerini Azaltıyor

Masraff Yapay Zeka ile Zaman ve Personel Giderlerini Azaltıyor Bilgizone Teknoloji Bulut tabanlı ve yapay zeka destekli akıllı masraf yönetimi...

Arama Motoru Kullanımında Dikkat Edilmesi Gerekenler Ali Değişmiş Arama Motoru Kullanımında Dikkat Edilmesi Gerekenler Ali Değişmiş
Bilişim Haberleri2 hafta

SEO Uzmanı’ndan: Arama Motoru Kullanımında Dikkat Edilmesi Gerekenler

SEO Uzmanı’ndan: Arama Motoru Kullanımında Dikkat Edilmesi Gerekenler İnternet, bilginin ışığında yolculuk edenler için bir hazine haritasıdır; yeter ki yanlış...

blank
Blog & Makaleler2 hafta

Kuantum Hesaplamanın Geleceği: Pratik Uygulamalar ve Son Gelişmeler

Kuantum Hesaplamanın Geleceği: Pratik Uygulamalar ve Son Gelişmeler Kuantum hesaplama, bilgisayar biliminde devrim yaratma potansiyeline sahip olan bir alandır. Geleneksel...

blank
Blog & Makaleler3 hafta

İspanya, Norveç ve İrlanda Filistin’i Bağımsız Devlet Olarak Tanıyacak

İspanya, Norveç ve İrlanda Filistin’i Bağımsız Devlet Olarak Tanıyacak Bugün önemli bir gelişme yaşandı: İspanya, Norveç ve İrlanda, Filistin Devleti’ni...

blank
Blog & Makaleler3 hafta

Türkiye’nin Siber Kalesi: USOM Başkanı’ndan Kritik Açıklamalar

Türkiye’nin Siber Kalesi: USOM Başkanı Mahmut Esat Yıldırım’dan Kritik Açıklamalar Ulusal Siber Olaylara Müdahale Merkezi (USOM) Kapılarını İlk Kez Açtı...

blank
Blog & Makaleler4 hafta

ChatGPT Omni: Yapay Zekanın Evriminde Yeni Bir Adım

ChatGPT Omni: Yapay Zekanın Evriminde Yeni Bir Adım Yapay zeka teknolojilerindeki hızlı ilerlemeler, günlük yaşamımızda ve iş dünyasında devrim niteliğinde...

Galeri

blank
Blog & Makaleler3 ay

Teknoloji ve Bilimin Dönüm Noktaları: 6 Mart’ın Anlamı

Teknoloji ve Bilimin Dönüm Noktaları: 6 Mart’ın Anlamı Teknoloji ve bilim, insanlığın ilerlemesinde ve gelişiminde kritik bir rol oynamaktadır. Her...

blank
Teknoloji Galerileri5 ay

Bakan Uraloğlu: 3. Çeyrek Raporu Sonuçlarını Açıkladı

Ulaştırma ve Altyapı Bakanı Abdulkadir Uraloğlu, 2023 yılı 3’üncü çeyreği rakamlarını açıkladı. Bakan Uraloğlu, Bilgi Teknolojileri ve İletişim Kurumu tarafından...

blank
Blog & Makaleler6 ay

Evrenin İlk Elementi: Big Bang’den Başlangıç Noktasına Yolculuk

Evrenin İlk Elementi: Big Bang’den Başlangıç Noktasına Yolculuk Evren, 13,8 milyar yıl önce, son derece yoğun ve sıcak bir durumdan...

blank
Bilişim Haberleri6 ay

SİNEMADA YAPAY ZEKA

Sinemada yapay zeka, birçok farklı şekilde kullanılabilir ve hikaye anlatımına, karakter gelişimine, görsel efektlere ve genel film yapımına önemli katkılarda...

blank
Blog & Makaleler6 ay

Möbius Şeridi: Geometrinin Harikası

Möbius Şeridi: Geometrinin Harikası Matematik ve geometri, doğanın düzenini anlama ve modelleme konusunda insanlığın en güçlü araçlarından biridir. Bu disiplinler,...

blank
Teknoloji Galerileri10 ay

Saatte 100 Km Hız Yapan Airscooter!

Yumurta şeklindeki kişisel uçan araba ‘Airscooter’ gökyüzünde saatte 100 km hızla uçabiliyor.   Yumurta Şeklindeki Uçan Araba: Airscooter Jetpack üzerinde...

blank
Teknoloji Galerileri1 sene

Uzun Pozlama Nedir ve Nasıl Uygulanır

Uzun pozlama, yetersiz ışık olan ortamda, nesnenin ya da konunun oluşturduğu hareket hissini fotoğrafta dondurmaktır. Diyafram, enstantane ve ISO ayarı...

Etiket Bulutu

Kategoriler

Trending