Connect with us

MIT’nin Yeni Yazılımı: PhotoGuard

Yapay Zeka Haberleri

blank

Yayınlama

-

Massachusetts Teknoloji Enstitüsü Bilgisayar Bilimi ve Yapay Zekâ Laboratuvarı’ndaki (MIT CSAIL) araştırmacılar, görüntüleri kötü niyetli AI düzenlemelerine karşı koruyabilen son derece gelişmiş ve etkileyici bir yazılım olan “PhotoGuard”ı duyurdu.

Filigran teknikleri, çalıntı risklerini hafifletmeye yardımcı olabiliyorken, MIT CSAIL tarafından geliştirilen yeni teknik, izinsiz değiştirmeleri önlemeye yardımcı oluyor. GitHub’da bulunan bu program,  bir görüntüdeki seçili pikselleri, yapay zekanın görüntünün ne olduğunu anlama yeteneğini bozacak şekilde değiştirerek çalışıyor.  Araştırma ekibinin deyimiyle bu “pertürbasyonlar” insan gözüyle görülemez ancak makineler tarafından kolayca okunabilir. Bu “kodlayıcı” saldırı yöntemi, algoritmik modelin hedef görüntünün gizli temsilini (bir görüntüdeki her pikselin konumunu ve rengini tanımlayan karmaşık matematik) hedef alıyor ve esasen yapay zekanın neye baktığını anlamasını engelliyor.

Daha gelişmiş ve hesaplama açısından yoğun olan difüzyon saldırı yöntemi ise, bir görüntüyü yapay zekanın gözünde farklı bir görüntü olarak kamufle ediyor. Bu yöntem, bir hedef görüntüyü tanımlıyor ve hedefine benzeyecek şekilde görüntüdeki düzensizlikleri optimize ediyor. Bir yapay zekanın bu dayanıklı görüntüler üzerinde yapmaya çalıştığı herhangi bir düzenleme, sahte “hedef” görüntülere uygulanarak gerçekçi olmayan bir görüntü oluşmasına neden oluyor.

 

MIT'nin “PhotoGuard” özelliği, görüntülerinizi kötü niyetli yapay zeka düzenlemelerinden koruyor - Ad Just Brand

 

Örnek olarak ekip, bir tenis maçı sırasında Trevor Noah ve Michael Kosta’nın Instagram gönderisinde PhotoGuard’ı kullandı. Sistem yerinde değilse resmi değiştirmek ve iki balo salonunu dans ettirmek için yapay zeka kullanmanın ne kadar basit olduğunu gösterdiler. Ancak PhotoGuard’ın yardımıyla yapay zekanın resmi değiştirmesini başarıyla engelledi.

Photoguard' Stops Your Pictures Being Manipulated by AI | PetaPixel

Öte yandan yaratıcılığına rağmen, PhotoGuard’ın yüzde 100 koruma sağladığını söylemek ne yazık ki henüz mümkün değil. Zira günün sonunda görüntüyü manipüle etmek isteyenler görsele dijital gürültü ekleyebilir ya da ters çevirerek korunan görüntüleri çözmeye çalışabilirler.

MIT doktora öğrencisi ve çalışmanın baş yazarı Hadi Salman, bu teknolojiyi Apple ve Google’ın sırasıyla iPhone ve Android‘deki stok kamera uygulamalarına eklemeyi düşünmesi gerektiğini söylerken, “Model geliştiricileri, sosyal medya platformları ve politika yapıcıları içeren işbirlikçi bir yaklaşım, yetkisiz görüntü manipülasyonuna karşı güçlü bir savunma sunuyor. Bu acil konu üzerinde çalışmak bugün büyük önem taşıyor. Bu çözüme katkıda bulunmaktan memnuniyet duysam da, bu korumayı pratik hale getirmek için daha fazla çalışma gerekiyor. Bu modelleri geliştiren şirketlerin, bu yapay zeka araçlarının yol açtığı olası tehditlere karşı sağlam önlemler tasarlamaya yatırım yapması gerekiyor.”dedi.

Dolayısıyla bu sorunun üstesinden tamamen gelebilmek için model geliştiricilerin, sosyal medya platformları ve politika yapıcılarla birlikte yetkisiz görüntü manipülasyonuna karşı güçlü savunmalar oluşturmak için iş birliği yapması gerekiyor. Nitekim Hadi Salman da, bu korumayı daha etkili hale getirmek için devam eden çabaların gerekliliğini vurguluyor.

 

 

 

Senin reaksiyonun hangisi?
+1
1
+1
0
+1
0
+1
0
+1
0
+1
0
+1
0

Blog

blank
Blog & Makaleler7 saat

Bir Balina Yanlışlıkla Bir İnsanı Yutabilir mi?

Bir Balina Yanlışlıkla Bir İnsanı Yutabilir mi? Denizlerin devasa sakinleri olan balinalar, büyüklükleri ve beslenme alışkanlıklarıyla her zaman insanların ilgisini...

blank
Blog & Makaleler1 gün

Teknoloji ve Aşk: Dijital Çağda Sevgililer Günü

Teknoloji ve Aşk: Dijital Çağda Sevgililer Günü Sevgililer Günü, duyguların en yoğun şekilde ifade edildiği, sevginin ve romantizmin ön planda...

blank
Blog & Makaleler2 gün

Berat Gecesi: Affın ve Arınmanın Manevi Işığı

Berat Gecesi: Affın ve Arınmanın Manevi Işığı İslam dünyasında önemli bir yere sahip olan Berat Gecesi, günahların bağışlandığı, duaların kabul...

blank
Blog & Makaleler2 hafta

Karlı Bir Çevrimiçi İş Kurmak İçin DeepSeek AI Nasıl Kullanılır?

Karlı Bir Çevrimiçi İş Kurmak İçin DeepSeek AI Nasıl Kullanılır? 2025’te yapay zeka, çevrimiçi gelir elde etmede devrim yaratarak içerik...

blank
Blog & Makaleler2 hafta

Muhabbet Kuşu Bakımı: Sağlıklı ve Mutlu Bir Kuş İçin İpuçları

Muhabbet Kuşu Bakımı: Sağlıklı ve Mutlu Bir Kuş İçin İpuçları Muhabbet kuşları, renkli tüyleri ve neşeli cıvıltılarıyla evcil hayvan olarak...

blank
Blog & Makaleler2 hafta

Veri Zehirlenmesi ve Yapay Zeka Güvenliği

Veri Zehirlenmesi ve Yapay Zeka Güvenliği: Geleceğin Siber Tehdidi Yapay zeka teknolojilerinin hızla gelişmesi, hayatın her alanına entegre edilmesini sağlamış...

blank
Blog & Makaleler2 hafta

DeepSeek: Çin’in Yapay Zeka Alandaki Yükselişi ve ABD’ye Meydan Okuyor

DeepSeek: Çin’in Yapay Zeka Alandaki Yükselişi ve ABD’nin Teknoloji Hakimiyetine Meydan Okuması Son yıllarda yapay zeka (YZ) alanında yaşanan gelişmeler,...

Galeri

blank
Blog & Makaleler2 ay

Google Haritalar’da Köklü Değişiklik

Google Haritalar’da Köklü Değişiklik: Polis Noktaları Artık Görülebilecek Google Haritalar, dünya genelinde milyonlarca kullanıcıya hizmet sunan bir navigasyon ve bilgi...

blank
Blog & Makaleler12 ay

Teknoloji ve Bilimin Dönüm Noktaları: 6 Mart’ın Anlamı

Teknoloji ve Bilimin Dönüm Noktaları: 6 Mart’ın Anlamı Teknoloji ve bilim, insanlığın ilerlemesinde ve gelişiminde kritik bir rol oynamaktadır. Her...

blank
Teknoloji Galerileri1 sene

Bakan Uraloğlu: 3. Çeyrek Raporu Sonuçlarını Açıkladı

Ulaştırma ve Altyapı Bakanı Abdulkadir Uraloğlu, 2023 yılı 3’üncü çeyreği rakamlarını açıkladı. Bakan Uraloğlu, Bilgi Teknolojileri ve İletişim Kurumu tarafından...

blank
Blog & Makaleler1 sene

Evrenin İlk Elementi: Big Bang’den Başlangıç Noktasına Yolculuk

Evrenin İlk Elementi: Big Bang’den Başlangıç Noktasına Yolculuk Evren, 13,8 milyar yıl önce, son derece yoğun ve sıcak bir durumdan...

blank
Bilişim Haberleri1 sene

SİNEMADA YAPAY ZEKA

Sinemada yapay zeka, birçok farklı şekilde kullanılabilir ve hikaye anlatımına, karakter gelişimine, görsel efektlere ve genel film yapımına önemli katkılarda...

blank
Blog & Makaleler1 sene

Möbius Şeridi: Geometrinin Harikası

Möbius Şeridi: Geometrinin Harikası Matematik ve geometri, doğanın düzenini anlama ve modelleme konusunda insanlığın en güçlü araçlarından biridir. Bu disiplinler,...

blank
Teknoloji Galerileri1 sene

Saatte 100 Km Hız Yapan Airscooter!

Yumurta şeklindeki kişisel uçan araba ‘Airscooter’ gökyüzünde saatte 100 km hızla uçabiliyor.   Yumurta Şeklindeki Uçan Araba: Airscooter Jetpack üzerinde...

Etiket Bulutu

Kategoriler

Trending