Connect with us

MIT’nin Yeni Yazılımı: PhotoGuard

Yapay Zeka Haberleri

blank

Yayınlama

-

Massachusetts Teknoloji Enstitüsü Bilgisayar Bilimi ve Yapay Zekâ Laboratuvarı’ndaki (MIT CSAIL) araştırmacılar, görüntüleri kötü niyetli AI düzenlemelerine karşı koruyabilen son derece gelişmiş ve etkileyici bir yazılım olan “PhotoGuard”ı duyurdu.

Filigran teknikleri, çalıntı risklerini hafifletmeye yardımcı olabiliyorken, MIT CSAIL tarafından geliştirilen yeni teknik, izinsiz değiştirmeleri önlemeye yardımcı oluyor. GitHub’da bulunan bu program,  bir görüntüdeki seçili pikselleri, yapay zekanın görüntünün ne olduğunu anlama yeteneğini bozacak şekilde değiştirerek çalışıyor.  Araştırma ekibinin deyimiyle bu “pertürbasyonlar” insan gözüyle görülemez ancak makineler tarafından kolayca okunabilir. Bu “kodlayıcı” saldırı yöntemi, algoritmik modelin hedef görüntünün gizli temsilini (bir görüntüdeki her pikselin konumunu ve rengini tanımlayan karmaşık matematik) hedef alıyor ve esasen yapay zekanın neye baktığını anlamasını engelliyor.

Daha gelişmiş ve hesaplama açısından yoğun olan difüzyon saldırı yöntemi ise, bir görüntüyü yapay zekanın gözünde farklı bir görüntü olarak kamufle ediyor. Bu yöntem, bir hedef görüntüyü tanımlıyor ve hedefine benzeyecek şekilde görüntüdeki düzensizlikleri optimize ediyor. Bir yapay zekanın bu dayanıklı görüntüler üzerinde yapmaya çalıştığı herhangi bir düzenleme, sahte “hedef” görüntülere uygulanarak gerçekçi olmayan bir görüntü oluşmasına neden oluyor.

 

MIT'nin “PhotoGuard” özelliği, görüntülerinizi kötü niyetli yapay zeka düzenlemelerinden koruyor - Ad Just Brand

 

Örnek olarak ekip, bir tenis maçı sırasında Trevor Noah ve Michael Kosta’nın Instagram gönderisinde PhotoGuard’ı kullandı. Sistem yerinde değilse resmi değiştirmek ve iki balo salonunu dans ettirmek için yapay zeka kullanmanın ne kadar basit olduğunu gösterdiler. Ancak PhotoGuard’ın yardımıyla yapay zekanın resmi değiştirmesini başarıyla engelledi.

Photoguard' Stops Your Pictures Being Manipulated by AI | PetaPixel

Öte yandan yaratıcılığına rağmen, PhotoGuard’ın yüzde 100 koruma sağladığını söylemek ne yazık ki henüz mümkün değil. Zira günün sonunda görüntüyü manipüle etmek isteyenler görsele dijital gürültü ekleyebilir ya da ters çevirerek korunan görüntüleri çözmeye çalışabilirler.

MIT doktora öğrencisi ve çalışmanın baş yazarı Hadi Salman, bu teknolojiyi Apple ve Google’ın sırasıyla iPhone ve Android‘deki stok kamera uygulamalarına eklemeyi düşünmesi gerektiğini söylerken, “Model geliştiricileri, sosyal medya platformları ve politika yapıcıları içeren işbirlikçi bir yaklaşım, yetkisiz görüntü manipülasyonuna karşı güçlü bir savunma sunuyor. Bu acil konu üzerinde çalışmak bugün büyük önem taşıyor. Bu çözüme katkıda bulunmaktan memnuniyet duysam da, bu korumayı pratik hale getirmek için daha fazla çalışma gerekiyor. Bu modelleri geliştiren şirketlerin, bu yapay zeka araçlarının yol açtığı olası tehditlere karşı sağlam önlemler tasarlamaya yatırım yapması gerekiyor.”dedi.

Dolayısıyla bu sorunun üstesinden tamamen gelebilmek için model geliştiricilerin, sosyal medya platformları ve politika yapıcılarla birlikte yetkisiz görüntü manipülasyonuna karşı güçlü savunmalar oluşturmak için iş birliği yapması gerekiyor. Nitekim Hadi Salman da, bu korumayı daha etkili hale getirmek için devam eden çabaların gerekliliğini vurguluyor.

 

 

 

Senin reaksiyonun hangisi?
+1
1
+1
0
+1
0
+1
0
+1
0
+1
0
+1
0

Blog

blank
Blog & Makaleler2 gün

Kuantum Hesaplamanın Geleceği: Pratik Uygulamalar ve Son Gelişmeler

Kuantum Hesaplamanın Geleceği: Pratik Uygulamalar ve Son Gelişmeler Kuantum hesaplama, bilgisayar biliminde devrim yaratma potansiyeline sahip olan bir alandır. Geleneksel...

blank
Blog & Makaleler1 hafta

İspanya, Norveç ve İrlanda Filistin’i Bağımsız Devlet Olarak Tanıyacak

İspanya, Norveç ve İrlanda Filistin’i Bağımsız Devlet Olarak Tanıyacak Bugün önemli bir gelişme yaşandı: İspanya, Norveç ve İrlanda, Filistin Devleti’ni...

blank
Blog & Makaleler1 hafta

Türkiye’nin Siber Kalesi: USOM Başkanı’ndan Kritik Açıklamalar

Türkiye’nin Siber Kalesi: USOM Başkanı Mahmut Esat Yıldırım’dan Kritik Açıklamalar Ulusal Siber Olaylara Müdahale Merkezi (USOM) Kapılarını İlk Kez Açtı...

blank
Blog & Makaleler2 hafta

ChatGPT Omni: Yapay Zekanın Evriminde Yeni Bir Adım

ChatGPT Omni: Yapay Zekanın Evriminde Yeni Bir Adım Yapay zeka teknolojilerindeki hızlı ilerlemeler, günlük yaşamımızda ve iş dünyasında devrim niteliğinde...

blank
Blog & Makaleler3 hafta

Milli Muharip Uçak KAAN gökyüzü ile ikinci kez buluştu

Milli Muharip Uçak KAAN gökyüzü ile ikinci kez buluştu Türkiye’nin milli savunma sanayisi alanında önemli bir kilometre taşı olarak görülen...

blank
Blog & Makaleler4 hafta

SUV mu Sedan mı?

SUV mu Sedan mı? Günümüz otomotiv endüstrisinde, SUV’ler ve sedanlar arasındaki rekabet giderek artıyor. Hem SUV’ler hem de sedanlar, farklı...

blank
Blog & Makaleler1 ay

Geleceğin Teknoloji Harikalarıyla Dolu Bir 23 Nisan

Geleceğin Teknoloji Harikalarıyla Dolu Bir 23 Nisan Bugün, Türkiye Cumhuriyeti’nin en önemli milli bayramlarından biri olan 23 Nisan Ulusal Egemenlik...

Galeri

blank
Blog & Makaleler3 ay

Teknoloji ve Bilimin Dönüm Noktaları: 6 Mart’ın Anlamı

Teknoloji ve Bilimin Dönüm Noktaları: 6 Mart’ın Anlamı Teknoloji ve bilim, insanlığın ilerlemesinde ve gelişiminde kritik bir rol oynamaktadır. Her...

blank
Teknoloji Galerileri5 ay

Bakan Uraloğlu: 3. Çeyrek Raporu Sonuçlarını Açıkladı

Ulaştırma ve Altyapı Bakanı Abdulkadir Uraloğlu, 2023 yılı 3’üncü çeyreği rakamlarını açıkladı. Bakan Uraloğlu, Bilgi Teknolojileri ve İletişim Kurumu tarafından...

blank
Blog & Makaleler6 ay

Evrenin İlk Elementi: Big Bang’den Başlangıç Noktasına Yolculuk

Evrenin İlk Elementi: Big Bang’den Başlangıç Noktasına Yolculuk Evren, 13,8 milyar yıl önce, son derece yoğun ve sıcak bir durumdan...

blank
Bilişim Haberleri6 ay

SİNEMADA YAPAY ZEKA

Sinemada yapay zeka, birçok farklı şekilde kullanılabilir ve hikaye anlatımına, karakter gelişimine, görsel efektlere ve genel film yapımına önemli katkılarda...

blank
Blog & Makaleler6 ay

Möbius Şeridi: Geometrinin Harikası

Möbius Şeridi: Geometrinin Harikası Matematik ve geometri, doğanın düzenini anlama ve modelleme konusunda insanlığın en güçlü araçlarından biridir. Bu disiplinler,...

blank
Teknoloji Galerileri9 ay

Saatte 100 Km Hız Yapan Airscooter!

Yumurta şeklindeki kişisel uçan araba ‘Airscooter’ gökyüzünde saatte 100 km hızla uçabiliyor.   Yumurta Şeklindeki Uçan Araba: Airscooter Jetpack üzerinde...

blank
Teknoloji Galerileri1 sene

Uzun Pozlama Nedir ve Nasıl Uygulanır

Uzun pozlama, yetersiz ışık olan ortamda, nesnenin ya da konunun oluşturduğu hareket hissini fotoğrafta dondurmaktır. Diyafram, enstantane ve ISO ayarı...

Etiket Bulutu

Kategoriler

Trending