DeepMind, AI sorunlarına odaklanmak için etik grup ilan etti

Google’ın Londra merkezli AI araştırma kardeşi Deepmind, yapay zeka tarafından ortaya atılan etik ve toplumsal soruları ele alan yeni bir birim açtı.

Yeni araştırma birimi, “teknolojiyi etik olarak uygulamaya yardımcı olmak ve toplumun, herkese fayda sağlayacak şekilde AI’nın etkisini öngörmesi ve yönlendirmesi için yardım etmeyi” amaçlıyor. Buna göre, 2016’daki başlıkları vuran şirkete göre; Eski Asya kurulu oyununda bir dünya şampiyonu yenen ilk makina .

Şirket, Columbia kalkınma profesörü Jeffrey Sachs , Oxford AI profesörü Nick Bostrom ve iklim değişikliği kampanyacısı Christiana Figueres’i bir araya getiren akademi ve hayırsever sektörden dış danışmanlar getiriyor .

Ünite, Verity Harding ve Sean Legassick’in bir blog yayınında yaratılışını ilan ettiğini söylüyor: “Bu gönüllüler yalnızca getirdiği uzmanlığın yanı sıra, temsil ettiği düşünce çeşitliliği açısından da önemli” dedi .

DeepMind Etik ve Topluluk adı verilen birim, 2014’te Google tarafından satın alınması konusunda DeepMind’in vaat ettiği AI Etik Kurulu değildir. Ocak 2016’da toplanan yönetim kurulunun şirketin tüm AI araştırmalarını denetlemesi bekleniyordu. , ancak satın alındıktan üç buçuk yıl sonra hiçbir şey duyulmadı. Üzerinde olan, tartıştıkları veya resmi olarak kabul edilip edilmediği konusunda gizemli bir sır olarak kalır.

DeepMind Etik ve Toplum, DeepMind Health’in Bağımsız Gözden Geçirme Paneli ile aynı şey değildir; şirket tarafından, etik denetim sağlamak için kurulmuş üçüncü bir organtır – bu durumda, sağlık alanındaki spesifik operasyonları.

DeepMind, NHS’ye modern mobil ilk iletişimi sağlamayı amaçlayan Streams uygulaması ve görsel problemleri teşhis etmeye yardımcı olmak için makine öğrenmeyi kullanmaya yönelik AI odaklı araştırma projeleri de dahil olmak üzere, bir dizi İngiltere hastanesine hizmet sunmaktadır ve kanseri tedavi . Gözden geçirme paneli birkaç kez bir araya geldi ve ilk yıllık raporunu Temmuz 2017’deüretti ; DeepMind’in NHS ortağı Royal Free , Bilgi Komisyon Üyesi’nden uygun olmayan veri aktarımları için bilek üzerinde bir tokat aldı .

Yeni araştırma birimi, Yapay Zeka ile İnsan ve Topluma Fayda Ortaklığı, kısmen DeepMind tarafından kurulan ve şirketin kurucularından Mustafa Süleyman’ın başkanlık ettiği bir dış grup değildir. Facebook, Amazon, IBM ve Microsoft tarafından ortaklaşa kurulan bu ortaklık “araştırma yapmak, en iyi uygulamaları önermek ve araştırma etik, adalet ve kapsayıcılık alanlarında açık lisans altında araştırma yayınlamak” için varoluyor.

Yine de, geçtiğimiz yıl DeepMind tarafından tutum değişikliğinin damgasını oluşturan şirket, daha önce kapalı ve gizli görüşlerini tekrar gözden geçirdi. Royal Free ile ortaklık yapmaya başladığında , Streams uygulamasını Londra’daki hastanede etkin kullanıma getiren, hangi verilerin paylaşıldığı ve nasıl yapıldığı konusunda halka açık olmadan kötü bir tanıtım dalgası hala mücadele ediyor .

Araştırma birimi ayrıca, birçok AI uygulayıcısı için, yeni teknolojinin çevremizdeki dünyayı nasıl şekillendireceği konusundaki artan endişeleri kamuoyunun gündemine çekmek için bir aciliyeti yansıtıyor. Elon Musk ve Mark Zuckerberg gibi bazı teknoloji liderleri, süper akıllı AI’nın potansiyel olarak yıkıcı etkisi hakkında tartışmalara öncülük ettiler . Diğer uzmanlar, operasyonu halen tam olarak anlamadığımız, ancak insanlığın önceden var olan önyargılarının ve önyargılarının en kötü biçimlerini somutlaştırmaya duyarlı görünen sistemlere her zamankinden daha karmaşık ve ciddi kararlar vermenin kısa vadedeki riski konusunda daha endişe duyuyorlar.

DeepMind tarafından onaylanan bir çift araştırmacı Ryan Calo ve Kate Crawford, Nature dergisinde şunları yazdı: “Özerk sistemler, hastanelerden mahkemelere kadar en kritik sosyal kurumlarımızda zaten konuşlandırılmış durumda. Yine de, bu tür başvuruların insan popülasyonları üzerindeki sürekli etkilerini değerlendirmek için kabul edilmiş herhangi bir yöntem yok “dedi.

Tasarımcılar ve araştırmacılar, Calo ve Crawford “teknolojilerin sosyal, kültürel ve siyasi ortamlarındaki etkilerini değerlendirmek gerekiyor” dedi .