IBM’nin Yapay Zeka Tespiti
Yapay Zeka Haberleri
Dünyanın en büyük bilişim teknolojisi şirketi IBM, algoritmaların verdiği kararların nasıl ve neden verildiğini anlık olarak analiz edebilecek bir araç geliştirdi.
Google’ın fotoğraf algoritmasının Afrika kökenli Amerikalıları “goril” olarak tanımlaması gibi örnekler, yakın gelecekte hayatın her alanında kullanılma ihtimali bulunan bu algoritmaların ne kadar ön yargılı olduğunu tartışmaya açmıştı.
Fairness 360 adı verilen araç, yapay zekanın ön yargılara sahip olup olmadığının belirtilerini tarayarak gerekli düzenlemeler konusunda önerilerde bulunacak. Teknoloji devleri ve diğer şirketler tarafından kullanılan algoritmaların karar verme sürecinde her zaman adil olmadığına dair endişeler son dönemde artıyor.
Örneğin bazı yüz tanıma algoritmalarının beyaz yüzleri tanırken siyah yüzleri tanıyamadığı ortaya çıkmıştı. Bu algoritmalar artık emniyet, sigorta veya internet içerikleri gibi pek çok alanda kullanıldığı için olası bir ön yargının geniş etkileri olabilir.
Algoritmalar genellikle “kara kutu” mantığına göre işliyor, yani çalışma sürecinde algoritma sahipleri hangi kararın nasıl ve neden verildiğini göremiyor. IBM’in bulut temelli yazılımı açık kaynaklı ve algoritma geliştirmek için yaygın olarak kullanılan platformlarla uyumlu olacak.
Tüketiciler bir arayüz üzerinden algoritmaların nasıl karar verdiğini ve kararı verirken hangi faktörleri değerlendirdiğini görebilecek. Algoritmanın hata oranı, performansı ve adilliği de incelenebilecek. IBM’in Bilişsel Çözümler Birimi Başkan Yardımcısı David Kenny, “Yapay zeka kullanan ve hatalı bir kararın yaratacağı risklerle karşı karşıya olan şirketlere şeffaflık ve kontrol sağlıyoruz” diyor.
IBM yapay zekanın ön yargılarını tespit edecek Google’ın geliştirdiği arayüzün kullanımına bir örnek olarak sunulan bu görselde gülen suratlar maviyle, gülmeyenler ise kırmızıyla işaretlenmiş
Google’ın aracı gerçek zamanlı değil diğer teknoloji şirketleri de aynı soruna benzer çözümler getirmek için çalışmalar yürütüyor.
Google geçen hafta duyurduğu bir araçla kullanıcıların makine öğrenimi modellerinin nasıl çalıştığını görmesine olanak sağlamıştı. Fakat Google’ın geliştirdiği araç gerçek zamanlı değil. Bu araç verileri zaman içinde değerlendirerek genel bir tablo sunuyor. Makine öğrenimi ve algoritmalarda önyargı, yapay zeka topluluğunun son dönemdeki önemli gündem maddelerinden birini oluşturuyor.
Microsoft ve Facebook da benzer ön yargı tespit araçlar geliştirdiklerini açıklamışlardı. Problemin bir kısmı, algoritmaların öğrenmesi için sunulan verilerin yeterli çeşitliliğe sahip olmamasından kaynaklanıyor.
Bilgisayarının yalnızca beyaz bir maske taktığında yüzünü tanıyabildiğini fark eden Massachusetts Institute of Technology öğrencisi Joy Buolamwini , 2016’da Algoritmik Adalet Birliği (AJL) adlı bir örgüt kurmuştu.