Yapay Zeka Hatası Yüzünden Siyahi Bir Kadın Suçsuz Yere Gözaltına Alındı

ABD polisi, yüz tanıma sistemini hatası yüzünden işlemediği bir suç gerekçesiyle 32 yaşındaki Porcha Woodruff’ı gözaltına alındı. Amerikan Sivil Haklar Birliği, son dönemde en az 6 siyahinin ‘yanlışlıkla’ gözaltına alındığını bildirdi.

8 aylık hamile olan Porcha Woodruff, evinde çocuklarını okula göndermeye hazırlanırken kapısını polisler çaldı. Ekip, Woodruff’ı araba hırsızlığı suçlamasıyla evinden aldı. Woodruff, karnını işaret ederek suç işleyecek durumda bile olmadığını anlatmaya çalışsa da işe yaramadı. Detroit Gözaltı Merkezi’ne götürüldü ve burada 11 saat tutuldu.

Gözaltı sırasında telefonu aranmak üzere elinden alındı, kendisi de işlemediği bir suç için sorguya çekildi. Üstelik gözaltında kaldığı hücre içinde sırt ağrısı çekti, kasılmalar yaşadı. Daha sonra Woodruff, 100 bin dolarlık kefaletle serbest bırakıldı. Gözaltından çıkan Woodruff, doğrudan hastaneye gitti. Burada kendisine susuzluk teşhisi kondu ve damar yoluyla sıvı takviyesi yapıldı.

Olay sonrası, sistemin Woodruff’u ‘yanlışlıkla’ olası bir şüpheli olarak tanımladığı ortaya çıktı. Bunun üzerine 32 yaşındaki Porcha Woodruff, Detroit polisine haksız gözaltı davası açtı. Fakat yargıç, yetersiz delil gerekçesiyle davayı düşürdü. Woodruff, ABD’de yapay zekâ nedeniyle gözaltına alındığı bilinen altıncı kişi ve ilk kadın oldu. Bu altı kişinin tek ortak noktasıysa siyahi olmalarıydı. Yaşanan olayların üzerine Woodruff, salı günü Detroit şehrine karşı dava açtı.

Davanın açılması ile birlikte Detroit polisinden de açıklama geldi. Şef James E. White, “Bu konuyu çok ciddiye alıyoruz ancak ek soruşturma ihtiyacı nedeniyle şu anda daha fazla yorum yapmayacağız. Koşulları daha iyi anladığımızda daha fazla bilgi sağlayacağız” dedi.

• Woodruff’ın yanlış eşleştirilmesine yol açan fotoğrafı (sol) ve şimdiki hali (sağ).

Mahkeme belgelerine göre, Woodruff’un haksız yere gözaltına alınmasına neden olay ise bir benzin istasyonunun silahla soyulmasının bildirilmesi ardından yaşandı. Polis olaya karışan bir kadının kamera kayıtlarını bulunca zanlının yüzünü DataWorks Plus adlı bir yüz tanıma aracına yükledi.

Yazılım programı, aramayı tamamlayınca Woodruff’un adını verdi. Üstelik Woodruff’un sisteme kayıtlı fotoğrafının henüz 8 yaşındayken çekildiği, yapay zekanın bu fotoğrafı kullanarak suçsuz kadının adını verdiği anlaşıldı. Woodruff’ın bu sistemde yüzünün olma nedeni ise 2015 yılında ehliyetsiz araç kullanmaktan göz altına alınmasıydı.

Konuyla ilgili  konuşan Amerikan Sivil Haklar Birliği avukatı Phil Mayor, “Yapay zeka, polis tarafından ırksal ayrımcılığı teşvik etmek için kullanılıyor” açıklamasında bulundu. Mayor, yanlış tutuklamalardan üçünün Detroit polisi tarafından gerçekleştirildiğini söyledi. Polisin, sonuçlarını bilmesine rağmen yapay zekaya güvenmesinin ‘endişe verici’ olduğunu söyleyen Mayor, “Woodruff’un korkunç deneyiminin de gösterdiği gibi, bu teknolojinin kullanımına son verilmeli. Detroit polisi, sivilleri Detroitlileri gizli gözetime tabi tutmaya devam ediyor” ifadelerini kullandı.