Sony AI, yapay zekâ modellerinde insanlara yönelik önyargıları değerlendirmek amacıyla hazırlanan Fair Human-Centric Image Benchmark (FHIBE) adlı yeni veri setini duyurdu. Şirket, bu veri setinin etik ilkelere uygun biçimde oluşturulduğunu ve küresel çeşitliliği temsil ettiğini belirtiyor.
Yapay Zekâ Görsel Tanımada Önyargı Sorununu Derinlemesine İnceliyor
Sony Group’un Yapay Zekâ Yönetişimi Küresel Başkanı Alice Xiang, bilgisayarlı görü sistemlerinin tarafsız olmadığını vurguladı. Xiang, görsel tanıma algoritmalarının eğitildiği verilerde yer alan önyargıların, sonuçlara doğrudan yansıdığını belirtti. Bu durumun bazı mesleklerin ya da demografik grupların yanlış etiketlenmesine yol açabileceğini söyledi.
Sony AI tarafından geliştirilen FHIBE, insanların rızası alınarak toplanmış 10.318 fotoğraftan oluşuyor. 81 farklı ülke veya bölgeden elde edilen bu görseller, 1.981 farklı kişiyi kapsıyor. Veri setinde ayrıntılı etiketleme sistemi bulunuyor. Böylece araştırmacılar, modellerin cinsiyet, etnik köken ya da fiziksel özelliklere göre yanlış sınıflandırma eğilimini daha net biçimde gözlemleyebiliyor.
FHIBE, daha önce kullanılan pek çok değerlendirme veri setinden farklı olarak, tamamen rızaya dayalı biçimde hazırlanmış bir kaynak sunuyor. Sony AI araştırmacıları, önceki bilgisayarlı görü veri tabanlarının büyük kısmının izinsiz şekilde internetten derlendiğini hatırlattı. Xiang, etik veri toplamanın sadece yasal bir gereklilik değil, aynı zamanda yapay zekâ güvenilirliğinin temel unsuru olduğunu ifade etti.
Sony AI ekibi, FHIBE’nin yalnızca bir değerlendirme aracı olmadığını, aynı zamanda sektörde sorumlu veri yönetimi anlayışını teşvik etmeyi amaçladığını dile getirdi. Şirket, bu yaklaşımı Sony Group’un genel yapay zekâ etik ilkeleriyle uyumlu şekilde uyguladığını açıkladı.
FHIBE’nin öncelikli amacı, yapay zekâ sistemlerinin daha adil sonuçlar üretmesine katkı sağlamak. Xiang, FHIBE’nin sadece geliştiricilere modellerini test etme imkânı sunmadığını, aynı zamanda etik veri toplama konusunda örnek bir uygulama oluşturduğunu söyledi.
Veri seti, geliştiricilere modellerinin belirli gruplar üzerinde nasıl davrandığını inceleme olanağı tanıyor. Sony AI, FHIBE’nin yaygın kullanımıyla birlikte sektörde şeffaflık ve sorumluluk kültürünün güçleneceğini öngörüyor.
