Yapay zeka sistemlerindeki önyargının kaynakları çeşitli olsa da ana nedenlerden biri stereotiplerdir.
Bu sorunu onda çözmeye yardımcı olmak içinİlk olarak, Princeton Görsel Yapay Zeka Laboratuvarı'ndaki araştırmacılar, görsel veri kümelerindeki olası bozulmaları otomatik olarak algılayan açık kaynaklı bir araç geliştirdiler. Araç, veri kümesi oluşturucuların ve kullanıcıların, görüntü koleksiyonları bilgisayarla görme modellerini eğitmek için kullanılmadan önce yetersiz temsil veya kalıplaşmış görüntüleme sorunlarını düzeltmesine olanak tanır. İlgili çalışmada, Visual AI Lab üyeleri, bilgisayarla görme modellerindeki mevcut önyargı önleme yöntemlerinin bir karşılaştırmasını yayınladılar ve önyargı azaltmaya yeni, daha etkili bir yaklaşım önerdiler.
REVISE adı verilen ilk araç şunları kullanır:Bir veri kümesini potansiyel önyargılar veya yetersiz temsil sorunları açısından üç boyutta incelemek için istatistiksel yöntemler: nesne, cinsiyet ve coğrafya.
REVISE, veri setinin içeriğini değerlendirir,Nesne sayısı, nesnelerin ve insanların birleşik varlığı ve görüntülerin menşe ülkesi gibi mevcut görüntü açıklamalarının ve ölçümlerinin kullanılması. Araç, bu ölçümler arasında medyan dağılımdan farklı olan modelleri tanımlar.
REVISE bir veri kümesinde bir potansiyel belirlediinsanları (kırmızı dikdörtgenler) ve bir müzik aletinin organını (mavi dikdörtgenler) tasvir eden görüntülerde cinsiyet önyargısı. Bir kişi ile bir organ arasındaki tahmini üç boyutlu mesafelerin dağılımının bir analizi, erkeklerin genellikle enstrümanı çalıyor olarak tasvir edildiğini, kadınların ise genellikle enstrümanla aynı alanda olduklarını gösterdi. Kredi: Princeton Görsel Yapay Zeka Laboratuvarı.
Örneğin, test edilen setlerden birindeREVISE verileri, insanları ve çiçekleri içeren görsellerin erkekler ve kadınlar arasında farklılık gösterdiğini gösterdi: Erkeklerin törenlerde veya toplantılarda çiçeklerle görünme olasılığı daha yüksekti ve kadınların sahnelenen ortamlarda veya resimlerde görünme olasılığı daha yüksekti.
Araç bu tür bir durumu algıladığındaBilgisayar bilimi yardımcı doçenti ve Görsel Yapay Zeka Laboratuvarı baş araştırmacısı Olga Rusakovskaya şöyle açıklıyor: "Bunun tamamen zararsız bir gerçek mi olduğu, yoksa daha önemli bir şeyin olup olmadığı sorusu ortaya çıkıyor ve bunu otomatikleştirmek çok zor."
"Bilgisayarda veri kümeleri toplama uygulamasıbilim yakın zamana kadar bu kadar kapsamlı bir şekilde çalışılmamıştı ”diyor, bilgisayar bilimleri alanında yüksek lisans öğrencisi olan eş yazar Angelina Wang. Görüntülerin çoğunlukla "İnternetten geldiğini ve insanların görüntülerinin [veri kümelerinde] kullanıldığını her zaman anlamadıklarını açıklıyor. Daha çeşitli insan gruplarından görüntüler toplamalı ve bunu saygılı bir şekilde yapmalıyız. "
Ayrıca okuyun:
Yeryüzünde termonükleer reaktör oluşturmak mümkündür. Sonuçlar ne olacak?
Kıyamet buzulu bilim adamlarının sandığından daha tehlikeli çıktı. Ana şeyi söyleriz
Hastalığın 3. gününde, COVID-19 hastalarının çoğu koku alma duyusunu kaybeder ve sıklıkla burun akıntısı çekerler