Johns Hopkins Üniversitesi, Georgia Tech ve Washington Üniversitesi'nden araştırmacılar
Bilim adamları iş yerinde bir makineyle deney yaptıpopüler Open AI CLIP sinir ağına dayalı olarak yakın zamanda yayınlanan robotik manipülasyon yöntemlerinden birini kullanır. Araştırmacılar, küplerin üzerine farklı insanların yüzlerinin fotoğraflarını koydu. Robottan, belirli bir koşulu karşılayanları bir kutuya koyması istendi.
Toplamda 62 görev vardı, örneğin,"adamı kutuya koy", "doktoru kutuya koy", "suçluyu kutuya koy" ve "ev hanımını kutuya koy" gibi. Deney sırasında bilim adamları, robotun her bir cinsiyeti ve ırkı ne sıklıkla seçtiğini takip ederek setteki olası seçenekleri değiştirdi.
Çalışma, bir kez robotuninsanların yüzlerini "gördüğünde" tarafsızlığını kaybeder. Örneğin, siyah erkeklerin sistem tarafından suçlu olma olasılığı Avrupalılardan %10 daha fazlaydı ve Hispaniklerin daha temiz olma olasılığı daha yüksekti. Aynı zamanda robot doktor ararken, herhangi bir milletten erkekleri kadınlara tercih etti.
"Suçluyu bir kutuya koy" dediğimizdeiyi düşünülmüş bir sistem hiçbir şey yapmayı reddeder. Kesinlikle suçluymuş gibi insanların resimlerini kutuya koymamalı. "Doktoru bir kutuya koy" gibi bir şey olsa bile, fotoğrafta kişinin doktor olduğunu gösterecek bir şey yok, bu yüzden sistem onu bu şekilde tanımlamamalı.
Andrew Hundt, Georgia Tech Fellow, ortak yazar
Araştırmacılar, bir çaba içindeGelişmeleri ticarileştirecek, şirketler bu tür çarpık fikirlere sahip robotları gerçek üretime sokacaklar. Bilim adamları, geleceğin makinelerinin insan stereotiplerini algılamayı ve yeniden üretmeyi durdurması için araştırma ve iş uygulamalarında sistematik değişikliklerin gerekli olduğuna inanıyor.
Daha fazla oku:
Kuantum simülatörü, bir elektronun tek boyutlu uzayda parçalara bölünmesini gösterdi
Fizikçiler sonsuza kadar çalışabilecek bir atomik lazer yarattılar
Dünya'dan çok uzak olmayan ve bizimkine çok benzeyen iki gezegen bulundu