Створио алат који помаже у уклањању пристрасности у рачунарском виду

Иако су извори пристрасности у системима вештачке интелигенције различити, један од главних узрока су стереотипи.

слике садржане у великим сетовимаподаци прикупљени из онлајн извора које инжењери користе за развој компјутерског вида. Ово је грана вештачке интелигенције која омогућава рачунарима да препознају људе, објекте и радње. Пошто је основа компјутерског вида изграђена на овим скуповима података, слике које одражавају друштвене стереотипе и предрасуде могу ненамерно утицати на моделе компјутерског вида.

Да јој помогне да реши овај проблемПрвобитно су истраживачи у лабораторији Принцетон Висуал АИ развили алат отвореног кода који аутоматски открива потенцијалне оштећења у визуелним скуповима података. Алат омогућава креаторима скупова података и корисницима да исправе недовољно заступљене или стереотипне проблеме са сликама пре него што се колекције слика користе за обуку модела рачунарског вида. У сродном раду, чланови Висуал АИ Лаб-а објавили су поређење постојећих метода превенције пристрасности у моделима рачунарског вида и предложили нови, ефикаснији приступ смањењу пристрасности.

Први алат, назван РЕВИСЕ, користистатистичке методе за испитивање скупа података у потрази за потенцијалним проблемима пристрасности или недовољне заступљености дуж три димензије: објекта, пола и географије.&нбсп;

РЕВИСЕ процењује садржај скупа података,коришћење постојећих напомена и мерења на слици, као што су број предмета, комбиновано присуство објеката и људи и земља порекла слика. Међу овим мерењима, алат идентификује обрасце који се разликују од медијане расподеле.

У једном скупу података РЕВИСЕ је идентификовао потенцијалродна пристрасност на сликама које приказују људе (црвени правоугаоници) и орган музичког инструмента (плави правоугаоници). Анализа расподеле процењених тродимензионалних растојања између особе и органа показала је да су мушкарци обично приказани као стварни свирачи инструмента, док су жене често биле једноставно у истом простору као и инструмент. Заслуге: Принцетон Висуал АИ Лаб.

На пример, у једном од тестираних сетоваПодаци РЕВИСЕ показали су да се слике које укључују људе и цвеће разликују између мушкараца и жена: мушкарци су се чешће појављивали са цвећем на церемонијама или састанцима, а жене су се чешће појављивале у сценским поставкама или сликама.&нбсп;

Једном када алат открије ову врсту„Поставља се питање да ли је то потпуно безазлена чињеница или се дешава нешто важније, а то је веома тешко аутоматизовати“, објашњава Олга Русаковскаја, доцент рачунарства и главни истраживач Лабораторије за визуелну вештачку интелигенцију. &нбсп;

„Пракса прикупљања скупова података у рачунарунаука до недавно није проучавана тако темељито “, закључује коауторка Ангелина Ванг, студенткиња постдипломских студија рачунарства. Она објашњава да су слике углавном „са Интернета, а људи не разумеју увек да се њихове слике користе [у скуповима података]. Морамо да прикупљамо слике различитих група људи и то чинимо с поштовањем “.

Прочитајте и:

На Земљи је могуће створити термонуклеарни реактор. Какве ће бити последице?

Испоставило се да је глечер Судњег дана опаснији него што су научници мислили. Кажемо главно

Трећег дана болести, већина пацијената са ЦОВИД-19 губи смрад и често пате од цурења из носа