Въпреки че източниците на пристрастия в AI системите са разнообразни, една от основните причини е стереотипирането.
За да помогне за решаването на този проблем в неяПървоначално изследователите от лабораторията за визуален изкуствен интелект в Принстън са разработили инструмент с отворен код, който автоматично открива потенциални корупции във визуалните набори от данни. Инструментът позволява на създателите на данни и потребителите да коригират недостатъчно представени или стереотипни проблеми с изображения, преди колекциите от изображения да се използват за обучение на модели на компютърно зрение. В свързана статия членовете на Visual AI Lab публикуват сравнение на съществуващите техники за предотвратяване на пристрастия в самите модели на компютърно зрение и предлагат нов, по-ефективен подход за намаляване на пристрастията.
Първият инструмент, наречен REVISE, използвастатистически методи за изследване на набор от данни за потенциални пристрастия или проблеми с недостатъчното представяне по три измерения: обект, пол и география.
REVISE оценява съдържанието на набора от данни,използване на съществуващите анотации и измервания на изображения, като например броя на обектите, комбинираното присъствие на обекти и хора и страната на произход на изображенията. Сред тези измервания инструментът идентифицира модели, които се различават от средното разпределение.
В един набор от данни REVISE идентифицира потенциалполова пристрастност в изображения, изобразяващи хора (червени правоъгълници) и органа на музикален инструмент (сини правоъгълници). Анализ на разпределението на очакваните триизмерни разстояния между човек и орган показва, че мъжете обикновено са изобразени като действително свирещи на инструмента, докато жените често са просто в същото пространство като инструмента. Кредит: Princeton Visual AI Lab.
Например в един от тестваните комплектиДанните от REVISE показват, че изображенията, включващи хора и цветя, се различават между мъжете и жените: мъжете са по-склонни да се появяват с цветя на церемонии или срещи, а жените са по-склонни да се появяват в сценични декори или картини.
След като инструментът открие този виднесъответствия, „възниква въпросът дали това е напълно безвреден факт или има нещо по-важно, което се случва и това е много трудно за автоматизиране“, обяснява Олга Русаковская, асистент по компютърни науки и главен изследовател на Visual AI Lab.
„Практиката за събиране на набори от данни в компютърнауката доскоро не е изучавана толкова задълбочено “, заключава съавторът Анджелина Уанг, студентка по компютърни науки. Тя обяснява, че изображенията са предимно „от Интернет и хората не винаги разбират, че техните изображения се използват [в набори от данни]. Трябва да събираме изображения от по-разнообразни групи хора и да го правим с уважение. "
Прочетете също:
Възможно е да се създаде термоядрен реактор на Земята. Какви ще са последиците?
Ледникът на Страшния съд се оказа по-опасен, отколкото учените смятаха. Казваме основното
На 3-ти ден от заболяването повечето пациенти с COVID-19 губят обонянието си и често страдат от хрема