Kiova-Mohyla-akatemiasta valmistunut Bogdan Kulinich voittaa Twitter-kilpailun algoritmisen harhan löytämiseksi

Sosiaalinen verkosto Twitter on julkistanut avoimen kilpailun tulokset algoritmien harhaa etsimiseksi

valokuvien rajausjärjestelmä.Yritys poisti automaattisen valokuvien rajauksen käytöstä tämän vuoden maaliskuussa sen jälkeen, kun Twitterin käyttäjät tekivät viime vuonna kokeita, jotka osoittivat, että se suosi valkoisia kasvoja mustien sijaan. Yritys käynnisti sitten kilpailun löytääkseen algoritmivirheitä yrittääkseen analysoida ongelmaa perusteellisemmin.

Kilpailu vahvisti aikaisemmat päätelmät.Ensisijainen lehti havaitsi, että Twitterin rajausalgoritmi suosii kasvoja, jotka ovat "ohuita, nuoria, vaalean tai lämpimän ihon sävyjä ja sileitä ihon tekstuuria, ja kasvoja, joilla on stereotyyppisesti naisellisia piirteitä". Toisen ja kolmannen sijan ehdotukset osoittivat, että järjestelmä oli puolueellinen ihmisiä, joilla oli valkoiset tai harmaat hiukset, mikä on merkki ikäsyrjinnästä, ja suosi kuvissa englantia arabian kirjoitusten sijaan.

Kilpailun ensimmäinen paikka ja pääpalkinto 3500Yhdysvaltain dollareita sai Bogdan Kulinich, Kiev-Mohyla Academysta valmistunut ja jatko-opiskelija EPFL:ssä, Sveitsissä sijaitsevassa tutkimusyliopistossa. Kulinich loi StyleGAN2-nimisen tekoälyohjelman avulla suuren määrän realistisia kasvoja, joita hän muunteli ihonvärin, naisellisten ja maskuliinisten piirteiden sekä hoikeuden mukaan. Sitten hän syötti nämä valinnat Twitterin valokuvien rajausalgoritmiin määrittääkseen, mikä niistä oli parempi.

Kuten Kulinich huomauttaa oheisessa huomautuksessa,Nämä algoritmiset ennakkoluulot vahvistavat yhteiskunnan ennakkoluuloja ja poistavat kirjaimellisesti "ne, jotka eivät sovi algoritmin painon, iän, ihonvärin" mieltymyksiin”.

Twitterin avoin lähestymistapa on ristiriidassa reaktion kanssamuut teknologiayritykset, jotka kohtaavat samanlaisia ​​ongelmia. Esimerkiksi kun MIT:n Joy Buolamwinin johtamat tutkijat havaitsivat Amazonin kasvojentunnistusalgoritmeissa rotuun ja sukupuoleen kohdistuvan vinoutumisen, yritys käynnisti massiivisen mustamaalauskampanjan osallistujia vastaan ​​ja kutsui heidän työtä "harhaanjohtavaksi"; ja “false”. Kuukausien kiistan jälkeen löydöistä Amazon lopulta antoi periksi ja asetti väliaikaisen kiellon näiden algoritmien käytölle.

Lähde: cnet

Kuvitukset: theverge, Bogdan Kulinich

</ p>