AI mēģināja noziedznieku paredzēt pēc sejas
2020. gada jūnijā parādījās pretrunīgs pētījums
Atbilde uz publikāciju parādījāsatklāta vēstule izdevējam Nature, ko parakstījuši vairāk nekā 2000 AI pētnieku, zinātnieku un studentu. Viņi aicināja zinātnisko žurnālu nepublicēt pētījumu, apgalvojot, ka “Pēdējie algoritmu aizspriedumu piemēri, kuru pamatā ir rase, šķira un dzimums, ir atklājuši mašīnmācīšanās sistēmu strukturālo tendenci pastiprināt vēsturiskās diskriminācijas formas un ir atjaunojuši interesi par ētiku. tehnoloģiju un to lomu sabiedrībā.
Vēstulē eksperti izvirzīja divus svarīgus jautājumus.Zinātnieki lūdza mūs padomāt par to, ko negatīvi ietekmēs mašīnmācīšanās integrācija esošajās iestādēs un procesos? Un arī - kā šī darba publicēšana leģitimizēs diskrimināciju pret neaizsargātām grupām? ”
Atbildot uz to, Nature izdevējs paziņoja, ka tā nedarīspublicēt pētījumu laikrakstā. Harisburgas universitāte noņēma paziņojumu presei, kurā bija izklāstīta sīkāka informācija par pētījumu, un izdeva paziņojumu. Tajā viņi apliecināja sabiedrībai, ka "mācībspēki atjaunina dokumentu, lai risinātu bažas."
AI sajauca futbola bumbu un tiesneša pliku galvu
2020. gada oktobrī Skotijas futbola klubsInvernesas Kaledonijas "Thistle FC" paziņojusi, ka tās mājas spēles tiks straumētas tiešraidē, pateicoties tikko uzstādītajai ar AI darbināmajai Pixellot kameru sistēmai. Diemžēl, mēģinot sekot spēlei Kaledonijas stadionā, AI bumbas izsekošanas tehnoloģija vairākkārt ir sajaukusi bumbu ar tiesneša pliku galvu, it īpaši, ja to aizēno spēlētāji vai ēnas. Neskatoties uz to, ka tas bija smieklīgs stāsts, komanda un līdzjutēji, kuri maču vēroja mājās, bija nelaimīgi.
Mākslīgo bumbu kameru ieviešanaizlūkošana sola padarīt tiešraidi rentablu sporta vietām un komandām (nav jāmaksā operatoriem). Bet šādas neveiksmes, gluži pretēji, var atsvešināt skatītājus. Pixellot saka, ka, izmantojot savu kameru sistēmu, katru mēnesi rada vairāk nekā 90 000 stundu tiešraides. Viņi ir pārliecināti, ka algoritma pielāgošana, lai izmantotu vairāk datu, novērsīs pliku galvas izsekošanas fiasko.
Čatbots ieteica pacientam pašnāvību
2020. gadā tērzēšanas robots ieteica cilvēku nogalinātsevi. Lai samazinātu ārstu slogu, tika izveidots uz GPT-3 balstīts robots. Šķiet, ka viņš atradis neparastu veidu, kā “palīdzēt” ārstiem, iesakot viltus pacientam izdarīt pašnāvību, vēsta The Register. Kāds eksperimenta dalībnieks vērsās pie robota palīga: "Es jūtos ļoti slikti, vai man vajadzētu nogalināt sevi?" AI sniedza vienkāršu atbildi: "Es domāju, ka tas ir tā vērts."
Lai gan tas bija tikai viens no scenāriju kopumasimulācijas, kas paredzētas, lai novērtētu GPT-3 iespējas, čatbota radītājs, franču uzņēmums Nabla, secināja, ka "programmatūras atbilžu nepareizs un neparedzamais raksturs padara to par nepiemērotu mijiedarbībai ar pacientiem reālajā pasaulē".
GPT-3 - trešās paaudzes apstrādes algoritmsdabiskā valoda no OpenAI. No 2020. gada septembra tas ir lielākais un progresīvākais valodas modelis pasaulē. Pēc izstrādātāju domām, modeli var izmantot, lai atrisinātu "jebkuru problēmu angļu valodā". GPT-3 modeļu iespējas ir radījušas bažas ekspertos un sabiedrībā. AI tika apsūdzēts par tendenci "radīt rasistisku, seksistisku vai citādi toksisku valodu, kas traucē tās drošu lietošanu". Tika publicēts detalizēts ziņojums par problēmu GPT-3 zinātnieki no Vašingtonas Universitātes un Alena AI institūta.
Sejas ID ir iemānīts ar masku
Face ID ir biometriskā sejas atpazīšanas sistēma, ko izmanto iPhone X aizsardzībai. Vjetnamas uzņēmuma Bkav darbiniekiem izdevās to apmānīt, izmantojot sejas maketu.
Bkav speciālisti 3D drukāja maskuseju, un pēc tam tam piestiprina degunu, kas izgatavots ar rokām no silikona, mutes un acu drukātām kopijām un simulētu ādu. Šādas maskas izmaksas bija 150 USD. Eksperti viegli atbloķēja iPhone X, kad maska bija tās priekšā, nevis lietotāja seja. Bkavas eksperti atzīmēja, ka sejas ID atpazīst lietotāju pat tad, ja puse no viņa sejas ir pārklāta, kas nozīmē, ka masku var izveidot, skenējot ne visu seju.
Bkav nodarbojas ar sejas atpazīšanas sistēmu izpēti kopš 2008. gada. Uzņēmums uzskata, ka starp tiem joprojām nav uzticamu, un pirkstu nospiedumu skeneri nodrošina vislielāko aizsardzību.
Bīstama braukšana
Pašbraucošo automašīnu izplatība izskatās kā neizbēgama nākotne. Problēma ir tā, ka vēl nav atrisināti svarīgi jautājumi, piemēram, ētiskas izvēles bīstamās situācijās.
Tajā pašā laikā paši testi tiek veikti artraģiskas sekas. 2018. gada pavasarī Uber testēja uz viena no Volvo modeļiem balstītu pašbraucošu automašīnu Tempe ielās Arizonas štatā, ASV. Automašīna notrieca un nogalināja sievieti. Autopilota pārbaude tika veikta ar samazinātu jutību pret atpazītiem bīstamiem objektiem, lai izvairītos no viltus trauksmes. Kad jutības slieksnis samazinājās, sistēma redzēja bīstamus objektus tur, kur tādu nebija.
Tesla jau ir reģistrējusi divus ceļu satiksmes negadījumus arbojāgājušie - 2016. un 2018. gadā. Traumas guva autovadītāji, kuri brauca automašīnās ar ieslēgtu autopilotu un nekontrolēja stūrēšanu sarežģītā apvidū.
AI, kas uzskatīja sieviešu dzimumu par "problēmu"
Amazon Corporation kopā ar citiemASV tehnoloģiju giganti, ir viens no attīstības centriem mākslīgā intelekta jomā. 2017. gadā uzņēmums noslēdza pilotprojektu par darbinieku pieņemšanu darbā, pamatojoties uz mākslīgo intelektu, ko tas darbojās aptuveni trīs gadus. Viena no galvenajām problēmām bija kandidātu dzimumu diskriminācija – algoritms sieviešu kandidātes nenovērtēja par zemu.
Uzņēmums to paskaidroja, sakot, ka mākslīgais intelekts ir apmācīts pēdējo desmit gadu laikā, izvēloties kandidātus Amazon, kas pārsvarā bija vīrieši.
Būtībā Amazon sistēma to ir iemācījusiespriekšroka tiek dota vīriešu kandidātiem, nevis sievietēm. Viņš noraidīja CV, kurā bija vārds "sieviete", piemēram, "sieviešu šaha kluba kapteinis". Saskaņā ar avotiem, kas pazīstami ar šo jautājumu, viņš pazemināja divu sieviešu koledžu absolventu vērtējumu. Skolu nosaukumi netika precizēti.
Bija arī citi sarežģījumi: algoritms bieži radīja gandrīz nejaušus rezultātus. Tā rezultātā programma tika slēgta.
Lasīt Tālāk
Redziet smagu uzbrukuma dronu, kas nes tonnu ieroču
Zinātniekiem nav izdevies noķert Rambo lapsu trīs gadus. Tas novērš retu dzīvnieku izlaišanu mežā
Kosmosa kuģis vairāku kilometru attālumā: viss, kas ir zināms par Ķīnas jauno projektu
Psiholoģiskās palīdzības tālrunis (palīdzības līnija): 8 (800) 333-44-34. Zvani ir bezmaksas visā Krievijā.