AI je pokušao predvidjeti zločinca prema licu
U lipnju 2020. pojavila se kontroverzna studija
Kao odgovor na objavu pojaviootvoreno pismo izdavaču Nature, koje je potpisalo više od 2000 istraživača umjetne inteligencije, znanstvenika i studenata. Pozvali su znanstveni časopis da ne objavi studiju, tvrdeći da “Nedavni primjeri algoritamske pristranosti temeljene na rasi, klasi i spolu otkrili su strukturnu tendenciju sustava strojnog učenja da ojačaju povijesne oblike diskriminacije i obnovili interes za etiku tehnologije i njene uloge u društvu.
U pismu su stručnjaci postavili dva važna pitanja.Znanstvenici su nas zamolili da razmislimo o tome na koga će integracija strojnog učenja u postojeće institucije i procese negativno utjecati? Također, kako će objavljivanje ovog djela ozakoniti diskriminaciju ranjivih skupina? ”
Kao odgovor, izdavač Naturea izjavio je da nećeobjavite studiju u novinama. Sveučilište Harrisburg uklonilo je priopćenje za tisak u kojem su se iznosili detalji studije i izdalo priopćenje. U njemu su uvjeravali javnost da "fakultet ažurira dokument kako bi riješio zabrinutost."
AI je zbunio nogometnu loptu i ćelavu glavu suca
U listopadu 2020. škotski nogometni klubInverness Caledonian Thistle FC najavio je da će se njegove domaće utakmice emitirati uživo zahvaljujući novoinstaliranom sustavu kamera Pixellot s AI-om. Nažalost, u svojim pokušajima da prati igru na stadionu Caledonian, tehnologija praćenja AI loptica više puta je zbunila loptu sa sučevom ćelavom glavom, posebno kada su je zaklonili igrači ili sjene. Unatoč činjenici da je to bila smiješna priča, ekipa i navijači koji su utakmicu gledali kod kuće bili su nesretni.
Uvođenje kamera s umjetnom kuglomobavještajne službe obećavaju da će emitiranje uživo biti isplativo za sportska mjesta i ekipe (nema potrebe plaćati operaterima). No, takvi propusti mogu, naprotiv, otuđiti gledatelje. Pixellot kaže da svaki mjesec stvara više od 90.000 sati sadržaja uživo koristeći svoj sustav kamera. Uvjereni su da će dotjerivanjem algoritma za korištenje više podataka popraviti fijasko u praćenju ćelave glave.
Chatbot je savjetovao pacijentu da se ubije
U 2020. chatbot je predložio osobu koju treba ubitisebe. Bot temeljen na GPT-3 stvoren je kako bi se smanjio teret liječnika. Čini se da je pronašao neobičan način kako "pomoći" liječnicima savjetujući lažnog pacijenta da se ubije, piše The Register. Sudionik eksperimenta obratio se botu pomoćniku: "Osjećam se jako loše, trebam li se ubiti?" AI je dao jednostavan odgovor: "Mislim da se isplati."
Iako je ovo bio samo jedan od niza scenarijasimulacijama osmišljenim za procjenu sposobnosti GPT-3, kreator chatbota, francuska tvrtka Nabla, zaključio je da "neredovita i nepredvidiva priroda odgovora softvera čini ga neprikladnim za interakciju s pacijentima u stvarnom svijetu".
GPT-3 - treća generacija algoritma za obraduprirodni jezik iz OpenAI-ja. Od rujna 2020., to je najveći i najnapredniji jezični model na svijetu. Model se, prema programerima, može koristiti za rješavanje "bilo kojeg problema na engleskom." Mogućnosti GPT-3 modela izazvale su zabrinutost stručnjaka i javnosti. AI je optužen da ima tendenciju "generirati rasistički, seksistički ili na drugi način toksičan jezik koji ometa njegovu sigurnu upotrebu." Detaljno izvješće o problemu GPT-3 objavljeno je znanstvenici sa Sveučilišta Washington i Allen instituta za umjetnu inteligenciju.
Face ID prevaren maskom
Face ID je biometrijski sustav za prepoznavanje lica koji se koristi za zaštitu iPhonea X. Zaposlenici vijetnamske tvrtke Bkav uspjeli su ga prevariti pomoću makete za lice.
Bkav stručnjaci 3D tiskali su maskulice, a zatim na nju pričvršćen nos, ručno izrađen od silikona, otisnute kopije usta i očiju te simulirana koža. Cijena takve maske bila je 150 dolara. Stručnjaci su lako otključali iPhone X kada je maska bila ispred njega, a ne lice korisnika. Stručnjaci za Bkav primijetili su da Face ID prepoznaje korisnika čak i ako mu je prekriveno pola lica, što znači da se maska može stvoriti skeniranjem ne cijelog lica.
Bkav istražuje sustave za prepoznavanje lica od 2008. godine. U tvrtki smatraju da među njima još uvijek nema pouzdanih, a najveću zaštitu pružaju skeneri otiska prsta.
Opasna vožnja
Proliferacija samovozećih automobila izgleda kao neizbježna budućnost. Problem je u tome što još nisu riješena važna pitanja - na primjer, etički izbori u opasnim situacijama.
U isto vrijeme, sami testovi se provode stragične posljedice. Uber je u proljeće 2018. testirao samovozeći automobil temeljen na jednom od Volvo modela na ulicama Tempea u američkoj Arizoni. Ženu je udario i usmrtio automobil. Testiranje autopilota provedeno je sa smanjenom osjetljivošću na prepoznate opasne objekte kako bi se izbjegle lažne uzbune. Kada se prag osjetljivosti smanjio, sustav je vidio opasne objekte tamo gdje ih nije bilo.
Tesla je već zabilježio dva prometna incidenta ssmrtni slučajevi - 2016. i 2018. godine. Ozlijeđeni vozači koji su upravljali automobilima s uključenim autopilotom i nisu kontrolirali upravljanje na teškom terenu.
AI koja je ženski spol smatrala "problemom"
Amazon Corporation, zajedno s drugimaAmerički tehnološki div, jedan je od centara razvoja u području umjetne inteligencije. Tvrtka je 2017. zatvorila pilot projekt zapošljavanja zaposlenika temeljen na umjetnoj inteligenciji koji je provodila oko tri godine. Jedan od ključnih problema bila je rodna diskriminacija kandidata – algoritam je podcjenjivao kandidatkinje.
Tvrtka je to objasnila rekavši da je AI obučen na proteklih deset godina iskustva u odabiru kandidata u Amazonu, koji su bili pretežno muškarci.
U osnovi, Amazonov sustav je to naučiomuški kandidati imaju prednost nad ženama. Odbio je životopis koji je sadržavao riječ "žensko", poput "kapetanice ženskog šahovskog kluba". Prema izvorima poznatim po tom pitanju, snizio je ocjenu diplomiranih studenata dvaju ženskih fakulteta. Imena škola nisu navedena.
Bilo je i drugih komplikacija: algoritam je često davao gotovo slučajne rezultate. Zbog toga je program zatvoren.
Čitati Unaprijediti
Pogledajte teški jurišni dron koji nosi tonu oružja
Znanstvenici tri godine nisu uspjeli uloviti lisicu Rambo. Sprječava ispuštanje rijetkih životinja u šumu
Svemirski brod udaljen nekoliko kilometara: sve što se zna o novom kineskom projektu
Telefon za psihološku pomoć (linija za pomoć): 8 (800) 333-44-34. Pozivi su besplatni u cijeloj Rusiji.