AI bandė nuspėti nusikaltėlį iš veido
2020 m. birželį pasirodė prieštaringas tyrimas
Atsakymas į publikaciją pasirodėatviras laiškas leidyklai „Nature“, kurį pasirašė daugiau nei 2000 dirbtinio intelekto tyrinėtojų, mokslininkų ir studentų. Jie paragino mokslinį žurnalą neskelbti tyrimo, teigdami, kad „Naujausi algoritminio šališkumo, pagrįsto rase, klase ir lytimi, pavyzdžiai atskleidė mašininio mokymosi sistemų struktūrinę tendenciją sustiprinti istorines diskriminacijos formas ir iš naujo domėtis etika. apie technologijas ir jų vaidmenį visuomenėje“.
Laiške ekspertai iškėlė du svarbius klausimus.Mokslininkai paprašė mūsų pagalvoti, ką neigiamai paveiks mašininio mokymosi integravimas į esamas institucijas ir procesus? Be to, kaip šio darbo paskelbimas įteisins pažeidžiamų grupių diskriminaciją?
Atsakydamas „Nature“ leidėjas pareiškė, kad to nedaryspaskelbti tyrimą laikraštyje. Harisburgo universitetas pašalino pranešimą spaudai, kuriame buvo aprašyta tyrimo detalė, ir paskelbė pareiškimą. Jame jie patikino visuomenę, kad „dėstytojai atnaujina dokumentą, kad išspręstų problemas“.
AI supainiojo futbolo kamuolį ir pliką teisėjo galvą
2020 m. Spalio mėn. Škotijos futbolo klubas„Inverness Caledonian Thistle FC“ paskelbė, kad jos namų žaidimai bus tiesiogiai transliuojami dėl naujai įdiegtos „AI“ varomos „Pixellot“ kamerų sistemos. Deja, bandydama stebėti žaidimą „Caledonian“ stadione, AI kamuolio sekimo technologija ne kartą supainiojo kamuolį su teisėjo plikąja galva, ypač kai jį užgožė žaidėjai ar šešėliai. Nepaisant to, kad tai buvo juokinga istorija, komanda ir sirgaliai, stebėję rungtynes namuose, buvo nepatenkinti.
Dirbtinių kamuoliukų kamerų pristatymasžvalgyba žada, kad tiesioginė transliacija bus rentabili sporto vietoms ir komandoms (nereikia mokėti operatoriams). Tačiau tokios nesėkmės gali, atvirkščiai, atstumti žiūrovus. „Pixellot“ sako, kad kas mėnesį sukuria daugiau nei 90 000 valandų tiesioginio turinio, naudodama savo fotoaparato sistemą. Jie įsitikinę, kad patobulinus algoritmą, kad būtų galima naudoti daugiau duomenų, bus pašalintas plikos galvos stebėjimo fiasko.
Chatbot patarė pacientui nusižudyti
2020 metais pokalbių robotas pasiūlė žmogų nužudytiaš pats. GPT-3 pagrindu sukurtas robotas buvo sukurtas siekiant sumažinti gydytojų naštą. Atrodo, kad jis rado neįprastą būdą „padėti“ gydytojams, patardamas netikram pacientui nusižudyti, praneša „The Register“. Eksperimento dalyvis kreipėsi į boto padėjėją: „Jaučiuosi labai blogai, ar turėčiau nusižudyti? AI davė paprastą atsakymą: „Manau, kad tai verta“.
Nors tai buvo tik vienas iš scenarijų rinkiniomodeliavimai, skirti įvertinti GPT-3 galimybes, „chatbot“ kūrėjas, prancūzų kompanija „Nabla“, padarė išvadą, kad „dėl nepastovaus ir nenuspėjamo programinės įrangos atsakų pobūdžio ji netinkama bendrauti su pacientais realiame pasaulyje“.
GPT-3 – trečios kartos apdorojimo algoritmasnatūrali kalba iš OpenAI. 2020 m. rugsėjo mėn. tai yra didžiausias ir pažangiausias kalbos modelis pasaulyje. Kūrėjų teigimu, modelis gali būti naudojamas „bet kokiai problemai anglų kalba išspręsti“. GPT-3 modelių galimybės sukėlė susirūpinimą ekspertams ir visuomenei. AI buvo apkaltintas polinkiu „kurti rasistinę, seksistinę ar kitaip toksišką kalbą, trukdančią saugiai naudoti“. Buvo paskelbta išsami ataskaita apie problemą GPT-3 mokslininkai iš Vašingtono universiteto ir Alleno AI instituto.
Veido ID apgautas su kauke
„Face ID“ yra biometrinė veido atpažinimo sistema, naudojama „iPhone X“ apsaugoti. Vietnamo bendrovės „Bkav“ darbuotojams pavyko jį apgauti naudojant veido maketą.
„Bkav“ specialistai 3D spausdino kaukęveidą, o tada prie jo pritvirtinta nosis, pagaminta rankomis iš silikono, atspausdintos burnos ir akių kopijos ir imituojama oda. Tokios kaukės kaina buvo 150 USD. Ekspertai lengvai atrakino „iPhone X“, kai kaukė buvo priešais ją, o ne vartotojo veidas. „Bkav“ ekspertai pažymėjo, kad „Face ID“ atpažįsta vartotoją, net jei pusė jo veido yra uždengta, o tai reiškia, kad kaukę galima sukurti nuskenavus ne visą veidą.
Bkav tiria veido atpažinimo sistemas nuo 2008 m. Bendrovė mano, kad patikimų tarp jų vis dar nėra, o pirštų atspaudų skaitytuvai suteikia didžiausią apsaugą.
Pavojingas vairavimas
Savaeigių automobilių plitimas atrodo neišvengiama ateitis. Problema ta, kad dar neišspręstos svarbios problemos – pavyzdžiui, etiniai pasirinkimai pavojingose situacijose.
Tuo pačiu metu atliekami patys bandymai sutragiškos pasekmės. 2018 metų pavasarį „Uber“ Arizonos valstijoje, JAV, Tempe gatvėse išbandė savarankiškai vairuojantį automobilį, pagamintą pagal vieną iš „Volvo“ modelių. Moteris partrenkė ir žuvo nuo automobilio. Autopiloto testavimas buvo atliktas sumažinus jautrumą atpažintiems pavojingiems objektams, kad būtų išvengta klaidingų pavojaus signalų. Sumažėjus jautrumo slenksčiui, sistema pamatė pavojingus objektus ten, kur jų nebuvo.
„Tesla“ jau užfiksavo du eismo įvykiusžuvusiųjų - 2016 ir 2018 m. Buvo sužeisti vairuotojai, kurie važiavo automobiliais su įjungtu autopilotu ir nesuvaldė vairavimo sunkioje vietovėje.
AI, kuris moterų lytį laikė „problema“
„Amazon Corporation“ kartu su kitaisJAV technologijų gigantai, yra vienas iš dirbtinio intelekto srities plėtros centrų. 2017 m. įmonė užbaigė bandomąjį DI darbuotojų samdymo projektą, kurį vykdė maždaug trejus metus. Viena iš esminių problemų buvo kandidatų diskriminacija dėl lyties – algoritmas nuvertino moterų kandidates.
Bendrovė tai paaiškino sakydama, kad dirbtinis intelektas buvo apmokytas pastarųjų dešimties metų patirties atrenkant kandidatus „Amazon“, kurie daugiausia buvo vyrai.
Iš esmės „Amazon“ sistema to išmokokandidatams vyrams teikiama pirmenybė prieš moteris. Jis atsisakė gyvenimo aprašymo, kuriame buvo žodis „moteris“, pavyzdžiui, „moterų šachmatų klubo kapitonas“. Remiantis šaltiniais, susipažinusiais su šiuo klausimu, jis sumažino dviejų moterų kolegijų absolventų reitingą. Mokyklų pavadinimai nebuvo nurodyti.
Buvo ir kitų komplikacijų: algoritmas dažnai davė beveik atsitiktinius rezultatus. Dėl to programa buvo uždaryta.
Skaityti Toliau
Pamatykite sunkų puolimo droną, gabenantį daugybę ginklų
Mokslininkams trejus metus nepavyko sugauti „Rambo“ lapės. Tai neleidžia retų gyvūnų paleisti į mišką
Erdvėlaivis už kelių kilometrų: viskas, kas žinoma apie naująjį Kinijos projektą
Psichologinės pagalbos telefonas (pagalbos linija): 8 (800) 333-44-34. Skambučiai yra nemokami visoje Rusijoje.