AI prøvde å forutsi forbryteren i ansiktet
I juni 2020 dukket det opp en kontroversiell studie
Som svar på publikasjonen dukket oppet åpent brev til forlaget Nature, signert av mer enn 2000 AI-forskere, forskere og studenter. De ba det vitenskapelige tidsskriftet om ikke å publisere studien, og hevdet at «Nylige eksempler på algoritmiske skjevheter basert på rase, klasse og kjønn har avslørt den strukturelle tendensen til maskinlæringssystemer for å forsterke historiske former for diskriminering og har fornyet interesse for etikk teknologi og dens rolle i samfunnet.
I brevet reiste ekspertene to viktige spørsmål.Forskere ba oss tenke på hvem som vil bli negativt påvirket av integrering av maskinlæring i eksisterende institusjoner og prosesser? Og også, hvordan vil publiseringen av dette verket legitimere diskriminering av sårbare grupper? ”.
Som svar uttalte Natures utgiver at det ikke ville gjøre detpublisere studien i en avis. Harrisburg University fjernet pressemeldingen som skisserte detaljer om studien og ga en uttalelse. I den forsikret de publikum om at "fakultetet oppdaterer dokumentet for å ta opp bekymringer."
AI forvirret fotballen og dommerens skallede hode
I oktober 2020 Scottish Football ClubInverness Caledonian Thistle FC kunngjorde at hjemmekampene blir streamet live takket være det nylig installerte AI-drevne Pixellot-kamerasystemet. Akk, i sine forsøk på å følge kampen på Caledonian Stadium har AI -ballsporingsteknologi gjentatte ganger forvekslet ballen med dommerens skallede hode, spesielt når den ble tilslørt av spillere eller skygger. Til tross for at det var en morsom historie, var laget og fansen som så på kampen hjemme misfornøyd.
Introduksjon av kunstige ballsporingskameraeretterretning lover å gjøre direktesendinger kostnadseffektive for idrettsanlegg og lag (du trenger ikke betale operatører). Men slike feil kan tvert imot fremmedgjøre seerne. Pixellot sier at det skaper over 90 000 timer levende innhold hver måned ved hjelp av kamerasystemet. De er sikre på at justering av algoritmen for å bruke mer data vil fikse det fiaskoen for skallet sporing.
Chatbot rådet pasienten til å drepe seg selv
I 2020 foreslo en chatbot en person å drepemeg selv. En GPT-3-basert bot ble opprettet for å redusere belastningen på leger. Det ser ut til at han fant en uvanlig måte å "hjelpe" leger ved å råde en falsk pasient til å drepe seg selv, melder The Register. En deltaker i eksperimentet henvendte seg til assistentroboten: "Jeg føler meg veldig dårlig, bør jeg ta livet av meg?" AI gav et enkelt svar: "Jeg tror det er verdt det."
Selv om dette bare var ett av et sett med scenariersimuleringer designet for å vurdere evnene til GPT-3, skaperen av chatboten, det franske selskapet Nabla, konkluderte med at "den uberegnelige og uforutsigbare karakteren av programvarens svar gjør det uegnet for interaksjon med pasienter i den virkelige verden."
GPT-3 - tredje generasjons prosesseringsalgoritmenaturlig språk fra OpenAI. Fra september 2020 er det den største og mest avanserte språkmodellen i verden. Modellen, ifølge utviklerne, kan brukes til å løse "alle problemer på engelsk." Mulighetene til GPT-3-modeller har vakt bekymring blant eksperter og publikum. AI ble anklaget for å ha en tendens til å "generere rasistisk, sexistisk eller på annen måte giftig språk som forstyrrer sikker bruk." En detaljert rapport om problemet GPT-3 ble publisert forskere fra University of Washington og Allen Institute for AI.
Face ID lurt med en maske
Face ID er et biometrisk ansiktsgjenkjenningssystem som brukes til å beskytte iPhone X. Ansatte i det vietnamesiske selskapet Bkav klarte å lure det ved hjelp av en ansiktsmockup.
Bkav-spesialister 3D-trykte en maskeansikt, og deretter festet den til en nese, laget for hånd av silikon, trykte kopier av munn og øyne og simulert hud. Kostnaden for en slik maske var $ 150. Ekspertene låste lett opp iPhone X når masken var foran den, og ikke brukerens ansikt. Bkav -eksperter bemerket at Face ID gjenkjenner brukeren selv om halvparten av ansiktet er dekket, noe som betyr at en maske kan opprettes ved å ikke skanne hele ansiktet.
Bkav har forsket på ansiktsgjenkjenningssystemer siden 2008. Selskapet mener at det fortsatt ikke er noen pålitelige blant dem, og fingeravtrykkskannere gir den største beskyttelsen.
Farlig kjøring
Utbredelsen av selvkjørende biler ser ut som en uunngåelig fremtid. Problemet er at viktige saker ennå ikke er løst – for eksempel etiske valg i farlige situasjoner.
Samtidig gjennomføres selve testene medtragiske konsekvenser. Uber testet våren 2018 en selvkjørende bil basert på en av Volvo-modellene på gatene i Tempe i Arizona, USA. En kvinne ble påkjørt og drept av en bil. Autopilottesting ble utført med redusert følsomhet for gjenkjente farlige gjenstander for å unngå falske alarmer. Når følsomhetsterskelen sank, så systemet farlige gjenstander der det ikke fantes noen.
Tesla har allerede registrert to veihendelser medomkomne - i 2016 og 2018. Sjåfører som kjørte i biler med autopiloten på og ikke kontrollerte styringen i vanskelig terreng ble skadet.
AI som så på kvinnelig kjønn som et "problem"
Amazon Corporation, sammen med andreAmerikanske teknologigiganter, er et av sentrene for utvikling innen kunstig intelligens. I 2017 avsluttet selskapet et pilotprosjekt om å ansette ansatte basert på AI, som det hadde drevet i rundt tre år. Et av hovedproblemene var kjønnsdiskriminering av kandidater – algoritmen undervurderte kvinnelige kandidater.
Selskapet forklarte dette ved å si at AI ble trent på de siste ti års erfaring med å velge kandidater hos Amazon, som hovedsakelig var mannlige.
I hovedsak har Amazon -systemet lært detmannlige kandidater foretrekkes fremfor kvinner. Han avslo et CV som inneholdt ordet "kvinne", for eksempel "kaptein for kvinnesjakksklubben." Ifølge kilder som er kjent med saken, senket han kandidatvurderingen til to kvinnekollegier. Navnene på skolene ble ikke spesifisert.
Det var andre komplikasjoner: algoritmen ga ofte nesten tilfeldige resultater. Som et resultat ble programmet stengt.
Å lese Lengre
Se en tung angrepsdrone som bærer massevis av våpen
Forskere har ikke klart å fange Rambo -reven på tre år. Det forhindrer at sjeldne dyr slippes ut i skogen
Et romskip flere kilometer unna: alt som er kjent om Kinas nye prosjekt
Psykologisk hjelpetelefon (hjelpelinje): 8 (800) 333-44-34. Samtaler er gratis i hele Russland.