AI forsøgte at forudsige forbryderen i ansigtet
I juni 2020 dukkede en kontroversiel undersøgelse op
Som svar på udgivelsen dukkede opet åbent brev til forlaget Nature, underskrevet af mere end 2.000 AI-forskere, videnskabsmænd og studerende. De opfordrede det videnskabelige tidsskrift til ikke at offentliggøre undersøgelsen, idet de hævdede, at “Nylige eksempler på algoritmiske skævheder baseret på race, klasse og køn har afsløret maskinlæringssystemers strukturelle tendens til at forstærke historiske former for diskrimination og har fornyet interesse for etikken. teknologi og dens rolle i samfundet.
I brevet rejste eksperterne to vigtige spørgsmål.Forskere bad os om at tænke over, hvem der vil blive negativt påvirket af integrationen af maskinlæring i eksisterende institutioner og processer? Og hvordan vil offentliggørelsen af dette værk legitimere diskrimination mod sårbare grupper? ”.
Som svar oplyste Natures udgiver, at det ikke villeoffentliggør undersøgelsen i en avis. Harrisburg University fjernede pressemeddelelsen, der skitserede detaljerne i undersøgelsen, og udsendte en erklæring. I den forsikrede de offentligheden om, at "fakultetet opdaterer dokumentet for at imødekomme bekymringer."
AI forvirrede fodbolden og dommerens skaldede hoved
I oktober 2020 Scottish Football ClubInverness Caledonian Thistle FC annoncerede, at dets hjemmekampe vil blive streamet live takket være det nyinstallerede AI-drevne Pixellot-kamerasystem. Ak, i sine forsøg på at følge spillet på Caledonian Stadium har AI -boldsporingsteknologi gentagne gange forvekslet bolden med dommerens skaldede hoved, især når den blev tilsløret af spillere eller skygger. På trods af at det var en sjov historie, var holdet og fansene, der så kampen hjemme, utilfredse.
Introduktion af kunstige kuglesporingskameraerefterretningstjenester lover at gøre live-udsendelser omkostningseffektive for sportssteder og hold (ingen grund til at betale operatører). Men sådanne fiaskoer kan tværtimod fremmedgøre seerne. Pixellot siger, at det skaber over 90.000 timers liveindhold hver måned ved hjælp af sit kamerasystem. De er overbeviste om, at tilpasning af algoritmen til at bruge flere data vil løse det skaldede hovedsporingsfiasko.
Chatbot rådede patienten til at dræbe sig selv
I 2020 foreslog en chatbot en person at dræbemig selv. En GPT-3-baseret bot blev oprettet for at reducere byrden for læger. Det ser ud til, at han fandt en usædvanlig måde at "hjælpe" læger ved at råde en falsk patient til at dræbe sig selv, rapporterer The Register. En deltager i eksperimentet henvendte sig til assistentboten: "Jeg har det meget dårligt, skal jeg dræbe mig selv?" AI gav et enkelt svar: "Jeg synes, det er det værd."
Selvom dette kun var et af et sæt scenariersimuleringer designet til at vurdere kapaciteterne hos GPT-3, skaberen af chatboten, det franske firma Nabla, konkluderede, at "den uberegnelige og uforudsigelige karakter af softwarens svar gør det uegnet til at interagere med patienter i den virkelige verden."
GPT-3 - tredje generation af behandlingsalgoritmenaturligt sprog fra OpenAI. Fra september 2020 er det den største og mest avancerede sprogmodel i verden. Modellen kan ifølge udviklerne bruges til at løse "ethvert problem på engelsk." GPT-3-modellernes muligheder har givet anledning til bekymring blandt eksperter og offentligheden. AI blev anklaget for at have en tendens til at "generere racistisk, sexistisk eller på anden måde giftigt sprog, der forstyrrer dets sikre brug." En detaljeret rapport om problemet GPT-3 blev offentliggjort forskere fra University of Washington og Allen Institute for AI.
Face ID narret med en maske
Face ID er et biometrisk ansigtsgenkendelsessystem, der bruges til at beskytte iPhone X. Medarbejdere i det vietnamesiske firma Bkav formåede at narre det ved hjælp af en ansigtsmockup.
Bkav-specialister 3D-printede en maskeansigt, og derefter fastgjort til det en næse, lavet i hånden af silikone, trykte kopier af mund og øjne og simuleret hud. Omkostningerne ved en sådan maske var $ 150. Eksperterne låste let iPhone X op, når masken var foran den, og ikke brugerens ansigt. Bkav -eksperter bemærkede, at Face ID genkender brugeren, selvom halvdelen af hans ansigt er dækket, hvilket betyder, at en maske kan oprettes ved ikke at scanne hele ansigtet.
Bkav har forsket i ansigtsgenkendelsessystemer siden 2008. Virksomheden mener, at der stadig ikke er nogen pålidelige blandt dem, og fingeraftryksscannere giver den største beskyttelse.
Farlig kørsel
Udbredelsen af selvkørende biler ligner en uundgåelig fremtid. Problemet er, at vigtige spørgsmål endnu ikke er løst – for eksempel etiske valg i farlige situationer.
Samtidig udføres selve testene medtragiske konsekvenser. I foråret 2018 testede Uber en selvkørende bil baseret på en af Volvo-modellerne på gaderne i Tempe i Arizona, USA. En kvinde blev ramt og dræbt af en bil. Autopilottest blev udført med reduceret følsomhed over for genkendte farlige genstande for at undgå falske alarmer. Da følsomhedstærsklen faldt, så systemet farlige genstande, hvor der ikke var nogen.
Tesla har allerede registreret to vejhændelser meddødsfald - i 2016 og 2018. Chauffører, der kørte i biler med autopiloten på og ikke kunne styre styringen i vanskeligt terræn, blev kvæstet.
AI, der så kvindelig køn som et "problem"
Amazon Corporation, sammen med andreAmerikanske teknologigiganter, er et af udviklingscentrene inden for kunstig intelligens. I 2017 lukkede virksomheden et pilotprojekt om ansættelse af medarbejdere baseret på AI, som det havde kørt i omkring tre år. Et af hovedproblemerne var kønsdiskrimination af kandidater - algoritmen undervurderede kvindelige kandidater.
Virksomheden forklarede dette ved at sige, at AI blev trænet på de seneste ti års erfaring med at udvælge kandidater hos Amazon, som overvejende var mænd.
I det væsentlige har Amazon -systemet lært detmandlige kandidater foretrækkes frem for kvinder. Han afslog et CV, der indeholdt ordet "kvinde", såsom "kaptajn for kvindeskaksklubben". Ifølge kilder, der kender sagen, sænkede han kandidatvurderingen af to kvindekollegier. Navnene på skolerne blev ikke angivet.
Der var andre komplikationer: algoritmen gav ofte næsten tilfældige resultater. Som et resultat blev programmet lukket.
At læse Yderligere
Se en tung angrebsdrone, der bærer masser af våben
Forskere har ikke været i stand til at fange Rambo -ræven i tre år. Det forhindrer sjældne dyr i at blive frigivet i skoven
Et rumskib flere kilometer væk: alt hvad man ved om Kinas nye projekt
Psykologisk hjælpstelefon (hjælpelinje): 8 (800) 333-44-34. Opkald er gratis i hele Rusland.