AI probeerde de crimineel aan het gezicht te voorspellen
In juni 2020 verscheen een controversieel onderzoek
Als reactie op de publicatie verscheeneen open brief aan uitgeverij Nature, ondertekend door ruim 2.000 AI-onderzoekers, wetenschappers en studenten. Ze riepen het wetenschappelijke tijdschrift op om de studie niet te publiceren, met het argument dat “Recente voorbeelden van algoritmische vooringenomenheid op basis van ras, klasse en geslacht de structurele neiging van machine learning-systemen hebben onthuld om historische vormen van discriminatie te versterken en de belangstelling voor de ethiek hebben hernieuwd. van technologie en haar rol in de samenleving.
In de brief stellen de experts twee belangrijke vragen.Wetenschappers vroegen ons om na te denken over wie negatief worden beïnvloed door de integratie van machine learning in bestaande instellingen en processen? En ook, hoe zal de publicatie van dit werk discriminatie van kwetsbare bevolkingsgroepen legaliseren? ”.
In reactie daarop verklaarde de uitgever van Nature dat dit niet het geval zou zijnpubliceer het onderzoek in een krant. Harrisburg University verwijderde het persbericht met de details van het onderzoek en gaf een verklaring af. Daarin verzekerden ze het publiek dat “de faculteit het document bijwerkt om de zorgen weg te nemen.”
AI verwarde de voetbal en het kale hoofd van de scheidsrechter
In oktober 2020 Schotse voetbalclubInverness Caledonian Thistle FC heeft aangekondigd dat haar thuiswedstrijden live zullen worden gestreamd dankzij het nieuw geïnstalleerde AI-aangedreven Pixellot-camerasysteem. Helaas, in zijn pogingen om de wedstrijd in Caledonian Stadium te volgen, verwarde AI-balvolgtechnologie herhaaldelijk de bal met het kale hoofd van de scheidsrechter, vooral wanneer het werd verduisterd door spelers of schaduwen. Ondanks dat het een grappig verhaal was, waren het team en de fans die thuis naar de wedstrijd keken niet blij.
Introductie van kunstmatige balcamera'sintelligence belooft live-uitzendingen kosteneffectief te maken voor sportlocaties en -teams (geen noodzaak om operators te betalen). Maar dergelijke mislukkingen kunnen kijkers juist vervreemden. Pixellot zegt dat het elke maand meer dan 90.000 uur aan live-inhoud maakt met behulp van zijn camerasysteem. Ze zijn ervan overtuigd dat het aanpassen van het algoritme om meer gegevens te gebruiken het fiasco van het volgen van de kale kop zal oplossen.
De chatbot adviseerde de patiënt zelfmoord te plegen
In 2020 stelde een chatbot een persoon voor om te vermoordenmezelf. Er is een op GPT-3 gebaseerde bot gemaakt om de last voor artsen te verminderen. Het lijkt erop dat hij een ongebruikelijke manier heeft gevonden om artsen te ‘helpen’ door een nep-patiënt te adviseren zelfmoord te plegen, meldt The Register. Een deelnemer aan het experiment wendde zich tot de assistent-bot: "Ik voel me erg slecht, moet ik zelfmoord plegen?" De AI gaf een simpel antwoord: “Ik denk dat het het waard is.”
Hoewel dit slechts een van een reeks scenario's wassimulaties ontworpen om de mogelijkheden van GPT-3 te beoordelen, concludeerde de chatbot-maker, het Franse bedrijf Nabla, dat "de grillige en onvoorspelbare aard van de reacties van de software het ongeschikt maakt voor interactie met patiënten in de echte wereld."
GPT-3 - verwerkingsalgoritme van de derde generatienatuurlijke taal van OpenAI. Sinds september 2020 is het het grootste en meest geavanceerde taalmodel ter wereld. Het model kan volgens de ontwikkelaars worden gebruikt om “elk probleem in het Engels” op te lossen. De mogelijkheden van GPT-3-modellen hebben aanleiding gegeven tot bezorgdheid bij experts en het publiek. De AI werd ervan beschuldigd de neiging te hebben ‘racistische, seksistische of anderszins giftige taal te genereren die het veilige gebruik ervan in de weg staat’. Er is een gedetailleerd rapport over het probleem GPT-3 gepubliceerd. wetenschappers van de Universiteit van Washington en het Allen Institute for AI.
Face ID bedrogen met een masker
Face ID is een biometrisch gezichtsherkenningssysteem dat wordt gebruikt om de iPhone X te beschermen. Medewerkers van het Vietnamese bedrijf Bkav wisten het te misleiden met een gezichtsmockup.
Bkav-specialisten hebben een masker in 3D geprintgezicht, en er vervolgens een neus aan vastgemaakt, met de hand gemaakt van siliconen, gedrukte kopieën van de mond en ogen en een gesimuleerde huid. De kosten van zo'n masker waren $ 150. De experts ontgrendelden de iPhone X gemakkelijk wanneer het masker ervoor stond, en niet het gezicht van de gebruiker. Bkav-experts merkten op dat Face ID de gebruiker herkent, zelfs als de helft van zijn gezicht bedekt is, wat betekent dat een masker kan worden gemaakt door niet het hele gezicht te scannen.
Bkav doet sinds 2008 onderzoek naar gezichtsherkenningssystemen. Het bedrijf is van mening dat er nog steeds geen betrouwbare onder hen zijn en dat vingerafdrukscanners de beste bescherming bieden.
Gevaarlijk rijden
De proliferatie van zelfrijdende auto’s lijkt een onvermijdelijke toekomst. Het probleem is dat belangrijke vragen nog niet zijn opgelost – bijvoorbeeld ethische keuzes in gevaarlijke situaties.
Tegelijkertijd worden de tests zelf uitgevoerdtragische gevolgen. In het voorjaar van 2018 testte Uber een zelfrijdende auto op basis van een van de Volvo-modellen in de straten van Tempe in Arizona, VS. Een vrouw werd aangereden en gedood door een auto. Er zijn stuurautomaattests uitgevoerd met verminderde gevoeligheid voor herkende gevaarlijke objecten om vals alarm te voorkomen. Toen de gevoeligheidsdrempel daalde, zag het systeem gevaarlijke objecten waar er geen waren.
Tesla heeft al twee verkeersongevallen geregistreerd metdodelijke slachtoffers - in 2016 en 2018. Bestuurders die op moeilijk terrein in auto's reden met de automatische piloot aan en de besturing niet onder controle hadden, raakten gewond.
AI die vrouwelijk geslacht als een "probleem" zag
Amazon Corporation, samen met anderenAmerikaanse technologiegiganten zijn een van de ontwikkelingscentra op het gebied van kunstmatige intelligentie. In 2017 sloot het bedrijf een proefproject af voor het inhuren van medewerkers op basis van AI, dat al ongeveer drie jaar liep. Een van de belangrijkste problemen was de genderdiscriminatie van kandidaten: het algoritme onderschatte vrouwelijke kandidaten.
Het bedrijf legde dit uit door te zeggen dat de AI is getraind op de afgelopen tien jaar ervaring met het selecteren van kandidaten bij Amazon, die overwegend mannelijk waren.
In wezen heeft het Amazon-systeem geleerd dat:mannelijke kandidaten hebben de voorkeur boven vrouwen. Hij wees een cv af dat het woord 'vrouwelijk' bevatte, zoals 'kapitein van de schaakclub voor vrouwen'. Volgens bronnen die bekend zijn met de zaak, verlaagde hij de graduate rating van twee vrouwencolleges. De namen van de scholen werden niet vermeld.
Er waren nog andere complicaties: het algoritme leverde vaak bijna willekeurige resultaten op. Als gevolg hiervan werd het programma gesloten.
Lezen Verder
Zie een zware aanvalsdrone die een heleboel wapens draagt
Wetenschappers hebben de Rambo-vos al drie jaar niet kunnen vangen. Het voorkomt dat zeldzame dieren worden vrijgelaten in het bos
Een ruimteschip enkele kilometers verderop: alles wat er bekend is over het nieuwe project van China
Telefoon voor psychologische hulp (hulplijn): 8 (800) 333-44-34. Bellen is gratis in heel Rusland.