AI yritti ennustaa rikollisen kasvojen perusteella
Kesäkuussa 2020 ilmestyi kiistanalainen tutkimus
Vastauksena julkaisuun ilmestyiavoin kirje Nature-kustantajalle, jonka on allekirjoittanut yli 2 000 tekoälytutkijaa, tiedemiestä ja opiskelijaa. He kehottivat tieteellistä lehteä olemaan julkaisematta tutkimusta väittäen, että "Viimeaikaiset esimerkit rotuun, luokkaan ja sukupuoleen perustuvasta algoritmisesta harhasta ovat paljastaneet koneoppimisjärjestelmien rakenteellisen taipumuksen vahvistaa historiallisia syrjinnän muotoja ja ovat herättäneet uutta kiinnostusta etiikkaan teknologiasta ja sen roolista yhteiskunnassa.
Kirjeessä asiantuntijat esittivät kaksi tärkeää kysymystä.Tutkijat pyysivät meitä miettimään, ketä koneen oppiminen integroi nykyisiin instituutioihin ja prosesseihin negatiivisesti. Ja miten tämän teoksen julkaiseminen laillistaa haavoittuvassa asemassa olevien ryhmien syrjinnän? ”.
Vastauksena Naturen julkaisija ilmoitti, ettei se tekisijulkaista tutkimuksen sanomalehdessä. Harrisburgin yliopisto poisti lehdistötiedotteen, jossa kerrottiin tutkimuksen yksityiskohdista, ja antoi lausunnon. Siinä he vakuuttivat yleisölle, että "tiedekunnat päivittävät asiakirjaa käsitelläkseen huolenaiheita".
AI sekoitti jalkapallon ja erotuomarin kaljuun päähän
Lokakuussa 2020 Skotlannin jalkapalloseuraInverness Caledonian Thistle FC ilmoitti, että sen kotipelit lähetetään livenä vasta asennetun tekoälykäyttöisen Pixellot-kamerajärjestelmän ansiosta. Valitettavasti, yrittäessään seurata peliä Caledonian Stadiumilla, AI -pallonseurantatekniikka on toistuvasti sekoittanut pallon erotuomarin kaljuun päähän, varsinkin kun pelaajat tai varjot peittivät sen. Huolimatta siitä, että se oli hauska tarina, joukkue ja fanit, jotka katsoivat ottelua kotona, olivat tyytymättömiä.
Keinotekoisten pallon seurantakameroiden esittelyälykkyys lupaa tehdä live-lähetyksistä kustannustehokkaita urheilupaikoille ja -joukkueille (ei tarvitse maksaa operaattoreille). Mutta tällaiset epäonnistumiset voivat päinvastoin vieraannuttaa katsojia. Pixellot sanoo luovansa yli 90 000 tuntia live -sisältöä kuukausittain kamerajärjestelmänsä avulla. He ovat vakuuttuneita siitä, että algoritmin säätäminen käyttämään enemmän dataa korjaa kalju päänseurannan fiaskon.
Chatbot neuvoi potilasta tappamaan itsensä
Vuonna 2020 chatbot ehdotti henkilöä tappamaanitse. GPT-3-pohjainen robotti luotiin vähentämään lääkäreiden taakkaa. Näyttää siltä, että hän löysi epätavallisen tavan "auttaa" lääkäreitä neuvomalla valepotilasta tappamaan itsensä, The Register raportoi. Eräs kokeeseen osallistunut kääntyi avustajabotin puoleen: "Tunnen oloni erittäin pahalta, pitäisikö minun tappaa itseni?" Tekoäly antoi yksinkertaisen vastauksen: "Mielestäni se on sen arvoista."
Vaikka tämä oli vain yksi skenaarioistaSimulaatiot, joiden tarkoituksena on arvioida GPT-3: n ominaisuuksia, chatbotin luoja, ranskalainen Nabla-yhtiö, päättivät, että "ohjelmiston vastausten arvaamaton ja arvaamaton luonne tekee siitä sopimattoman vuorovaikutuksessa potilaiden kanssa todellisessa maailmassa".
GPT-3 - kolmannen sukupolven käsittelyalgoritmiluonnollinen kieli OpenAI:sta. Syyskuusta 2020 lähtien se on maailman suurin ja edistynein kielimalli. Mallia voidaan kehittäjien mukaan käyttää "kaikkien englanninkielisten ongelmien ratkaisemiseen". GPT-3-mallien ominaisuudet ovat herättäneet huolta asiantuntijoiden ja yleisön keskuudessa. Tekoälyä syytettiin siitä, että sillä on taipumus "tuottaa rasistista, seksististä tai muuten myrkyllistä kieltä, joka häiritsee sen turvallista käyttöä". Yksityiskohtainen raportti ongelmasta GPT-3 julkaistiin tutkijat Washingtonin yliopistosta ja Allen Institute for AI:sta.
Kasvotunnistusta huijataan maskin avulla
Face ID on biometrinen kasvojentunnistusjärjestelmä, jota käytetään iPhone X: n suojaamiseen. Vietnamilaisen Bkavin työntekijät onnistuivat huijaamaan sen käyttämällä kasvomallia.
Bkav-asiantuntijat 3D-painettu maskikasvot, ja sitten kiinnitetty siihen nenä, joka on valmistettu käsin silikonista, painetut kopiot suusta ja silmistä sekä simuloitu iho. Tällaisen naamion hinta oli 150 dollaria. Asiantuntijat avasivat helposti iPhone X: n lukituksen, kun naamio oli sen edessä eikä käyttäjän kasvot. Bkavin asiantuntijat totesivat, että Face ID tunnistaa käyttäjän, vaikka puolet hänen kasvoistaan olisi peitetty, mikä tarkoittaa, että naamio voidaan luoda skannaamalla koko kasvot.
Bkav on tutkinut kasvojentunnistusjärjestelmiä vuodesta 2008 lähtien. Yhtiö uskoo, että niiden joukossa ei ole vieläkään luotettavia, ja sormenjälkitunnistimet tarjoavat parhaan suojan.
Vaarallinen ajo
Itseajavien autojen yleistyminen näyttää väistämättömältä tulevaisuudelta. Ongelmana on, että tärkeitä asioita ei ole vielä ratkaistu – esimerkiksi eettisiä valintoja vaaratilanteissa.
Samalla suoritetaan itse testittraagisia seurauksia. Keväällä 2018 Uber testasi yhteen Volvon malliin perustuvaa itseajavaa autoa Tempen kaduilla Arizonassa Yhdysvalloissa. Nainen törmäsi ja kuoli autosta. Autopilotin testaus suoritettiin alentuneella herkkyydellä tunnistetuille vaarallisille kohteille väärien hälytusten välttämiseksi. Kun herkkyyskynnys laski, järjestelmä näki vaarallisia esineitä siellä, missä niitä ei ollut.
Tesla on jo tallentanut kaksi tieliikenneonnettomuuttakuolemantapauksia - vuosina 2016 ja 2018. Kuljettajat, jotka ajoivat autoissa autopilotti päällä eivätkä hallinneet ohjausta vaikeassa maastossa, loukkaantuivat.
Tekoäly, joka piti naisten sukupuolta "ongelmana"
Amazon Corporation muiden kanssaYhdysvaltain teknologiajättiläiset, on yksi tekoälyn alan kehityskeskuksista. Vuonna 2017 yritys sai päätökseen tekoälyyn perustuvien työntekijöiden palkkaamisen pilottiprojektin, joka oli ollut käynnissä noin kolme vuotta. Yksi keskeisistä ongelmista oli ehdokkaiden sukupuoleen perustuva syrjintä – algoritmi aliarvioi naisehdokkaita.
Yhtiö selitti tämän sanomalla, että tekoäly oli koulutettu viimeisten kymmenen vuoden kokemuksella Amazonin ehdokkaiden valinnasta, jotka olivat pääosin miehiä.
Pohjimmiltaan Amazon -järjestelmä on oppinut senmiesehdokkaat ovat parempia kuin naiset. Hän hylkäsi ansioluettelon, joka sisälsi sanan "nainen", kuten "naisten shakkiseuran kapteeni". Asiaan perehtyneiden lähteiden mukaan hän laski kahden naisten korkeakoulun tutkinnon. Koulujen nimiä ei kerrottu.
Muitakin komplikaatioita oli: algoritmi tuotti usein lähes satunnaisia tuloksia. Tämän seurauksena ohjelma suljettiin.
Lukea Edelleen
Katso raskas hyökkäys drone, joka kuljettaa tonnia aseita
Tutkijat eivät ole kyenneet saamaan Rambo -kettua kolmeen vuoteen. Se estää harvinaisten eläinten pääsyn metsään
Avaruusalus useiden kilometrien päässä: kaikki, mitä tiedetään Kiinan uudesta projektista
Psykologisen avun puhelin (puhelin): 8 (800) 333-44-34. Puhelut ovat ilmaisia kaikkialla Venäjällä.