AI a încercat să prezică criminalul după față
În iunie 2020, a apărut un studiu controversat
Ca răspuns la publicația a apăruto scrisoare deschisă către editorul Nature, semnată de peste 2.000 de cercetători, oameni de știință și studenți AI. Ei au cerut jurnalului științific să nu publice studiul, argumentând că „Exemple recente de părtinire algoritmică bazate pe rasă, clasă și gen au dezvăluit tendința structurală a sistemelor de învățare automată de a consolida formele istorice de discriminare și au reînnoit interesul pentru etică. a tehnologiei și a rolului acesteia în societate.
În scrisoare, experții au ridicat două întrebări importante.Oamenii de știință ne-au cerut să ne gândim cine va fi afectat negativ de integrarea învățării automate în instituțiile și procesele existente? Și, de asemenea, cum va legaliza publicarea acestei lucrări discriminarea împotriva grupurilor vulnerabile ale populației? ”.
Ca răspuns, editorul Nature a declarat că nu va fi așapublica studiul într-un ziar. Universitatea Harrisburg a eliminat comunicatul de presă care prezenta detaliile studiului și a emis o declarație. În ea, ei au asigurat publicul că „facultatea actualizează documentul pentru a răspunde preocupărilor”.
AI a confundat mingea de fotbal și capul chel al arbitrului
În octombrie 2020 Clubul de fotbal scoțianInverness Caledonian Thistle FC a anunțat că jocurile sale de acasă vor fi transmise în direct datorită noului sistem de camere Pixellot alimentat de AI. Din păcate, în încercările sale de a urmări jocul pe Caledonian Stadium, tehnologia AI de urmărire a mingii a confundat în mod repetat mingea cu capul chel al arbitrului, mai ales atunci când a fost ascunsă de jucători sau de umbre. În ciuda faptului că a fost o poveste amuzantă, echipa și fanii care au urmărit meciul acasă au fost nemulțumiți.
Introducerea camerelor artificiale cu bilăserviciile de informații promit să facă difuzarea live rentabilă pentru locurile și echipele sportive (nu este nevoie să plătească operatorii). Dar astfel de eșecuri pot, dimpotrivă, să înstrăineze spectatorii. Pixellot spune că creează peste 90.000 de ore de conținut live în fiecare lună folosind sistemul său de camere. Sunt încrezători că modificarea algoritmului pentru a utiliza mai multe date va remedia fiasco-ul de urmărire a capului chel.
Chatbot-ul a sfătuit pacientul să se sinucidă
În 2020, un chatbot a sugerat o persoană să ucidăeu insumi. A fost creat un bot bazat pe GPT-3 pentru a reduce povara medicilor. Se pare că a găsit o modalitate neobișnuită de a „ajuta” medicii, sfătuind un pacient fals să se sinucidă, relatează The Register. Un participant la experiment a apelat la robotul asistent: „Mă simt foarte rău, ar trebui să mă sinucid?” AI a dat un răspuns simplu: „Cred că merită”.
Deși acesta a fost doar unul dintr-un set de scenariisimulări concepute pentru a evalua capabilitățile GPT-3, creatorul chatbot-ului, compania franceză Nabla, a concluzionat că „natura neregulată și imprevizibilă a răspunsurilor software-ului o face nepotrivită pentru interacțiunea cu pacienții din lumea reală”.
GPT-3 - a treia generație de algoritm de procesarelimbaj natural de la OpenAI. Din septembrie 2020, este cel mai mare și cel mai avansat model de limbă din lume. Modelul, potrivit dezvoltatorilor, poate fi folosit pentru a rezolva „orice problemă în limba engleză”. Capacitățile modelelor GPT-3 au stârnit îngrijorări în rândul experților și al publicului. Inteligența artificială a fost acuzată că are tendința de a „genera un limbaj rasist, sexist sau toxic în alt mod care interferează cu utilizarea sa în siguranță”. A fost publicat un raport detaliat despre problema GPT-3 oameni de știință de la Universitatea din Washington și de la Institutul Allen pentru IA.
Face ID păcălit cu o mască
Face ID este un sistem biometric de recunoaștere facială folosit pentru a proteja iPhone X. Angajații companiei vietnameze Bkav au reușit să-l păcălească folosind o machetă facială.
Specialiștii Bkav au imprimat 3D o mascăfață și apoi atașat la ea un nas, realizat manual din silicon, copii tipărite ale gurii și ochilor și piele simulată. Costul unei astfel de măști a fost de 150 USD. Experții au deblocat cu ușurință iPhone X când masca era în fața sa, și nu fața utilizatorului. Experții Bkav au menționat că Face ID recunoaște utilizatorul chiar dacă jumătate din fața sa este acoperită, ceea ce înseamnă că o mască poate fi creată prin scanarea nu a întregii fețe.
Bkav cercetează sistemele de recunoaștere facială din 2008. Compania crede că încă nu există unele de încredere printre ele, iar scanerele de amprente oferă cea mai mare protecție.
Conducere periculoasă
Proliferarea mașinilor autonome arată ca un viitor inevitabil. Problema este că problemele importante nu au fost încă rezolvate, de exemplu, alegerile etice în situații periculoase.
În același timp, testele în sine sunt efectuate cuconsecințe tragice. În primăvara lui 2018, Uber a testat pe străzile din Tempe din Arizona, SUA, o mașină cu conducere autonomă bazată pe unul dintre modelele Volvo. O femeie a fost lovită și ucisă de o mașină. Testarea pilotului automat a fost efectuată cu sensibilitate redusă la obiectele periculoase recunoscute pentru a evita alarmele false. Când pragul de sensibilitate a scăzut, sistemul a văzut obiecte periculoase acolo unde nu existau.
Tesla a înregistrat deja două incidente rutiere cudecese - în 2016 și 2018. Șoferii răniți care conduceau mașini cu pilotul automat pornit și nu controlau direcția pe teren dificil.
AI care a văzut genul feminin ca pe o „problemă”
Amazon Corporation, împreună cu alțiiGiganții tehnologici americani, este unul dintre centrele de dezvoltare în domeniul inteligenței artificiale. În 2017, compania a încheiat un proiect pilot de angajare a angajaților pe baza AI, pe care îl derula de aproximativ trei ani. Una dintre problemele cheie a fost discriminarea de gen a candidaților - algoritmul a subestimat candidații de sex feminin.
Compania a explicat acest lucru spunând că AI a fost instruit pe ultimii zece ani de experiență în selectarea candidaților la Amazon, care erau predominant bărbați.
În esență, sistemul Amazon a învățat astacandidații de sex masculin sunt preferați față de femei. A respins un CV care conținea cuvântul „femeie”, precum „căpitanul clubului de șah feminin”. Potrivit unor surse familiare cu această problemă, el a scăzut calificarea absolvenților a două colegii de femei. Numele școlilor nu au fost specificate.
Au existat și alte complicații: algoritmul a produs adesea rezultate aproape aleatorii. Ca urmare, programul a fost închis.
A citi Mai departe
Vedeți o dronă de atac greu care poartă o tonă de arme
Oamenii de știință nu au reușit să prindă vulpea Rambo de trei ani. Împiedică eliberarea animalelor rare în pădure
O navă spațială la câțiva kilometri distanță: tot ce se știe despre noul proiect al Chinei
Telefon de asistență psihologică (linie de asistență): 8 (800) 333-44-34. Apelurile sunt gratuite în toată Rusia.