AI se pokusila předpovědět zločince podle tváře
V červnu 2020 se objevila kontroverzní studie
V reakci na zveřejnění se objevilotevřený dopis vydavateli Nature, podepsaný více než 2 000 výzkumníky, vědci a studenty v oblasti umělé inteligence. Vyzvali vědecký časopis, aby studii nezveřejňoval, a tvrdili, že „Nedávné příklady algoritmického zkreslení založeného na rase, třídě a pohlaví odhalily strukturální tendenci systémů strojového učení posilovat historické formy diskriminace a obnovily zájem o etiku. technologie a její role ve společnosti.
V dopise odborníci položili dvě důležité otázky.Vědci nás požádali, abychom přemýšleli o tom, koho negativně ovlivní integrace strojového učení do stávajících institucí a procesů? A také, jak vydání této práce legitimizuje diskriminaci zranitelných skupin? “.
V reakci na to vydavatel Nature uvedl, že to neudělázveřejnit studii v novinách. Harrisburg University odstranila tiskovou zprávu, která nastínila podrobnosti studie, a vydala prohlášení. V něm ujistili veřejnost, že „fakulta aktualizuje dokument, aby řešila obavy“.
AI si spletla fotbalový míč a holou hlavu rozhodčího
V říjnu 2020 skotský fotbalový klubSpolečnost Inverness Caledonian Thistle FC oznámila, že její domácí hry budou streamovány živě díky nově nainstalovanému kamerovému systému Pixellot poháněnému AI. Bohužel, ve svých pokusech sledovat hru na Caledonian Stadium, technologie sledování míčů AI opakovaně zaměňovala míč s holou hlavou rozhodčího, zvláště když byl zakryt hráči nebo stíny. Navzdory skutečnosti, že šlo o zábavnou historku, tým a fanoušci, kteří zápas sledovali doma, byli nešťastní.
Zavedení kamer s umělým míčeminteligence slibuje, že bude živé vysílání nákladově efektivní pro sportoviště a týmy (není třeba platit operátorům). Ale taková selhání mohou naopak odcizit diváky. Pixellot říká, že každý měsíc vytvoří více než 90 000 hodin živého obsahu pomocí svého kamerového systému. Jsou přesvědčeni, že vylepšení algoritmu pro použití více dat opraví fiasko se sledováním plešaté hlavy.
Chatbot pacientovi doporučil, aby se zabil
V roce 2020 chatbot navrhl osobu, kterou má zabítmoje maličkost. Pro snížení zátěže lékařů byl vytvořen bot založený na GPT-3. Zdá se, že našel neobvyklý způsob, jak „pomoci“ lékařům tím, že poradil falešnému pacientovi, aby se zabil, uvádí The Register. Účastník experimentu se obrátil na pomocného robota: "Cítím se velmi špatně, měl bych se zabít?" AI dala jednoduchou odpověď: "Myslím, že to stojí za to."
Ačkoli to byl jen jeden ze souboru scénářůsimulace určené k posouzení schopností GPT-3, tvůrce chatbotu, francouzské společnosti Nabla, dospěl k závěru, že „nevyrovnaná a nepředvídatelná povaha reakcí softwaru jej činí nevhodným pro interakci s pacienty v reálném světě“.
GPT-3 - třetí generace algoritmu zpracovánípřirozený jazyk z OpenAI. Od září 2020 jde o největší a nejpokročilejší jazykový model na světě. Tento model lze podle vývojářů použít k řešení „jakéhokoli problému v angličtině“. Schopnosti modelů GPT-3 vyvolaly obavy odborníků i veřejnosti. AI byla obviněna z toho, že má tendenci „generovat rasistický, sexistický nebo jinak toxický jazyk, který narušuje její bezpečné používání“. Byla zveřejněna podrobná zpráva o problému GPT-3 vědci z University of Washington a Allen Institute for AI.
Face ID oklamané maskou
Face ID je biometrický systém rozpoznávání obličeje používaný k ochraně iPhonu X. Zaměstnancům vietnamské společnosti Bkav se ho podařilo oklamat falešným obličejem.
Specialisté Bkav vytiskli masku 3D tiskemobličej, a pak k němu připojený nos, vyrobený ručně ze silikonu, tištěné kopie úst a očí a simulovaná kůže. Cena takové masky byla 150 $. Odborníci snadno odemkli iPhone X, když před ním byla maska, a nikoli obličej uživatele. Experti Bkav poznamenali, že Face ID rozpozná uživatele, i když je zakryta polovina jeho obličeje, což znamená, že masku lze vytvořit skenováním nikoli celého obličeje.
Bkav se od roku 2008 zabývá výzkumem systémů rozpoznávání obličejů. Společnost se domnívá, že mezi nimi stále nejsou žádné spolehlivé a největší ochranu poskytují snímače otisků prstů.
Nebezpečná jízda
Rozšíření samořiditelných aut vypadá jako nevyhnutelná budoucnost. Problém je v tom, že dosud nebyly vyřešeny důležité otázky – například etické volby v nebezpečných situacích.
Současně se provádějí samotné testy stragické následky. Uber na jaře 2018 testoval v ulicích Tempe v americké Arizoně samořídící auto založené na jednom z modelů Volvo. Ženu srazilo a zabilo auto. Testování autopilota bylo prováděno se sníženou citlivostí na rozpoznané nebezpečné předměty, aby se předešlo falešným poplachům. Když se práh citlivosti snížil, systém viděl nebezpečné předměty tam, kde žádné nebyly.
Tesla již zaznamenala dva silniční incidenty súmrtí - v roce 2016 a 2018. Zranění utrpěli řidiči, kteří jeli v autech se zapnutým autopilotem a neovládající řízení v náročném terénu.
AI, která viděla ženské pohlaví jako „problém“
Amazon Corporation, spolu s dalšímiAmeričtí technologickí giganti, je jedním z center vývoje v oblasti umělé inteligence. V roce 2017 společnost uzavřela pilotní projekt najímání zaměstnanců na bázi AI, který provozovala zhruba tři roky. Jedním z klíčových problémů byla genderová diskriminace kandidátů – algoritmus podcenil kandidátky.
Společnost to vysvětlila tím, že umělá inteligence byla vyškolena na základě posledních deseti let zkušeností s výběrem kandidátů v Amazonu, což byli převážně muži.
Systém Amazon se to v podstatě naučilmužští kandidáti jsou upřednostňováni před ženami. Odmítl životopis, který obsahoval slovo „žena“, například „kapitánka ženského šachového klubu“. Podle zdrojů obeznámených se záležitostí snížil hodnocení absolventů dvou ženských vysokých škol. Názvy škol nebyly upřesněny.
Objevily se další komplikace: algoritmus často produkoval téměř náhodné výsledky. V důsledku toho byl program uzavřen.
Číst Dále
Podívejte se na těžký útočný dron, který nese tunu zbraní
Vědcům se už tři roky nepodařilo odchytit lišku Rambo. Zabraňuje vypouštění vzácných zvířat do lesa
Vesmírná loď vzdálená několik kilometrů: vše, co je o novém čínském projektu známo
Telefon psychologické pomoci (linka důvěry): 8 (800) 333-44-34. Hovory jsou po celém Rusku zdarma.