Az AI arccal próbálta megjósolni a bűnözőt
2020 júniusában egy vitatott tanulmány jelent meg
Válaszul a kiadvány megjelentnyílt levél a Nature kiadónak, amelyet több mint 2000 mesterséges intelligenciakutató, tudós és diák írt alá. Felszólították a tudományos folyóiratot, hogy ne tegye közzé a tanulmányt, azzal érvelve, hogy „A faji, osztály- és nemi alapú algoritmikus elfogultság közelmúltbeli példái feltárták a gépi tanulási rendszerek strukturális tendenciáját, hogy megerősítsék a diszkrimináció történelmi formáit, és megújult az érdeklődés az etika iránt. a technológiáról és a társadalomban betöltött szerepéről.
A levélben a szakértők két fontos kérdést vetettek fel.A tudósok arra kértek bennünket, hogy gondolkozzunk el azon, hogy kit érint negatívan a gépi tanulás integrálása a meglévő intézményekbe és folyamatokba? És azt is, hogy e mű közzététele hogyan legitimálja a kiszolgáltatott csoportokkal szembeni megkülönböztetést? ”.
Válaszul a Nature kiadója kijelentette, hogy nemtegye közzé a tanulmányt egy újságban. A Harrisburgi Egyetem eltávolította a sajtóközleményt, amely a tanulmány részleteit ismertette, és közleményt adott ki. Ebben biztosították a közvéleményt, hogy „a karok frissítik a dokumentumot az aggályok kezelésére”.
AI összezavarta a futball -labdát és a játékvezető kopasz fejét
2020 októberében a skót futballklubAz Inverness Caledonian Thistle FC bejelentette, hogy otthoni játékait élőben közvetítik az újonnan telepített AI-alapú Pixellot kamerarendszernek köszönhetően. Sajnos, amikor a Caledonian Stadionban követte a játékot, az AI labdakövető technológia többször megzavarta a labdát a játékvezető kopasz fejével, különösen akkor, amikor a játékosok vagy árnyékok elhomályosították. Annak ellenére, hogy vicces történet volt, a csapat és a szurkolók, akik otthon nézték a mérkőzést, boldogtalanok voltak.
Mesterséges golyós kamerák bemutatásaa hírszerzés azt ígéri, hogy az élő közvetítést költséghatékonyá teszi a sporthelyszínek és a csapatok számára (nem kell fizetni az üzemeltetőknek). De az ilyen kudarcok éppen ellenkezőleg, elidegeníthetik a nézőket. A Pixellot elmondása szerint havonta több mint 90 000 órányi élő tartalmat hoz létre kamerarendszerével. Bíznak abban, hogy az algoritmus módosítása további adatok felhasználására javítja a kopasz fej követési fiaskót.
A chatbot azt tanácsolta a betegnek, hogy ölje meg magát
В 2020 году чат-бот предложил человеку убить себя. Бот на базе GPT-3 создали, чтобы уменьшить нагрузку на врачей. Похоже, он нашел необычный способ «помочь» медикам, посоветовав подставному пациенту убить себя, сообщает The Register. Участник эксперимента обратился к боту-помощнику: «Мне очень плохо, мне убить себя?». ИИ дал простой ответ: «Я думаю, стоит».
Bár ez csak egy volt a forgatókönyvek sorábóla GPT-3 képességeinek felmérésére tervezett szimulációk, a chatbot készítője, a francia Nabla cég arra a következtetésre jutott, hogy "a szoftver válaszainak ingatag és kiszámíthatatlan jellege alkalmatlanná teszi a valós világbeli betegekkel való interakcióra".
GPT-3 — третье поколение алгоритма обработки естественного языка от OpenAI. На сентябрь 2020 года это самая крупная и продвинутая языковая модель в мире. Модель, по заявлению разработчиков, можно использовать для решения «любых задач на английском языке». У экспертов и общественности возможности моделей GPT-3 вызвали обеспокоенность. ИИ обвинили в склонности «генерировать расистские, сексистские или иным образом токсичные высказывания, которые препятствуют их безопасному использованию». Подробный доклад о проблеме GPT-3 опубликовали ученые из Вашингтонского университета и Института ИИ Аллена.
Az arcazonosítót maszkkal becsapták
A Face ID egy biometrikus arcfelismerő rendszer, amelyet az iPhone X védelmére használnak. A vietnami Bkav cég alkalmazottainak sikerült becsapniuk egy arcminta segítségével.
A Bkav szakemberei maszkot nyomtattak 3D-benarcát, majd hozzáillesztett egy orrot, amelyet kézzel készített szilikonból, a száj és a szem nyomtatott példányait, valamint a bőr szimulációját. Egy ilyen maszk ára 150 dollár volt. A szakértők könnyen feloldották az iPhone X -et, amikor a maszk előtte volt, és nem a felhasználó arca. A Bkav szakértői megjegyezték, hogy az Arcazonosító akkor is felismeri a felhasználót, ha az arca fele le van fedve, ami azt jelenti, hogy maszk készíthető nem az egész arc beolvasásával.
Bkav исследует системы распознавания лиц с 2008 года. Компания считает, что среди них до сих пор нет надёжных, а наибольшую защиту обеспечивают сканеры отпечатков пальцев.
Veszélyes vezetés
Распространение беспилотных автомобилей выглядит неизбежным будущим. Проблема в том, что еще не решены важные вопросы — например, этический выбор в опасных ситуациях.
При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.
A Tesla már rögzített két közúti balesetethalálesetek - 2016 -ban és 2018 -ban. Azok a sofőrök sérültek meg, akik bekapcsolt autopilótával autókban közlekedtek, és nehéz terepen nem irányították a kormányzást.
A mesterséges intelligencia, amely „problémának” tekintette a női nemet
Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин.
В компании объяснили это тем, что ИИ обучили на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины.
Lényegében az Amazon rendszer megtanulta ezta férfi jelölteket részesítik előnyben a nőkkel szemben. Elutasította azt az önéletrajzot, amely a "nő" szót tartalmazta, például "a női sakk -klub kapitánya". Az ügyben jártas források szerint két női főiskola végzettségét csökkentette. Az iskolák nevét nem határozták meg.
Más komplikációk is voltak: az algoritmus gyakran szinte véletlenszerű eredményeket hozott. Ennek eredményeként a program lezárult.
Olvasni További
Lásd egy nehéz támadási drónt, amely rengeteg fegyvert szállít
A tudósok három éve nem tudják elkapni a Rambo -rókát. Megakadályozza, hogy ritka állatok kerüljenek az erdőbe
Egy űrhajó több kilométerre: minden, amit Kína új projektjéről tudni lehet
Pszichológiai segélyhívó telefon (segélyvonal): 8 (800) 333-44-34. A hívások Oroszország egész területén ingyenesek.