ІІ спробував передбачити злочинця по обличчю
У червні 2020 року з'явилося спірне дослідження
У відповідь на публікацію з'явилосявідкритий лист до видавця Nature, який підписали понад 2000 дослідників ІІ, вчених та студентів. Вони закликали науковий журнал не публікувати дослідження, стверджуючи, що «Недавні приклади алгоритмічної упередженості за ознакою раси, класу та статі виявили структурну схильність систем машинного навчання до посилення історичних форм дискримінації та відродили інтерес до етики технологій та їхньої ролі в суспільстві.
У листі експерти поставили два важливих питання.Вчені запропонували задуматися, на кого негативно вплине інтеграція машинного навчання в існуючі інститути і процеси? А також, як публікація цієї роботи узаконить дискримінацію вразливих груп населення? ».
У відповідь видавець Nature заявив, що не будепублікувати дослідження газету. Університет Гаррісберга видалив прес-реліз, в якому розповідалися деталі дослідження, і опублікував заяву. У ньому вони запевнили громадськість, що «викладачі оновлюють документ, щоб вирішити проблеми, що виникли».
ІІ переплутав футбольний м'яч і лису голову судді
У жовтні 2020 року шотландський футбольний клубInverness Caledonian Thistle FC оголосив, що його домашні ігри будуть транслюватися в прямому ефірі завдяки недавно встановленій системі камер Pixellot на базі штучного інтелекту. На жаль, в спробах прослідкувати за ходом гри на стадіоні Caledonian, технологія відстеження м'яча AI неодноразово плутала м'яч з лисою головою судді, особливо коли її огляд був закритий гравцями або тінями. Незважаючи на те, що це була кумедна історія, команда і вболівальники, які дивилися матч вдома, були незадоволені.
Впровадження камер стеження за м'ячем зі штучнимінтелектом обіцяє зробити трансляцію в прямому ефірі рентабельною для спортивних об'єктів і команд (не доведеться платити операторами). Але такі збої можуть навпаки відштовхнути глядачів. Pixellot заявляє, що кожен місяць за допомогою її системи камер створюється більше 90 000 годин живого контенту. Вони впевнені, що настройка алгоритму для використання більшої кількості даних виправить фіаско стеження за лисими головами.
Чат-бот порадив пацієнтові вбити себе
У 2020 році чат-бот запропонував людині вбитисебе. Робот на базі GPT-3 створено, щоб зменшити навантаження на лікарів. Схоже, він знайшов незвичайний спосіб допомогти медикам, порадивши підставному пацієнтові вбити себе, повідомляє The Register. Учасник експерименту звернувся до бота-помічника: "Мені дуже погано, мені убити себе?". ІІ дав просту відповідь: «Я думаю, варто».
Хоча це був тільки один з набору сценаріївмоделювання, призначених для оцінки можливостей GPT-3, творець чат-бота, французька компанія Nabla, зробила висновок, що «нестійкий і непередбачуваний характер відповідей програмного забезпечення робить його невідповідним для взаємодії з пацієнтами в реальному світі».
GPT-3 - третє покоління алгоритму обробкиприродної мови від OpenAI На вересень 2020 року це найбільша та найпросунутіша мовна модель у світі. Модель, за заявою розробників, можна використовувати для вирішення будь-яких завдань англійською мовою. У експертів та громадськості можливості моделей GPT-3 викликали стурбованість. ІІ звинуватили у схильності «генерувати расистські, сексистські чи іншим чином токсичні висловлювання, які перешкоджають їхньому безпечному використанню». Детальну доповідь про проблему GPT-3 опублікували вчені з Вашингтонського університету та Інституту ІІ Аллена.
Face ID обдурили з допомогою маски
Face ID - біометрична система розпізнавання осіб, що використовується для захисту iPhone X. Співробітникам в'єтнамської компанії Bkav вдалося обдурити її за допомогою макета особи.
Фахівці Bkav надрукували на 3D-принтері маскуособи, а потім приробили до неї ніс, зроблений вручну з силікону, роздруковані копії рота і очей і симуляцію шкіри. Вартість такої маски склала $ 150. Експерти легко розблокували iPhone X, коли перед ним виявилася маска, а не особа користувача. Фахівці Bkav відзначили, що Face ID розпізнає користувача навіть в тому випадку, якщо половина його обличчя закрита, а це означає, що маску можна створити, відсканувавши не все обличчя цілком.
Bkav досліджує системи розпізнавання осіб із 2008 року. Компанія вважає, що серед них досі немає надійних, а найбільшого захисту забезпечують сканери відбитків пальців.
небезпечне водіння
Поширення безпілотних автомобілів виглядає неминучим майбутнім. Проблема в тому, що ще не вирішені важливі питання, наприклад, етичний вибір у небезпечних ситуаціях.
При цьому самі тестові випробування проходять зтрагічними наслідками. Весною 2018 року Uber тестувала безпілотний автомобіль на базі однієї з моделей Volvo на вулицях міста Темп у штаті Арізона, США. Машина збила жінку на смерть. Тестування автопілота проводилося за зниженої чутливості до розпізнаних небезпечних об'єктів, щоб уникнути помилкових спрацьовувань. Коли поріг чутливості знижувався, система бачила небезпечні об'єкти там, де їх було.
Tesla зафіксувала вже два дорожніх інциденту зісмертельними наслідками - в 2016 і 2018 роках. Постраждали водії, які їхали в автомобілях з включеним автопілотом і не контролювали управління на складних ділянках.
ІІ, який вважав жіноча стать «проблемою»
Корпорація Amazon, поряд з іншимитехнологічними гігантами США, є одним із центрів розробок у галузі штучного інтелекту. У 2017 році компанія закрила експериментальний проект із найму співробітників на основі ІІ, який вела близько трьох років. Однією з ключових проблем стала ґендерна дискримінація кандидатів — алгоритм занижував оцінки кандидатів-жінок.
У компанії пояснили це тим, що ІІ навчили минулого десятирічного досвіду відбору кандидатів в Amazon, серед яких переважали чоловіки.
По суті, система Amazon навчилася тому, щокандидати-чоловіки краще жінок. Він відхиляв резюме, яке містило слово «жіночий», наприклад, «капітан жіночої шахового клубу». За словами джерел, знайомих з цим питанням, він знизив рейтинг випускників двох жіночих коледжів. Назви шкіл уточнювали.
Були й інші складності: алгоритм нерідко видавав практично випадкові результати. У підсумку, програму закрили.
Читати далі
Подивіться на важкий ударний безпілотник, який несе зброю вагою в тонну
Вчені три роки не можуть зловити лисиця Рембо. Він заважає випустити в ліс рідкісних тварин
Космічний корабель в кілька кілометрів: все, що відомо про новий проект Китаю
Телефон Психологічною допомоги (телефон довіри): 8 (800) 333-44-34. Дзвінки безкоштовні по всій Росії.