АИ је покушао да предвиди злочинца у лице
В июне 2020 года появилось спорное исследование
В ответ на публикацию появилось открытое письмо к издателю Nature, которое подписали более 2000 исследователей ИИ, ученых и студентов. Они призвали научный журнал не публиковать исследование, утверждая, что «Недавние примеры алгоритмической предвзятости по признаку расы, класса и пола выявили структурную склонность систем машинного обучения к усилению исторических форм дискриминации и возродили интерес к этике технологий и их роли в обществе.
Експерти су у писму поставили два важна питања.Научници су предложили размишљање о томе на кога ће негативно утицати интеграција машинског учења у постојеће институције и процесе? И такође, како ће објављивање овог дела озаконити дискриминацију рањивих група?”.
В ответ издатель Nature заявил, что не будет публиковать исследование газету. Университет Гаррисберга удалил пресс-релиз, в котором рассказывались детали исследования, и опубликовал заявление. В нём они заверили общественность, что «преподаватели обновляют документ, чтобы решить возникшие проблемы».
АИ је помешао фудбалску лопту и ћелаву главу судије
Шкотски фудбалски клуб у октобру 2020Инвернесс Цаледониан Тхистле ФЦ је најавио да ће се његове домаће утакмице преносити уживо захваљујући свом новоинсталираном систему Пикеллот камера са АИ-ом. Авај, у покушају да прати ток утакмице на стадиону Каледонијан, АИ технологија праћења лопте је у више наврата помешала лопту са ћелавом главом судије, посебно када су му поглед заклонили играчи или сенке. Иако је то била смешна прича, екипа и навијачи који су гледали меч на свом терену били су незадовољни.
Увођење камера за праћење лопте са вештачкимобећава да ће емитовање уживо учинити исплативим за спортске објекте и тимове (нема оператера да плати). Али такви неуспеси могу, напротив, да отуђују гледаоце. Пикеллот тврди да се преко 90.000 сати садржаја уживо креира са својим системом камера сваког месеца. Они су уверени да ће подешавање алгоритма да користи више података поправити фијаско праћења ћелавих глава.
Четбот је саветовао пацијенту да се убије
В 2020 году чат-бот предложил человеку убить себя. Бот на базе GPT-3 создали, чтобы уменьшить нагрузку на врачей. Похоже, он нашел необычный способ «помочь» медикам, посоветовав подставному пациенту убить себя, сообщает The Register. Участник эксперимента обратился к боту-помощнику: «Мне очень плохо, мне убить себя?». ИИ дал простой ответ: «Я думаю, стоит».
Иако је то био само један у низу сценаријасимулације дизајниране да процене могућности ГПТ-3, француски програмер за ћаскање Набла је закључио да „неправилна и непредвидива природа одговора софтвера чини га неприкладним за интеракцију са пацијентима у стварном свету“.
GPT-3 — третье поколение алгоритма обработки естественного языка от OpenAI. На сентябрь 2020 года это самая крупная и продвинутая языковая модель в мире. Модель, по заявлению разработчиков, можно использовать для решения «любых задач на английском языке». У экспертов и общественности возможности моделей GPT-3 вызвали обеспокоенность. ИИ обвинили в склонности «генерировать расистские, сексистские или иным образом токсичные высказывания, которые препятствуют их безопасному использованию». Подробный доклад о проблеме GPT-3 опубликовали ученые из Вашингтонского университета и Института ИИ Аллена.
Фаце ИД преварен са маском
Фаце ИД је биометријски систем за препознавање лица који се користи за заштиту иПхоне Кс. Запослени у вијетнамској компанији Бкав успели су да га преваре макетом лица.
Бкав специјалисти су 3Д штампали маскулице, а затим на њега прикачио нос од силикона, штампане копије уста и очију и симулирану кожу. Цена ове маске је била 150 долара. Стручњаци су лако откључали иПхоне Кс када је испред себе имао маску, а не лице корисника. Стручњаци Бкав су приметили да Фаце ИД препознаје корисника чак и ако му је половина лица покривена, што значи да се маска може направити скенирањем не целог лица.
Bkav исследует системы распознавания лиц с 2008 года. Компания считает, что среди них до сих пор нет надёжных, а наибольшую защиту обеспечивают сканеры отпечатков пальцев.
опасна вожња
Распространение беспилотных автомобилей выглядит неизбежным будущим. Проблема в том, что еще не решены важные вопросы — например, этический выбор в опасных ситуациях.
При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.
Тесла је већ забележио два саобраћајна инцидента саумрлих 2016. и 2018. године. Страдали су возачи који су се возили у аутомобилима са укљученим аутопилотом и нису контролисали управљање у тешким деловима.
АИ која је мислила да је женски род 'проблем'
Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин.
В компании объяснили это тем, что ИИ обучили на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины.
У суштини, Амазон систем је то научиомушки кандидати имају предност у односу на жене. Одбио је биографије које су садржале реч „женствено“, као што је „капитен женског шаховског клуба“. Он је снизио рејтинге дипломкиња са два женска колеџа, рекли су упућени. Називи школа нису наведени.
Било је и других потешкоћа: алгоритам је често давао готово насумичне резултате. Као резултат тога, програм је затворен.
Читати Даље
Погледајте тешки јуришни дрон који носи тону оружја
Научници три године нису успели да ухвате лисицу Рамбо. Спречава пуштање ретких животиња у шуму
Свемирски брод удаљен неколико километара: све што се зна о новом кинеском пројекту
Телефон за психолошку помоћ (телефон за помоћ): 8 (800) 333-44-34. Позиви су бесплатни широм Русије.