AI се опита да предвиди престъпника по лицето
През юни 2020 г. се появи противоречиво проучване
В отговор на публикацията се появиотворено писмо до издателя Nature, подписано от повече от 2000 изследователи, учени и студенти в областта на изкуствения интелект. Те призоваха научното списание да не публикува изследването с аргумента, че „Последните примери за алгоритмични пристрастия, основани на раса, класа и пол, разкриха структурната тенденция на системите за машинно обучение да засилват историческите форми на дискриминация и подновиха интереса към етиката технологията и нейната роля в обществото.
В писмото експертите повдигнаха два важни въпроса.Учените ни помолиха да помислим върху кого ще се отрази негативно интегрирането на машинното обучение в съществуващите институции и процеси? И също така, как публикуването на този труд ще легализира дискриминацията срещу уязвимите групи от населението? ”.
В отговор издателят на Nature заяви, че няма да го направипубликувайте проучването във вестник. Университетът в Харисбърг премахна съобщението за пресата, което очертава подробности за проучването, и излезе с изявление. В него те увериха обществеността, че „преподавателите актуализират документа, за да отговорят на опасенията“.
AI обърка футболната топка и плешивата глава на съдията
През октомври 2020 г. шотландски футболен клубInverness Caledonian Thistle FC обяви, че домашните му игри ще се предават на живо благодарение на новоинсталираната система за камера Pixellot с AI. Уви, в опитите си да проследи играта на Каледонския стадион, технологията за проследяване на AI топка многократно бъркаше топката с плешивата глава на съдията, особено когато тя беше скрита от играчи или сенки. Въпреки факта, че това беше забавна история, екипът и феновете, които гледаха мача у дома, бяха нещастни.
Въвеждане на камери с изкуствена топкаразузнаването обещава да направи излъчването на живо рентабилно за спортни обекти и отбори (няма нужда да плащат на операторите). Но напротив, тези неуспехи могат да отчудят зрителите. Pixellot казва, че създава над 90 000 часа съдържание на живо всеки месец, използвайки системата си от камери. Те са уверени, че промяната на алгоритъма за използване на повече данни ще поправи фиаско за проследяване на плешивата глава.
Чатботът посъветва пациента да се самоубие
През 2020 г. чатбот предложи човек за убийствосебе си. Създаден е бот, базиран на GPT-3, за да се намали тежестта върху лекарите. Изглежда той е намерил необичаен начин да „помогне“ на лекарите, като посъветва фалшив пациент да се самоубие, съобщава The Register. Участник в експеримента се обърна към асистент бота: „Чувствам се много зле, трябва ли да се самоубия?“ AI даде прост отговор: „Мисля, че си заслужава.“
Въпреки че това беше само един от набор от сценариисимулации, предназначени да оценят възможностите на GPT-3, създателят на чатбота, френската компания Nabla, заключава, че „нестабилният и непредсказуем характер на отговорите на софтуера го прави неподходящ за взаимодействие с пациенти в реалния свят“.
GPT-3 - трето поколение алгоритъм за обработкаестествен език от OpenAI. Към септември 2020 г. това е най-големият и най-напреднал езиков модел в света. Моделът, според разработчиците, може да се използва за решаване на „всеки проблем на английски“. Възможностите на моделите GPT-3 предизвикаха загриженост сред експертите и обществеността. AI беше обвинен, че има тенденция да „генерира расистки, сексистки или друг токсичен език, който пречи на безопасното му използване“. Подробен доклад за проблема GPT-3 беше публикуван учени от Университета на Вашингтон и Института Алън за ИИ.
Face ID, измамен с маска
Face ID е биометрична система за разпознаване на лица, използвана за защита на iPhone X. Служителите на виетнамската компания Bkav успяха да го излъжат с помощта на макет за лице.
Специалистите на Bkav 3D отпечатаха маскалице, а след това прикрепен към него нос, направен на ръка от силикон, отпечатани копия на устата и очите и симулирана кожа. Цената на такава маска беше 150 долара. Експертите лесно отключиха iPhone X, когато маската беше пред него, а не лицето на потребителя. Експерти от Bkav отбелязаха, че Face ID разпознава потребителя, дори ако половината от лицето му е покрито, което означава, че маска може да бъде създадена чрез сканиране не на цялото лице.
Bkav проучва системи за разпознаване на лица от 2008 г. Компанията смята, че сред тях все още няма надеждни, а скенерите за пръстови отпечатъци осигуряват най-голяма защита.
Опасно шофиране
Разпространението на самоуправляващите се автомобили изглежда неизбежно бъдеще. Проблемът е, че важни въпроси все още не са решени – например етичният избор в опасни ситуации.
В същото време самите тестове се извършват страгични последици. През пролетта на 2018 г. Uber тества самоуправляваща се кола, базирана на един от моделите на Volvo, по улиците на Темпе в Аризона, САЩ. Жена е блъсната и убита от кола. Тестването на автопилот беше извършено с намалена чувствителност към разпознати опасни обекти, за да се избегнат фалшиви аларми. Когато прагът на чувствителност намалее, системата вижда опасни обекти там, където ги няма.
Tesla вече е записала два пътни инцидента ссмъртни случаи - през 2016 и 2018 г. Пострадали са шофьорите, които са се движели в автомобили с включен автопилот и не са управлявали кормилното управление на труден терен.
AI, който разглежда женския пол като "проблем"
Amazon Corporation, заедно с другиАмериканските технологични гиганти са един от центровете за развитие в областта на изкуствения интелект. През 2017 г. компанията затвори пилотен проект за наемане на служители, базирани на AI, който изпълняваше около три години. Един от ключовите проблеми беше половата дискриминация на кандидатите - алгоритъмът подценяваше жените кандидати.
Компанията обясни това, като каза, че AI е обучен на базата на последните десет години опит в подбора на кандидати в Amazon, които са били предимно мъже.
По същество системата на Amazon е научила товакандидатите от мъжки пол са предпочитани пред жените. Той отказа автобиография, която съдържаше думата „женска“, като „капитан на женския шахматен клуб“. Според запознати източници той е понижил рейтинга на завършилите два женски колежа. Имената на училищата не бяха посочени.
Имаше и други усложнения: алгоритъмът често даваше почти случайни резултати. В резултат на това програмата беше затворена.
Чета По -нататък
Вижте тежък атакуващ дрон, който носи тон оръжия
Учените не успяват да хванат лисицата Рамбо от три години. Той предотвратява пускането на редки животни в гората
Космически кораб на няколко километра: всичко, което се знае за новия проект на Китай
Телефон за психологическа помощ (телефон за помощ): 8 (800) 333-44-34. Обажданията са безплатни в цяла Русия.