Съвременният AI за разпознаване на изображения лесно се заблуждава чрез подписи

Изследователите на OpenAI са открили, че тяхната най-съвременна система за компютърно зрение може лесно да бъде измамена

прости подписи. Ако маркирате някакъв обект върху него, моделът с изкуствен интелект (AI) ще го разпознае неправилно.

Изследователите от OpenAI наричат ​​това типографски атаки. Те използват способността на модела да разпознава надеждно текст. Оказва се, че дори снимка с ръкописен текст може да заблуди ИИ.