Nowoczesną sztuczną inteligencję do rozpoznawania obrazów można łatwo oszukać dzięki podpisom

Badacze OpenAI odkryli, że ich najnowocześniejszy komputerowy system wizyjny można łatwo oszukać

proste podpisy. Jeśli oznaczysz nad nim dowolny obiekt, model sztucznej inteligencji (AI) rozpozna go niepoprawnie.

Badacze z OpenAI nazywają to typograficznymi atakami. Wykorzystują zdolność modelu do niezawodnego rozpoznawania tekstu. Okazuje się, że nawet zdjęcie z odręcznym tekstem może oszukać sztuczną inteligencję.