Powstał niewidzialny sweter. Pomoże Ci to „uciec” od sztucznej inteligencji

Pracownicy Uniwersytetu Maryland stworzyli praktyczną „pelerynę-niewidkę”. Był używany do testów

systemy uczenia maszynowego pod kątem obecności luk w zabezpieczeniach. Wydruk z niewyraźnym obrazem zwodzi modelki. Dzięki temu właściciel swetra może ukryć się przed sztuczną inteligencją.

Na potrzeby konkursu wygenerowano specjalny wzór,przy użyciu dużego zestawu obrazów szkoleniowych. Za każdym razem, gdy system wykrywał osobę, dane były przeglądane, aby zobaczyć, jak bardzo wzór obniżył wynik osoby badanej. Ostatecznie wzór „kontradyktoryjny” został ulepszony do tego stopnia, że ​​zasadniczo zakłóca rozpoznawanie ludzi.

Atak kontradyktoryjny to sposób na oszukanie sieci neuronowej i uzyskanie z niej błędnego wyniku.

Wzór na swetrze przypomina trochę kiepski impresjonistyczny obraz przedstawiający ludzi kupujących dynie na targu.

Podczas eksperymentów naukowcy z łatwością oszukali detektor YOLOv2, korzystając z szablonu wyszkolonego na zestawie danych COCO ze starannie sformułowanym celem.

COCO (Common Objects in Context) to duży zestaw obrazów. Składa się z 330 000 fotografii i ilustracji, które przedstawiają ponad 1,5 miliona obiektów.

Czytaj więcej:

Archeolodzy oficjalnie potwierdzili legendy biblijne

Okazało się, co dzieje się z komórkami ciała, gdy serce umiera

Zhakowany sygnał Starlink, który ma być używany jako alternatywa dla GPS