Egy láthatatlan pulóver készült. Segít „menekülni” a mesterséges intelligencia elől

A Marylandi Egyetem alkalmazottai praktikus „láthatatlan köpenyt” készítettek. Tesztelésre használták

gépi tanulási rendszerek a sebezhetőségek jelenlétére. Az elmosódott képet tartalmazó nyomat megtéveszti a modelleket. Ennek eredményeként a pulóver tulajdonosa elbújhat a mesterséges intelligencia elől.

A versenyhez egy speciális mintát generáltak,edzésképek nagy készletével. Minden alkalommal, amikor a rendszer egy személyt észlelt, az adatokat felülvizsgálták, hogy kiderüljön, mennyire csökkentette a minta az alany pontszámát. Végül az „ellenkező” mintát addig javították, hogy alapvetően akadályozza az emberek felismerését.

Az ellenséges támadás egy módja annak, hogy megtévesszen egy neurális hálózatot, és helytelen eredményt érjen el vele.

A pulóver mintája kissé úgy néz ki, mint egy rossz impresszionista festmény, amelyen az emberek tököt vásárolnak a piacon.

A kísérletek során a tudósok könnyen becsapták a YOLOv2 detektort a COCO-adatkészletre kiképzett sablon segítségével, gondosan megszerkesztett célponttal.

A COCO (Common Objects in Context) képek nagy halmaza. 330 000 fényképből és illusztrációból áll, amelyek több mint 1,5 millió tárgyat ábrázolnak.

Olvass tovább:

A régészek hivatalosan is megerősítették a Bibliából származó legendákat

Kiderült, mi történik a test sejtjeivel, ha a szív meghal

A Starlink jelet feltörték, hogy a GPS alternatívájaként használják