Ohjelmoijat ovat osoittaneet, että ilmaisin voidaan huijata lisäämällä syötetietoja, joita kutsutaan myös esimerkeiksi.
Muistutetaan, että syväväärennöksissä tai deepfakeissa kasvotmikä tahansa aihe voidaan muuttaa jonkun muun aiheeksi, jotta se näyttää uskottavalta. Tällä tavalla voit luoda realistisia kuvamateriaalia tapahtumista, joita ei ole koskaan tapahtunut.
Tyypilliset syväfake-ilmaisimet keskittyvät kasvoihinvideossa: he seuraavat ensin heitä ja lähettävät sitten erillisen kasvopalan hermoverkkoon, joka määrittää, onko video oikea vai väärä. Esimerkiksi silmien vilkkuminen toistuu huonosti syväpetoksissa, joten ilmaisimet keskittyvät silmien liikkeisiin. Nykyaikaiset Deepfake-ilmaisimet luottavat koneoppimismalleihin väärennettyjen videoiden tunnistamiseksi.
Teoksen tekijät testasivat videonkäsittelyäänkahdessa skenaariossa: ensinnäkin, jossa hyökkääjillä on täysi pääsy ilmaisinmalliin, kasvojenpoistomenetelmään sekä luokitusmallin arkkitehtuuriin ja parametreihin; ja toinen, jossa hyökkääjät voivat vain kysellä koneoppimismallista selvittääkseen todennäköisyyden, että kehys luokitellaan todelliseksi tai väärennökseksi.
Ensimmäisessä tapauksessa todennäköisyys pettää ilmaisinoli 99% pakkaamattomille videoille ja 84,96% pakatuille. Toisessa tapauksessa ilmaisin pystyi huijaamaan pakkaamattomalle videolle 86,43% ja pakatulle videolle 78,33%. Tämä on ensimmäinen työ, joka osoittaa onnistuneita hyökkäyksiä moderneihin syvävaletunnistimiin.
Kalifornian ohjelmoijat kieltäytyivät julkaisemasta avointa lähdekoodiaan, jotta sitä ei käytettäisi väärää tietoa varten.
Lue lisää:
Katsokaa 8 biljoonan pikselin kuvaa Marsista
Ydinrakettimoottoria rakennetaan Mars-lennoille. Kuinka se on vaarallista?
Abortti ja tiede: mitä tapahtuu synnyttäville lapsille