A neurális hálózat hamisított beszédet algoritmusok vagy más emberek átverésére
A Chicagói Egyetem tudósai
A kutatók olyan helyzetet játszottak ki, amikora támadó rendelkezett az áldozat hangjának felvételével, amely nyilvánosan megtalálható, valamint élő kommunikációra és a beszéd rögzítésére is képes volt. Meg kell jegyezni, hogy a neurális hálózat a képzés során nemcsak a hangot, hanem a hangszínt is figyelembe vette az intonációval együtt.
Továbbá a szerzők a már betanítottneurális hálózatok, amelyek nyilvánosan megtalálhatók. Kettőt választottak: SV2TTS és AutoVC. A modellek betanításához a szerzők 90 ember beszédfelvételeit használták három nyilvános adathalmazból: VCTK, LibriSpeech és SpeechAccent.
Ennek eredményeként a kutatók az esetek körülbelül 50%-ábansikeresen bejelentkezett fiókjába egy neurális hálózat által szintetizált hang segítségével. Ezenkívül, amikor az algoritmushoz beszél, az ember nem tudta 50%-ban megkülönböztetni a valódi hangot a hamistól.
A neurális hálózat segített sminkelni az arcfelismerő rendszer becsapásához
Az elnevezett egyetem izraeli kutatóiBen-Gurion készített egy neurális hálózatot, amely smink segítségével megtéveszti az arcfelismerő rendszereket. Meghatározza azokat a megjelenési jellemzőket, amelyeket a készülék leggyakrabban olvas, majd kiválaszt egy speciális sminket, amely segít felismerhetetlenné tenni az arcot a rendszer számára.
Működés közben az algoritmus először feldolgozzaképeket az adott személyről, majd képeket más, azonos nemű emberekről. Ezután egy hőtérkép készül, amely megmutatja azokat a fő területeket, ahol a korrigálni kívánt jellegzetes jellemzők találhatók. Ezt követően a rendszer létrehoz egy képet egy új arcról sminkkel, és addig teszteli egy tipikus arcfelismerő rendszerrel, amíg az már nem reagál rá.
Ha elkészült az optimális smink, akkor lehet alkalmazni. A szerzők megjegyzik, hogy az arcfelismerő rendszer pontossága 47,5%-ról 1,2%-ra csökken.
A neurális hálózat univerzális arcot vágott az azonosító rendszer megtévesztésére
Izraeli kutatók neurális hálózatot hoztak létreamely nagyszámú személyiség szimulálására képes arcképeket generál a felismerő rendszerek számára. A fejlesztők szerint az algoritmusuk „univerzális” arcokat készít. Például kilenc ilyen kép helyettesítheti az emberek legalább 40%-ának fényképét a nyílt adatbázisból.
Ennek eredményeként a rendszer az esetek 40-60%-ában sikeresen pozitívként azonosított arcokat generált. Mindössze kilenc generált fényképet használtak fel ehhez.
A neurális hálózat megtéveszti a szemet, tökéletes álcát hozva létre
A Bristoli Egyetem tudósai elkészítettékneurális hálózat, amely elemzi a környezetet és kiválasztja az objektum optimális színét. Megjegyezték, hogy algoritmusuk segít az evolúcióbiológusoknak megérteni, hogyan változott a különböző élő fajok színe, és mitől függ.
Saját algoritmus létrehozásához a kutatókgenetikai algoritmusokat és mély tanulást használt. Végezetül milliónyi sablont készítettek, mindössze néhány színnel, és kevés emberi megfigyelői hozzájárulással.
A módszert önkénteseken tesztelték, nekik kellmeg kell nézniük a képeket, amelyeken különböző hátterű tárgyak láthatók, és meg kell nyomniuk egy gombot, amint meglátták a tárgyat. Az algoritmus minden alkalommal lecsökkentette a színek és minták készletét azokra a színekre és mintákra, amelyek a legnehezebben vagy a legkönnyebben láthatóak voltak. Attól függően, hogy álcázáshoz vagy észrevehető színezést akarunk találni.
Egy neurális hálózat, amely átver más neurális hálózatokat
A tudósok létrehoztak egy neurális hálózatot, amely megpróbáljaharc a hamis osztályozók ellen. Az új algoritmus speciális zajt tud beilleszteni egy képbe vagy videóba, ami miatt a többi osztályozó a tartalmat eredetinek és szerkesztetlennek ismeri fel.
Deepfake-ekről beszélünk - ez a tartalom, amelybenegy személy szándékosan megváltoztatja az arcát vagy arckifejezését, például egy híres sztárra, színészre vagy politikusra, annak érdekében, hogy valakit olyasmiben kompromittáljanak, amit soha nem tett vagy mondott. Természetesen a mélyhamisítások után megjelentek a neurális hálózatok, amelyek felismerik, hogy egy videót vagy fotót szerkesztették-e.
Ennek fejlesztésének következő szakaszábankonfrontáció során olyan neurális hálózatok jelentek meg, amelyek megtévesztik a mélyhamisítások felismerésére szolgáló algoritmusokat. Egy megtévesztő neurális hálózat potenciálisan alkalmazkodhat bármilyen mélyhamisított osztályozóhoz, beleértve a még ismeretleneket is. Ennek eredményeként ennek az algoritmusnak az esetek 99%-ában sikerül megtévesztenie az osztályozókat, feltéve, hogy a videó eredménye nem lesz tömörítve. Tömörítés esetén a sikerarány 60-90%-ra csökken.
Olvass tovább:
Az AI megoldott egy biológiai problémát, amellyel a tudósok 50 éve küzdenek
30 billió év helyett ezredmásodperc egy feladatra: Kína új kvantumszámítógépet mutatott be
A tudósok olyan embereket keresnek, akik nem fertőződhetnek meg COVID-19-cel. Adataik alapján gyógyszert készítenek