Discurso falso de la red neuronal para engañar a los algoritmos u otras personas
Científicos de la Universidad de Chicago
Los investigadores desarrollaron una situación en la queel atacante tenía una grabación de la voz de la víctima, que se puede encontrar en el dominio público, así como la capacidad de comunicarse en vivo y grabar el discurso. Se observa que la red neuronal durante el entrenamiento tuvo en cuenta no solo la voz, sino también el timbre con entonación.
Además, los autores utilizaron los ya entrenadosredes neuronales que se pueden encontrar en el dominio público. Eligieron dos: SV2TTS y AutoVC. Para entrenar los modelos, los autores utilizaron grabaciones de voz de 90 personas de tres conjuntos de datos públicos: VCTK, LibriSpeech y SpeechAccent.
Como resultado, los investigadores en aproximadamente el 50% de los casosinició sesión exitosamente en su cuenta usando una voz sintetizada por una red neuronal. Además, al hablar con el algoritmo, una persona no podía distinguir en un 50% una voz real de una falsa.
La red neuronal ayudó a maquillarse para engañar al sistema de reconocimiento facial
Investigadores israelíes de la Universidad que lleva el nombre.Ben-Gurion creó una red neuronal que engaña a los sistemas de reconocimiento facial mediante maquillaje. Ella determina aquellas características de apariencia que el dispositivo lee con mayor frecuencia y luego selecciona un maquillaje especial que ayudará a que el rostro sea irreconocible para el sistema.
Durante la operación, el algoritmo primero procesafotografías de esa persona y luego fotografías de otras personas del mismo género. A continuación, se crea un mapa de calor que muestra las principales áreas donde se ubican los rasgos distintivos que es necesario corregir. Después de eso, el sistema crea una imagen de una nueva cara con maquillaje y la prueba con un sistema de reconocimiento facial típico hasta que deja de responder.
Cuando se obtiene el maquillaje óptimo, se puede aplicar. Los autores señalan que la precisión del sistema de reconocimiento facial disminuye del 47,5% al 1,2%.
La red neuronal se ha hecho un rostro universal para engañar al sistema de identificación
Investigadores de Israel han creado una red neuronal.que genera imágenes de rostros capaces de simular una gran cantidad de personalidades para los sistemas de reconocimiento. Según los desarrolladores, su algoritmo crea caras "universales". Por ejemplo, nueve imágenes de este tipo pueden sustituir a las fotografías de al menos el 40% de las personas de la base de datos abierta.
Como resultado, el sistema generó rostros que se identificaron con éxito como positivos en el 40-60% de los casos. Usaron un total de nueve fotos generadas para esto.
La red neuronal engaña a la vista, creando el camuflaje perfecto
Científicos de la Universidad de Bristol han hechouna red neuronal que analiza el entorno y selecciona el color óptimo para un objeto. Señalaron que su algoritmo ayudará a los biólogos evolutivos a comprender cómo cambió la coloración de varias especies vivientes, así como de qué dependía.
Para crear su propio algoritmo, los investigadoresutilizó un conjunto de algoritmos genéticos y aprendizaje profundo. Terminaron con millones de plantillas con solo unos pocos colores y poca información de los observadores humanos.
El método fue probado en voluntarios, deberíandebían mirar imágenes con objetos de diferentes fondos y presionar un botón tan pronto como vieran el objeto. Cada vez, el algoritmo redujo el conjunto de colores y patrones a aquellos que eran más difíciles o más fáciles de ver. Dependiendo de si queremos buscar coloración para camuflar o para llamar la atención.
Una red neuronal que engaña a otras redes neuronales
Los científicos han creado una red neuronal que intentaLucha contra clasificadores falsos. El nuevo algoritmo puede insertar ruido especial en una imagen o vídeo que hace que otros clasificadores reconozcan el contenido como original y sin editar.
Estamos hablando de deepfakes: este es un contenido en el quea una persona se le cambia deliberadamente su rostro o expresiones faciales, por ejemplo, a una estrella, actor o político famoso, con el fin de desacreditar a la persona por algo que nunca ha hecho o dicho. Naturalmente, tras los deepfakes, aparecieron redes neuronales que reconocen si se ha editado un vídeo o una foto.
En la siguiente etapa de desarrollo de esteEnfrentamiento, han aparecido redes neuronales que engañan a los algoritmos para reconocer deepfakes. La engañosa red neuronal puede adaptarse potencialmente a cualquier clasificador deepfake, incluidos los que aún se desconocen. Como resultado, este algoritmo logra engañar a los clasificadores en el 99% de los casos, siempre que el resultado del video no se comprima. En el caso de la compresión, la tasa de éxito se reduce al 60-90%.
Lee mas:
La IA resolvió un problema biológico que los científicos han estado luchando durante 50 años
Un milisegundo en lugar de 30 billones de años para una tarea: China introdujo una nueva computadora cuántica
Los científicos están buscando personas que no puedan infectarse con COVID-19. Según sus datos, fabricarán un medicamento.