Οι προγραμματιστές έχουν δείξει ότι ο ανιχνευτής μπορεί να ξεγελαστεί με την εισαγωγή δεδομένων εισόδου, που ονομάζονται επίσης παραδείγματα.
Να σας θυμίσουμε ότι στα deepfakes ή deepfakes το πρόσωποοποιοδήποτε θέμα μπορεί να μετατραπεί σε κάποιου άλλου ώστε να φαίνεται πιστευτό. Με αυτόν τον τρόπο μπορείτε να δημιουργήσετε ρεαλιστικά πλάνα γεγονότων που δεν συνέβησαν ποτέ στην πραγματικότητα.
Οι τυπικοί ανιχνευτές deepfake εστιάζουν στα πρόσωπαστο βίντεο: πρώτα τα παρακολουθούν και έπειτα στέλνουν ένα ξεχωριστό κομμάτι του προσώπου σε ένα νευρωνικό δίκτυο που καθορίζει εάν το βίντεο είναι πραγματικό ή ψεύτικο. Για παράδειγμα, η αναλαμπή των ματιών αναπαράγεται ελάχιστα σε deepfakes, έτσι οι ανιχνευτές εστιάζουν στις κινήσεις των ματιών Οι σύγχρονοι ανιχνευτές Deepfake βασίζονται σε μοντέλα μηχανικής εκμάθησης για την αναγνώριση πλαστών βίντεο.
Οι συντάκτες του έργου δοκίμασαν την επεξεργασία βίντεοσε δύο σενάρια: πρώτον, όπου οι επιτιθέμενοι έχουν πλήρη πρόσβαση στο μοντέλο του ανιχνευτή, τη μέθοδο εξαγωγής προσώπου και την αρχιτεκτονική και τις παραμέτρους του μοντέλου ταξινόμησης. και ένα άλλο όπου οι εισβολείς μπορούν μόνο να ρωτήσουν ένα μοντέλο μηχανικής μάθησης για να ανακαλύψουν την πιθανότητα ταξινομήσεως ενός πλαισίου ως πραγματικό ή ψεύτικο.
Στην πρώτη περίπτωση, η πιθανότητα εξαπάτησης του ανιχνευτήήταν 99% για μη συμπιεσμένα βίντεο και 84,96% για συμπιεσμένα βίντεο. Στη δεύτερη περίπτωση, ο ανιχνευτής μπόρεσε να εξαπατήσει στο 86,43% για ασυμπίεστο και 78,33% για συμπιεσμένο βίντεο. Αυτή είναι η πρώτη δουλειά που δείχνει επιτυχημένες επιθέσεις σε σύγχρονους ανιχνευτές deepfake
Οι προγραμματιστές της Καλιφόρνια αρνήθηκαν να κυκλοφορήσουν τον κώδικα ανοιχτού κώδικα, ώστε να μην χρησιμοποιείται για παραπληροφόρηση.
Διαβάστε περισσότερα:
Κοιτάξτε μια εικόνα 8 τρισεκατομμύρια pixel του Άρη
Ένας πυρηνικός κινητήρας πυραύλων κατασκευάζεται για πτήσεις προς τον Άρη. Πώς είναι επικίνδυνο;
Άμβλωση και επιστήμη: τι θα συμβεί στα παιδιά που θα γεννήσουν