Programcılar, örnek olarak da adlandırılan giriş verilerinin eklenmesiyle dedektörün kandırılabileceğini göstermiştir.
Deepfake veya deepfake'lerde yüzün olduğunu hatırlatalım.inandırıcı görünmesi için herhangi bir konu başkasının konusuna dönüştürülebilir. Bu şekilde gerçekte hiç gerçekleşmemiş olayların gerçekçi görüntülerini oluşturabilirsiniz.
Tipik derin sahte dedektörler yüzlere odaklanırvideoda: önce onları izlerler ve sonra yüzün ayrı bir parçasını videonun gerçek mi yoksa sahte mi olduğunu belirleyen bir sinir ağına gönderirler. Örneğin, göz kırpma, derin sahtelerde yetersiz şekilde yeniden üretilir, bu nedenle dedektörler göz hareketlerine odaklanır. Modern Deepfake dedektörleri, sahte videoları tanımlamak için makine öğrenimi modellerine güvenir.
Çalışmanın yazarları video işlemelerini test ettiiki senaryoda: birincisi, saldırganların dedektör modeline, yüz çıkarma yöntemine ve sınıflandırma modelinin mimarisine ve parametrelerine tam erişime sahip olduğu; ve saldırganların bir çerçevenin gerçek veya sahte olarak sınıflandırılma olasılığını öğrenmek için yalnızca bir makine öğrenimi modelini sorgulayabildiği bir başkası.
İlk durumda, dedektörü aldatma olasılığısıkıştırılmamış videolar için% 99 ve sıkıştırılmış videolar için% 84,96 idi. İkinci durumda, dedektör sıkıştırılmamış video için% 86.43 ve sıkıştırılmış video için% 78.33 oranında hile yapabildi. Bu, modern derin sahte dedektörlere yapılan başarılı saldırıları gösteren ilk çalışmadır.
California programcıları, yanlış bilgilendirme için kullanılmaması için açık kaynak kodlarını yayınlamayı reddettiler.
Daha fazla oku:
Mars'ın 8 trilyon piksellik bir görüntüsüne bakın
Mars'a uçuşlar için bir nükleer roket motoru inşa ediliyor. Nasıl tehlikelidir?
Kürtaj ve bilim: doğum yapacak çocuklara ne olacak