Yapay sinir ağı, algoritmaları veya diğer insanları aldatmak için sahte konuşma yaptı
Chicago Üniversitesi'nden bilim insanları
Araştırmacılar bir durumu simüle ettiSaldırganın, kurbanın kamuya açık alanda bulunabilen sesinin bir kaydının yanı sıra canlı sohbet etme ve konuşma kaydetme fırsatı vardı. Eğitim sırasında sinir ağının sadece sesi değil, aynı zamanda tonlamalı tınıyı da dikkate aldığı belirtilmektedir.
Daha sonra, yazarlar önceden eğitilmişKamusal alanda bulunabilen sinir ağları. İki tane seçtiler: SV2TTS ve AutoVC. Modelleri eğitmek için yazarlar, üç genel veri kümesinden 90 kişinin konuşma kayıtlarını kullandı: VCTK, LibriSpeech ve SpeechAccent.
Sonuç olarak, vakaların yaklaşık %50'sinde araştırmacılarBir sinir ağı tarafından sentezlenen bir sesi kullanarak hesabınıza başarıyla giriş yaptınız. Ayrıca algoritmayla konuşurken kişi gerçek sesi sahte sesten %50 oranında ayırt edemiyordu.
Sinir ağı, yüz tanıma sistemini aldatmak için makyaj yapılmasına yardımcı oldu.
Adını taşıyan üniversiteden İsrailli araştırmacılarBen-Gurion, makyaj kullanarak yüz tanıma sistemlerini aldatan bir sinir ağı yaptı. Cihazın en sık okuduğu görünüm özelliklerini belirler ve ardından yüzün sistem tarafından tanınmamasına yardımcı olacak özel makyajı seçer.
İşlem sırasında algoritma ilk olarak işlemleri gerçekleştirir.o kişinin resimleri ve ardından aynı cinsiyetten diğer kişilerin resimleri. Daha sonra düzeltilmesi gereken ayırt edici özelliklerin bulunduğu ana alanları gösteren bir ısı haritası oluşturulur. Bundan sonra sistem, makyajlı yeni bir yüzün görüntüsünü oluşturur ve yanıt vermeyi durdurana kadar bunu tipik bir yüz tanıma sistemiyle karşılaştırarak test eder.
Optimum makyaj seçeneği elde edildiğinde uygulanabilir. Yazarlar, yüz tanıma sisteminin doğruluğunun %47,5'ten %1,2'ye düştüğünü belirtiyor.
Sinir ağı, tanımlama sistemini aldatmak için evrensel bir yüz yaptı
İsrailli araştırmacılar sinir ağı oluşturdutanıma sistemleri için çok sayıda kişiliği simüle edebilen yüz görüntüleri üretir. Geliştiricilere göre algoritmaları "evrensel" yüzler oluşturuyor. Örneğin, bu tür dokuz görsel, açık veri tabanındaki insanların en az %40'ının fotoğraflarının yerini alabilir.
Sonuç olarak sistem, vakaların %40-60'ında başarıyla pozitif olarak tanımlanan yüzler üretti. Bunun için sadece dokuz tane oluşturulmuş fotoğraf kullandılar.
Sinir ağı, mükemmel kamuflajı yaratarak gözü aldatır.
Bristol Üniversitesi'nden bilim insanları bunu yaptıortamı analiz eden ve bir nesne için en uygun rengi seçen bir sinir ağı. Algoritmalarının, evrimci biyologların çeşitli canlı türlerinin renklerinin nasıl değiştiğini ve neye bağlı olduğunu anlamalarına yardımcı olacağını belirttiler.
Araştırmacılar kendi algoritmalarını oluşturmak içinbir dizi genetik algoritma ve derin öğrenme kullandı. Sadece birkaç renk ve insan gözlemcilerinden gelen az miktarda veri ile milyonlarca desenle sonuçlandılar.
Yöntem gönüllüler üzerinde test edildi;farklı arka planlara sahip nesnelerin bulunduğu resimlere bakmaları ve nesneyi görür görmez bir düğmeye basmaları gerekiyordu. Algoritma her seferinde renk ve desen kümesini görülmesi en zor veya en kolay olanlara indirgedi. Kamuflaj için renk bulmayı mı yoksa fark edilmeyi mi istediğimize bağlı olarak.
Diğer sinir ağlarını aldatan bir sinir ağı
Bilim insanları bunu deneyen bir sinir ağı oluşturdular.Sahte sınıflandırıcılara karşı mücadele. Yeni algoritma, bir görüntüye veya videoya, diğer sınıflandırıcıların içeriği orijinal ve düzenlenmemiş olarak tanımasına neden olan özel bir gürültü ekleyebilir.
Deepfakes hakkında konuşuyoruz - bu içerikbir kişi, bir kişiyi asla yapmadığı veya söylemediği bir şeyden ödün vermek için, örneğin ünlü bir yıldıza, aktöre veya politikacıya özel olarak değiştirilir. Doğal olarak, derin sahtekarlıklardan sonra, bir videonun veya fotoğrafın düzenlenip düzenlenmediğini tanıyan sinir ağları ortaya çıktı.
Bu gelişimin bir sonraki aşamasındayüzleşme, derin sahtekarlıkları tanımak için algoritmaları aldatan sinir ağları ortaya çıktı. Aldatıcı sinir ağı, henüz bilinmeyen derin sahte sınıflandırıcılar da dahil olmak üzere herhangi birine potansiyel olarak uyum sağlayabilir. Sonuç olarak, böyle bir algoritma, video sonucunun sıkıştırılmaması koşuluyla, vakaların% 99'unda sınıflandırıcıları aldatmayı başarır. Sıkıştırma durumunda başarı oranı %60-90'a düşmektedir.
Daha fazla oku:
AI, bilim adamlarının 50 yıldır mücadele ettiği biyolojik bir sorunu çözdü
Bir görev için 30 trilyon yıl yerine bir milisaniye: Çin yeni bir kuantum bilgisayarı tanıttı
Bilim adamları, COVID-19 ile enfekte olamayacak insanları arıyor. Verilerine dayanarak, bir ilaç yapacaklar