زيفت الشبكة العصبية الكلام لخداع الخوارزميات أو الأشخاص الآخرين
علماء من جامعة شيكاغو
لعب الباحثون حالة حيثكان لدى المهاجم تسجيل صوت الضحية ، والذي يمكن العثور عليه في المجال العام ، بالإضافة إلى القدرة على التواصل المباشر وتسجيل الكلام. من الملاحظ أنه أثناء التدريب ، لم تأخذ الشبكة العصبية في الاعتبار الصوت فحسب ، بل أيضًا جرس التنغيم.
علاوة على ذلك ، استخدم المؤلفون المدربين بالفعلالشبكات العصبية التي يمكن العثور عليها في المجال العام. اختاروا اثنين: SV2TTS و AutoVC. لتدريب النماذج ، استخدم المؤلفون تسجيلات الكلام لـ 90 شخصًا من ثلاث مجموعات بيانات عامة: VCTK و LibriSpeech و SpeechAccent.
ونتيجة لذلك، الباحثون في ما يقرب من 50٪ من الحالاتتم تسجيل الدخول بنجاح إلى حسابك باستخدام صوت تم تصنيعه بواسطة شبكة عصبية. وأيضًا، عند التحدث إلى الخوارزمية، لم يتمكن الشخص من التمييز بين الصوت الحقيقي والمزيف بنسبة 50%.
ساعدت الشبكة العصبية في وضع الماكياج لخداع نظام التعرف على الوجه
باحثون إسرائيليون من الجامعة سميت باسمهمصنع بن غوريون شبكة عصبية تخدع أنظمة التعرف على الوجه باستخدام المكياج. إنها تحدد ميزات المظهر التي يقرأها الجهاز في أغلب الأحيان، ثم تختار مكياج خاص من شأنه أن يساعد في جعل الوجه غير معروف للنظام.
أثناء التشغيل، تعالج الخوارزمية أولاًصور ذلك الشخص ثم صور أشخاص آخرين من نفس الجنس. بعد ذلك، يتم إنشاء خريطة حرارية توضح المناطق الرئيسية التي توجد بها السمات المميزة التي تحتاج إلى تصحيح. بعد ذلك، يقوم النظام بإنشاء صورة لوجه جديد مع الماكياج واختبارها مقابل نظام التعرف على الوجه النموذجي حتى يتوقف عن الاستجابة لها.
عندما يتم الحصول على المكياج الأمثل ، يمكن تطبيقه. لاحظ المؤلفون أن دقة نظام التعرف على الوجوه تنخفض من 47.5٪ إلى 1.2٪.
جعلت الشبكة العصبية وجهًا عالميًا لخداع نظام تحديد الهوية
أنشأ باحثون من إسرائيل شبكة عصبيةالذي يولد صور وجوه قادرة على محاكاة عدد كبير من الشخصيات لأنظمة التعرف. وفقًا للمطورين، فإن الخوارزمية الخاصة بهم تصنع وجوهًا "عالمية". على سبيل المثال، يمكن لتسع صور من هذا القبيل أن تحل محل صور ما لا يقل عن 40% من الأشخاص من قاعدة البيانات المفتوحة.
نتيجة لذلك ، أنشأ النظام وجوهًا تم تحديدها بنجاح على أنها موجبة في 40-60٪ من الحالات. استخدموا تسع صور تم إنشاؤها فقط لهذا الغرض.
تخدع الشبكة العصبية العيون ، وتخلق التمويه المثالي
لقد توصل علماء من جامعة بريستولشبكة عصبية تقوم بتحليل البيئة واختيار اللون الأمثل للكائن. وأشاروا إلى أن الخوارزمية الخاصة بهم ستساعد علماء الأحياء التطورية على فهم كيفية تغير لون الأنواع الحية المختلفة، وكذلك ما يعتمد عليه.
لإنشاء الخوارزمية الخاصة بهم ، الباحثوناستخدم مجموعة من الخوارزميات الجينية والتعلم العميق. انتهى بهم الأمر بملايين القوالب بألوان قليلة ومدخلات قليلة من المراقبين البشريين.
تم اختبار الطريقة على المتطوعين، ينبغي عليهم ذلككان عليهم أن ينظروا إلى الصور التي تحتوي على كائنات على خلفيات مختلفة ويضغطون على الزر بمجرد رؤية الكائن. في كل مرة، قامت الخوارزمية بتقليل مجموعة الألوان والأنماط إلى تلك التي كانت رؤيتها أكثر صعوبة أو أسهل. اعتمادًا على ما إذا كنا نريد العثور على تلوين للتمويه أو ليكون ملحوظًا.
شبكة عصبية تخدع الشبكات العصبية الأخرى
لقد أنشأ العلماء شبكة عصبية تحاولمحاربة المصنفات المزيفة. يمكن للخوارزمية الجديدة إدراج ضجيج خاص في الصورة أو الفيديو مما يجعل المصنفات الأخرى تتعرف على المحتوى على أنه أصلي وغير محرر.
نحن نتحدث عن التزييف العميق - هذا هو المحتوى الذييتم تغيير وجه الشخص أو تعابير وجهه عمدًا ، على سبيل المثال ، إلى نجم أو ممثل أو سياسي مشهور ، من أجل المساومة على شخص ما بشأن شيء لم يفعله أو يقوله من قبل. بطبيعة الحال ، بعد عمليات التزييف العميق ، ظهرت شبكات عصبية تتعرف على ما إذا كان قد تم تحرير مقطع فيديو أو صورة.
في المرحلة التالية من تطوير هذاالمواجهة ، ظهرت الشبكات العصبية التي تخدع الخوارزميات للتعرف على التزييف العميق. يمكن للشبكة العصبية المخادعة أن تتكيف مع أي مصنفات التزييف العميق ، بما في ذلك تلك غير المعروفة حتى الآن. نتيجة لذلك ، تمكنت هذه الخوارزمية من خداع المصنفات في 99٪ من الحالات ، بشرط ألا يتم ضغط نتيجة الفيديو. في حالة الضغط ، ينخفض معدل النجاح إلى 60-90٪.
قراءة المزيد:
حل الذكاء الاصطناعي مشكلة بيولوجية ظل العلماء يكافحون لمدة 50 عامًا
ميلي ثانية بدلاً من 30 تريليون سنة لمهمة: قدمت الصين جهاز كمبيوتر كمي جديد
يبحث العلماء عن أشخاص لا يمكن أن يصابوا بـ COVID-19. بناءً على بياناتهم ، سوف يصنعون الدواء