تم خداع جهاز كشف التزييف العميق للمرة الأولى

لقد أظهر المبرمجون أنه يمكن خداع الكاشف عن طريق إدخال بيانات الإدخال، والتي تسمى أيضًا الأمثلة.

الخصومة، في كل إطار الفيديو.الأمثلة العدائية هي مدخلات معدلة قليلاً تتسبب في ارتكاب أنظمة الذكاء الاصطناعي للأخطاء. بالإضافة إلى ذلك، أظهر الفريق أن الطريقة تعمل حتى بعد ضغط الفيديو.

دعنا نذكرك أنه في التزييف العميق أو التزييف العميق للوجهيمكن تغيير أي موضوع إلى موضوع شخص آخر بحيث يبدو قابلاً للتصديق. بهذه الطريقة يمكنك إنشاء لقطات واقعية لأحداث لم تحدث في الواقع.

تركز أجهزة كشف التزييف العميق النموذجية على الوجوهفي الفيديو: يتتبعونهم أولاً ، ثم يرسلون قطعة منفصلة من الوجه إلى شبكة عصبية تحدد ما إذا كان الفيديو حقيقيًا أم مزيفًا. على سبيل المثال ، يتم إنتاج وميض العين بشكل ضعيف في عمليات التزييف العميق ، لذلك تركز أجهزة الكشف على حركات العين. تعتمد أجهزة كشف التزييف العميق الحديثة على نماذج التعلم الآلي لتحديد مقاطع الفيديو المزيفة.

قام مؤلفو العمل باختبار معالجة الفيديو الخاصة بهمفي سيناريوهين: الأول، حيث يتمتع المهاجمون بإمكانية الوصول الكامل إلى نموذج الكاشف وطريقة استخراج الوجه وبنية نموذج التصنيف ومعلماته؛ وآخر حيث لا يمكن للمهاجمين سوى الاستعلام عن نموذج التعلم الآلي لمعرفة احتمالية تصنيف الإطار على أنه حقيقي أو مزيف.

في الحالة الأولى ، احتمال خداع الكاشفكان 99٪ لمقاطع الفيديو غير المضغوطة ، و 84.96٪ للملفات المضغوطة. في الحالة الثانية ، تمكن الكاشف من الغش بنسبة 86.43٪ للفيديو غير المضغوط و 78.33٪ للفيديو المضغوط. هذا هو العمل الأول لإثبات الهجمات الناجحة على أجهزة كشف التزييف العميق الحديثة.

رفض مبرمجو كاليفورنيا الإفراج عن الكود مفتوح المصدر الخاص بهم حتى لا يتم استخدامه للتضليل.

قراءة المزيد:

انظر إلى صورة 8 تريليون بكسل للمريخ

يتم بناء محرك صاروخي نووي للرحلات الجوية إلى المريخ. كيف هي خطيرة؟

الإجهاض والعلم: ماذا سيحدث للأطفال الذين سينجبون