โครงข่ายประสาทเทียมพูดปลอมเพื่อหลอกอัลกอริทึมหรือผู้อื่น
นักวิทยาศาสตร์จากมหาวิทยาลัยชิคาโก
นักวิจัยเล่นสถานการณ์ที่ผู้โจมตีได้บันทึกเสียงของเหยื่อซึ่งสามารถพบได้ในสาธารณสมบัติตลอดจนความสามารถในการสื่อสารสดและบันทึกคำพูด มีข้อสังเกตว่าในระหว่างการฝึกอบรมโครงข่ายประสาทไม่ได้คำนึงถึงเสียงเท่านั้น แต่ยังรวมถึงเสียงต่ำด้วยน้ำเสียงสูงต่ำด้วย
นอกจากนี้ผู้เขียนใช้การฝึกอบรมแล้วโครงข่ายประสาทเทียมที่สามารถพบได้ในสาธารณสมบัติ พวกเขาเลือกสอง: SV2TTS และ AutoVC ในการฝึกโมเดล ผู้เขียนใช้การบันทึกเสียงพูดของคน 90 คนจากชุดข้อมูลสาธารณะสามชุด ได้แก่ VCTK, LibriSpeech และ SpeechAccent
เป็นผลให้นักวิจัยประมาณ 50% ของกรณีลงชื่อเข้าใช้บัญชีของคุณสำเร็จโดยใช้เสียงที่สังเคราะห์โดยโครงข่ายประสาทเทียม นอกจากนี้ เมื่อพูดคุยกับอัลกอริธึม คนไม่สามารถแยกแยะเสียงจริงจากเสียงปลอมได้ถึง 50%
โครงข่ายประสาทเทียมช่วยแต่งหน้าหลอกระบบจดจำใบหน้า
นักวิจัยชาวอิสราเอลจากมหาวิทยาลัยที่ตั้งชื่อตามBen-Gurion สร้างโครงข่ายประสาทเทียมที่หลอกลวงระบบจดจำใบหน้าโดยใช้การแต่งหน้า เธอกำหนดคุณสมบัติลักษณะที่ปรากฏที่อุปกรณ์อ่านบ่อยที่สุด จากนั้นเลือกการแต่งหน้าพิเศษที่จะช่วยทำให้ระบบจดจำใบหน้าไม่ได้
ในระหว่างการดำเนินการ อัลกอริธึมจะประมวลผลก่อนรูปภาพของบุคคลนั้นและรูปภาพของบุคคลอื่นที่เป็นเพศเดียวกัน จากนั้น แผนที่ความร้อนจะถูกสร้างขึ้นเพื่อแสดงพื้นที่หลักซึ่งเป็นที่ตั้งของคุณลักษณะเฉพาะที่ต้องแก้ไข หลังจากนั้นระบบจะสร้างภาพใบหน้าใหม่พร้อมการแต่งหน้าและทดสอบกับระบบจดจำใบหน้าทั่วไปจนกว่าจะหยุดตอบสนอง
เมื่อได้เมคอัพที่พอเหมาะแล้วก็สามารถทาได้ ผู้เขียนทราบว่าความแม่นยำของระบบจดจำใบหน้าลดลงจาก 47.5% เป็น 1.2%
โครงข่ายประสาทเทียมได้ทำหน้าแบบสากลเพื่อหลอกลวงระบบการระบุตัวตน
นักวิจัยจากอิสราเอลได้สร้างโครงข่ายประสาทเทียมซึ่งสร้างภาพใบหน้าที่สามารถจำลองบุคลิกภาพจำนวนมากสำหรับระบบจดจำได้ ตามที่นักพัฒนาระบุว่าอัลกอริธึมของพวกเขาสร้างใบหน้า "สากล" ตัวอย่างเช่น รูปภาพเก้าภาพสามารถแทนที่รูปภาพของผู้คนอย่างน้อย 40% จากฐานข้อมูลแบบเปิด
เป็นผลให้ระบบสร้างใบหน้าที่ถูกระบุว่าเป็นผลบวกใน 40-60% ของกรณีได้สำเร็จ พวกเขาใช้รูปภาพที่สร้างขึ้นเพียงเก้ารูปสำหรับสิ่งนี้
โครงข่ายประสาทหลอกตาสร้างลายพรางที่สมบูรณ์แบบ
นักวิทยาศาสตร์จากมหาวิทยาลัยบริสตอลได้ทำให้โครงข่ายประสาทเทียมที่วิเคราะห์สภาพแวดล้อมและเลือกสีที่เหมาะสมที่สุดสำหรับวัตถุ พวกเขาตั้งข้อสังเกตว่าอัลกอริทึมของพวกเขาจะช่วยให้นักชีววิทยาเชิงวิวัฒนาการเข้าใจว่าสีของสิ่งมีชีวิตชนิดต่างๆ เปลี่ยนแปลงไปอย่างไร รวมถึงสิ่งที่ขึ้นอยู่กับมันด้วย
เพื่อสร้างอัลกอริธึมของตัวเอง นักวิจัยใช้ชุดของอัลกอริทึมทางพันธุกรรมและการเรียนรู้อย่างลึกซึ้ง พวกเขาลงเอยด้วยเทมเพลตนับล้านที่มีเพียงไม่กี่สีและมีการป้อนข้อมูลเพียงเล็กน้อยจากผู้สังเกตการณ์ที่เป็นมนุษย์
โดยวิธีนี้ได้รับการทดสอบกับอาสาสมัครแล้วควรคือดูภาพที่มีวัตถุอยู่บนพื้นหลังต่างกันแล้วกดปุ่มทันทีที่มองเห็นวัตถุ แต่ละครั้ง อัลกอริธึมจะลดชุดสีและลวดลายให้เหลือเพียงสีและลวดลายที่มองเห็นได้ยากที่สุดหรือง่ายที่สุด ขึ้นอยู่กับว่าเราต้องการหาสีมาเพื่ออำพรางหรือเพื่อให้สังเกตได้ชัดเจน
โครงข่ายประสาทเทียมที่หลอกลวงโครงข่ายประสาทอื่นๆ
นักวิทยาศาสตร์ได้สร้างโครงข่ายประสาทเทียมที่พยายามต่อสู้กับลักษณนามปลอม อัลกอริธึมใหม่สามารถแทรกสัญญาณรบกวนพิเศษลงในรูปภาพหรือวิดีโอที่ทำให้ตัวแยกประเภทอื่นรับรู้เนื้อหาว่าเป็นต้นฉบับและไม่มีการตัดต่อ
เรากำลังพูดถึง deepfakes - นี่คือเนื้อหาที่บุคคลจงใจเปลี่ยนใบหน้าหรือสีหน้า เช่น เป็นดารา นักแสดง หรือนักการเมืองที่มีชื่อเสียง เพื่อที่จะประนีประนอมบุคคลในสิ่งที่เขาไม่เคยทำหรือพูด โดยธรรมชาติแล้ว หลังจาก Deepfakes โครงข่ายประสาทเทียมปรากฏขึ้นซึ่งรับรู้ว่าวิดีโอหรือภาพถ่ายได้รับการแก้ไขแล้วหรือไม่
ในขั้นตอนต่อไปของการพัฒนานี้การเผชิญหน้า โครงข่ายประสาทเทียม ได้ปรากฏว่าหลอกลวงอัลกอริธึมในการจดจำ Deepfakes โครงข่ายประสาทเทียมที่หลอกลวงอาจปรับให้เข้ากับตัวแยกประเภท Deepfake ได้ ซึ่งรวมถึงสิ่งที่ยังไม่ทราบ เป็นผลให้อัลกอริทึมนี้จัดการเพื่อหลอกลวงตัวแยกประเภทใน 99% ของกรณี โดยที่ผลลัพธ์ของวิดีโอจะไม่ถูกบีบอัด ในกรณีของการบีบอัด อัตราความสำเร็จจะลดลงเหลือ 60-90%
อ่านเพิ่มเติม:
AI แก้ปัญหาทางชีวภาพที่นักวิทยาศาสตร์ต่อสู้มา 50 ปี
มิลลิวินาทีแทนที่จะเป็น 30 ล้านล้านปีสำหรับงาน: จีนเปิดตัวคอมพิวเตอร์ควอนตัมตัวใหม่
นักวิทยาศาสตร์กำลังมองหาผู้ที่ไม่สามารถติดเชื้อ COVID-19 ได้ จากข้อมูลของพวกมัน พวกมันจะทำยา