AI מסיר 95% מהפוסטים הפוגעניים בפייסבוק

Компания Facebook потратила несколько лет на создание алгоритма на основе ИИ, который может быстро находить и

удалять оскорбительные публикации в социальной сети. Компания отмечает, что сейчас технология может обнаруживать 95% контента без вмешательства живых модераторов. Однако остальные 5% сложно определить и сейчас компания пытается понять, каким образом можно удалять и их.

פייסבוק דיווחה כי מערכת ה- AI שלהם זיהתה94.7% מהפוסטים (22.1 מיליון פרסומים) שהכילו דברי שנאה נמחקו כולם באופן אוטומטי ברבעון השלישי של 2020. זה הרבה יותר מבעבר - ברבעון המקביל לפני שנה הצליחה AI למצוא רק 80.5% מהפוסטים (6.9 מיליון פרסומים) שהכילו דברי שנאה. החברה פרסמה גם נתונים אלה בדוח אכיפת התקנים בקהילה.

Как и многие другие социальные сети, мы полагаемся на ИИ, чтобы помочь команде модераторов облегчить задачу нахождения неприемлемых публикаций. Это сложная, бесконечная задача — нужно постоянно удалять нежелательные пользовательские сообщения и рекламу. Но сложность в том, что только люди могут отличить художественное произведение от эротической фотографии, а тонкую шутку от оскобрлений. Но скоро ИИ сможет делать это за модераторов.

פייסבוק

החוקרים מציינים כי התוכן המאתגר ביותרעבור AI זה מבוסס על ממים ורמזים שהמודל לא מגדיר. פייסבוק עובדת כעת על איתור ממים שנאים. באביב 2020 פרסמה החברה מערך נתונים זמין לציבור הקשור לתוכן כזה בתקווה לעזור לחוקרים לשפר את יכולות האיתור שלהם. כדוגמה לתוכן שעלול לגרום לאי נוחות למשתמשים אחרים, הם הראו מם המתאר בית קברות עם הטקסט "הנה אתה שייך".

בינה מלאכותית (AI) לא הצליחה לקבוע אם מדובר בתוכן פוגעני. עם זאת, אימונים של עוד כמה שנים יאפשרו לאלגוריתם להבין מדוע זה משפיל משתמשים מסוימים.

קרא גם

מטאוריט נפל על בית אינדונזי. בעליו הפך למיליונר

נוירונים במוח האנושי ורשת הגלקסיות דומים

בשל תנועת הלוחות, קרקעית האוקיאנוס השקט נמצאת כעת עמוק מתחת לסין