Компания Facebook потратила несколько лет на создание алгоритма на основе ИИ, который может быстро находить и
O Facebook relatou que seu sistema de IA detectou94,7% das postagens (22,1 milhões de publicações) que continham discurso de ódio foram excluídas automaticamente no terceiro trimestre de 2020. Isso é muito mais do que antes - no mesmo trimestre do ano passado, a AI conseguiu encontrar apenas 80,5% das postagens (6,9 milhões de publicações) que continham discurso de ódio. A empresa também publicou esses números no Community Standards Enforcement Report.
Как и многие другие социальные сети, мы полагаемся на ИИ, чтобы помочь команде модераторов облегчить задачу нахождения неприемлемых публикаций. Это сложная, бесконечная задача — нужно постоянно удалять нежелательные пользовательские сообщения и рекламу. Но сложность в том, что только люди могут отличить художественное произведение от эротической фотографии, а тонкую шутку от оскобрлений. Но скоро ИИ сможет делать это за модераторов.
Os pesquisadores observam que o conteúdo mais desafiadorpara IA, é aquela baseada em memes e pistas que o modelo não define. O Facebook está atualmente trabalhando na detecção de memes odiosos. Na primavera de 2020, a empresa lançou um conjunto de dados disponível publicamente relacionado a esse conteúdo na esperança de ajudar os pesquisadores a melhorar sua descoberta. Como exemplo de conteúdo que poderia causar transtornos a outros usuários, eles mostraram um meme retratando um cemitério com o texto "aqui você pertence".
A inteligência artificial (IA) não foi capaz de determinar que este é um conteúdo ofensivo. No entanto, mais alguns anos de treinamento permitirão ao algoritmo entender por que isso humilha alguns usuários.
Leia também
Um meteorito caiu sobre uma casa indonésia. Seu dono se tornou um milionário
Os neurônios do cérebro humano e a rede de galáxias são semelhantes
Devido ao movimento das placas, o fundo do Oceano Pacífico está agora nas profundezas da China