quarta-feira, 2 de maio de 2018

Facebook explica como a tecnologia é usada para capturar conteúdo ruim


   Como parte da conferência de desenvolvedores F8 da empresa, o Facebook lançou um novo post explicando como está usando a tecnologia para ajudar a encontrar e combater a disseminação de “ coisas ruins ”. Como seria de esperar, a espinha dorsal de sua abordagem tecnológica é a inteligência artificial (AI) e aprendizado de máquina com a empresa informando como a IA está ajudando a combater conteúdo ruim em várias frentes. Quase igualmente importante, a IA também está crescendo em suas capacidades para distinguir entre diferentes formas de conteúdo ruim.

   Seja em termos de nudez, gráficos ou relacionados ao ódio, o Facebook usa AI para identificar primeiro o que considera ser um conteúdo indesejável. A partir de então, a abordagem para lidar com o problema pode variar dependendo do tipo de conteúdo. Por exemplo, o Facebook destaca enquanto aspectos como nudez e conteúdo gráfico são geralmente mais claros, há dificuldades adicionais associadas com os gostos de discurso de ódio. Uma dessas dificuldades é a linguagem em uso. Isto provou ser um problema devido à IA ter mais recursos para extrair - e, portanto, aprender - para alguns idiomas em comparação com outros. Com o Facebook destacando o inglês como um excelente exemplo de onde a inteligência artificial é muito melhor na identificação de conteúdo e na resposta adequada. 
Leia Também:

   Embora o Facebook espere que esse problema se resolva com o tempo, mais investimentos e recursos se tornam disponíveis para um maior grau de suporte a idiomas. Outra questão, é a capacidade da IA ​​de realmente determinar se o conteúdo está promovendo o ódio, ou realmente condenando-o. Essa questão em particular se mostrou problemática para vários outros sites que usam a AI como meio de policiamento de conteúdo devido à dependência fundamental da questãono contexto . Aqui, o Facebook observa que é aqui que entra o outro elemento, mais rudimentar, de sua luta contra o conteúdo ruim - as pessoas. Como o Facebook explica que, uma vez que o conteúdo tenha sido sinalizado, se for um conteúdo relacionado ao contexto, os revisores dedicados examinarão mais de perto o conteúdo para verificar se, na verdade, é um conteúdo ruim.

   Em outras palavras, o Facebook está olhando para a questão do conteúdo ruim como mais um problema de quantidade e qualidade em que nem a IA nem o pessoal podem lidar facilmente com eles mesmos. Em vez disso, essa abordagem em duas frentes procura superar a questão mais ampla de ter que lidar com as massas de conteúdo descartando qualquer coisa que seja mais claramente definida como ruim desde o início. A partir de então, o conteúdo que é mais discutível e exige mais de uma avaliação qualitativa é passado para aqueles que podem tomar uma decisão significativa e relevante. 

   O anúncio também apontou que uma das formas predominantes e ainda mais úteis de encontrar e combater conteúdo ruim é a própria comunidade do Facebook. Quando esses membros chamam a atenção da empresa para um conteúdo específico, eles não estão apenas encontrando o conteúdo, mas também fornecendo um julgamento qualitativo imediato sobre ele.