Facebook cria ferramenta que avalia conteúdo escrito em memes

Você usa o Facebook para ver memes? Talvez eles fiquem menos frequentes por lá agora. A rede social anunciou na terça-feira, 11, que está construindo uma ferramenta dotada de inteligência artificial para ajudar a detectar textos ofensivos contidos em imagens publicadas na plataforma, um jeito de pegar memes com discurso de ódio que até então passavam batido pelo crivo do Facebook.

A ferramenta, chamada Rosetta, identifica e transcreve em algo legítimo para o computador os textos contidos em imagens e vídeos publicados na rede social. Alguns sites especializados nos Estados Unidos acreditam que a ferramenta já está atuando, checando 1 bilhão de imagens e vídeos por dia no Facebook e no Instagram.

Na prática, a Rosetta ajudará os profissionais responsáveis por checar se determinadas publicações são ou não ofensivas. Hoje, devido ao grande número de publicações, os moderadores não conseguem ver cada imagem postada na rede social e lançam mão de tecnologias criadas pelo Facebook para fazer uma varredura entre as postagens.

A rede social ainda não explicou se está usando esses dados para além da verificação. O site de tecnologia The Verge levanta suspeita de que a rede social esteja usando a tecnologia para descobrir o que seria interessante colocar na linha do tempo dos usuários e para checar se memes estão sendo usados para propagar o discurso de ódio.

Para determinar se publicações são consideradas ou não discurso de ódio, a rede social criou diretrizes que são avaliadas pelos moderadores durante as checagens. Cada região possui um grupo especializado para fazer a comparação, levando em consideração a linguagem daquela localidade.