O Facebook libertou uma nota no seu blog oficial sobre uma nova tecnologia utilizada pela rede social para eliminar por completo todos os vídeos que se tornaram virais sobre o massacre ocorrido na Nova Zelândia. Trata-se de um sistema experimental de áudio que complementa a inteligência artificial, detetando sons ou músicas, mesmo em vídeos que foram visualmente modificados e que os seus sistemas deixaram passar. Como por exemplo, versões do vídeo publicados que foram gravados diretamente do ecrã dos computadores.

Com a introdução de tecnologia adicional, o Facebook admite ainda que a inteligência artificial, por si, não é perfeita a detetar e eliminar os vídeos. Tal como refere Guy Rosen, vice-presidente do Facebook para a integridade, “A inteligência artificial fez bastantes progressos ao longo dos anos, e em diversas áreas, que nos permite proactivamente detetar a grande maioria de conteúdos que removemos. Mas não é perfeita”.

A justificação prende-se pelo facto de a IA ser alimentada por dados, sendo necessário vários milhares de exemplos de conteúdos para treinar o sistema, e dessa forma detetar certos tipos de texto, imagens e vídeo. Ainda que este sistema funcione bem para a propaganda terrorista, pornografia e também violência gráfica, pois existem diversos exemplos para treinar a IA. Este tipo de vídeo não se encaixou naquilo que a rede social refere ser capaz de “despoletar o sistema de IA”, e dessa forma, a rede social sentiu a necessidade de introduzir métodos adicionais, já que “felizmente esse tipo de conteúdo é raro”.

Um dado curioso na mensagem do responsável do Facebook é o desafio que os videojogos colocam à inteligência artificial, sendo-lhe bastante difícil distinguir o que é um gameplay de um jogo e imagens reais. Nesse sentido, se os milhares de vídeos baseados em transmissões ao vivo de videojogos forem assinalados pelo sistema de IA, os revisores podem deixar passar vídeos reais que poderiam ajudar as autoridades a chegar aos locais de emergência.

Esta atualização é a forma do Facebook responder ao crescente criticismo dos políticos por todo o mundo, que apontam às redes sociais a falta de métodos eficazes para evitar que horrores como o de Nova Zelândia se propaguem. Este caso está também em linha com as exigências da Comissão Europeia no combate às fake news, pedindo às redes sociais como o Facebook, Google, Twitter e Mozilla intensifiquem as ferramentas contra a desinformação.