Considerando que as deepfakes são o novo flagelo da internet, a utilização de imagens muito semelhantes às reais, mas falsificadas através de sistema de inteligência artificial, o Facebook adotou uma nova estratégia de combate. A empresa criou uma base de dados composta por 100 mil deepfakes com o objetivo de ensinar os mecanismos de inteligência artificial como detetá-los de forma mais eficaz, avança o MIT Technology Review. A tecnológica considera que nem os melhores métodos atuais conseguem ser suficientemente eficazes.

Em vésperas de eleições nos Estados Unidos, levantam-se cada vez mais preocupações com a propagação de fake news, colocando palavras na boca de políticos, sem os próprios serem responsáveis, através das ferramentas disponíveis para criar deepfakes. Ainda recentemente na Índia foram utilizadas imagens e conteúdos falsos, com aspeto muito realista, do partido Bharatiya Janata a, supostamente, criticar o governo de Arvind Kejriwal, um dia antes de uma eleição, para destabilizar o eleitorado.

Apesar de as deepfakes serem relativamente fáceis de detetar pelo olho humano, nas redes sociais, as ferramentas automáticas ainda não são suficientemente boas para eliminar as mesmas. O Facebook pretende assim treinar melhor a IA par detetar vídeos manipulados. A sua base de dados tem 100 mil vídeos produzidos através da utilização de 3.426 atores, remisturados com todas as técnicas atuais utilizadas para trocar as caras dos intervenientes.

Apesar de considerar que atualmente as deepfakes ainda não são uma grande preocupação, Mike Schroepfer, CTO do Facebook, refere que não pretende ser apanhado desprevenido e estar preparado para o pior, quando foram mesmo utilizadas em campanhas negativas.

Recentemente o Facebook, em parceria com a Amazon e a Microsoft, criou o desafio Deepfake Detection Challenge, com mais de 2.100 participantes, que submeteram cerca de 35 mil modelos treinados pela sua base de dados. O vencedor foi Selim Seferbekov, um engenheiro de machine learning da Mapbox, cujo sistema conseguiu detetar quais os vídeos eram deepfakes com 65% de certeza numa base de dados de 10 mil vídeos que ainda não tinham sido vistos, misturando novos clips feitos pelo Facebook com outros disponíveis na Internet.

Do desafio saíram boas ideias e técnicas de deteção, mas considerando que o vencedor obteve 65% de eficácia, o Facebook considera que ainda está longe de ser o ideal. É referido que um caminho para melhorar a deteção é focar nas transições entre as frames dos vídeos. Selim Seferbekov afirma que mesmo as deepfakes de grande qualidade têm algumas falhas entre as frames e que os olhos humanos são bons a detetar essas inconsistências, sobretudo faces. Mas as máquinas de IA necessitam ser mais bem treinadas para as detetar.