O FBI explica que os conteúdos “sintéticos”, nos quais se incluem as deepfakes, estão já a ser usados em campanhas de influência vindas da Rússia e China. Prevê-se que, durante os próximos meses, as deepfakes sejam também usadas em esquemas de spearphishing e ataques baseados em engenharia social.
Desde apps que recorrem à tecnologia a projetos de combate a conteúdos manipulados, neste ano muitas organizações e gigantes tecnológicas mostraram que as deepfakes podem ser usadas para informar e animar os cidadãos.
O surgimento das deepfakes afirma-se como “um dos momentos mais decisivos na história da comunicação humana” nas palavras de Nina Schick. No Web Summit 2020, a autora juntou-se a Hao Li, cofundador e CEO da Pinscreen para uma conversa acerca do perigo que a manipulação de conteúdo representa.
Pondo de lado a preocupação com as questões da privacidade, os deepfakes são divertidos. A prová-lo está o sucesso que a Reface conseguiu em poucos dias: possivelmente os mesmos que terá para a usar sem pagar.
Um recém revelado estudo dos estúdios de investigação da Disney dá a conhecer a forma como a tecnologia usada para criar deepfakes poderá ser usada nos filmes. Os investigadores explicam que, face às típicas deepfakes que se encontram online, a grande mudança na tecnologia está na resolução.
Considerando que ainda não existem métodos totalmente eficazes para detetar vídeos falsos criados por IA, a empresa de Mark Zuckerberg avança com nova estratégia.
As novas regras do Twitter entram em vigor já a 5 de março. Todos os Tweets que contenham algum tipo de conteúdo manipulado passarão a ter um aviso de forma a alertar o público e evitar a disseminação de informação falsa.
A notícia foi avançada pelo TechCrunch, que garante que a empresa terá desenvolvido um "recurso inédito" e "invisível", estando alegadamente integrado no código da app do TikTok.
A utilização de vídeos manipulados, recorrendo a inteligência artificial para simular imagens e discursos de forma muito real vai ser sancionada no estado da Califórnia.