Califórnia aprova lei para impedir deepfakes na política e pornografia

A utilização de vídeos manipulados, recorrendo a inteligência artificial para simular imagens e discursos de forma muito real vai ser sancionada no estado da Califórnia.

A preocupação para a divulgação de imagens e conteúdos falsos, mas de aspecto muito realista, está a aumentar com a proliferação de vídeos de deepfake, estando inevitavelmente as figuras mas conhecidas da política e do cinema entre as mais visadas. O Estado da Califórnia é agora um dos primeiros a avançar com medidas legais para impedir a proliferação destes vídeos manipulados.

O governador Gavin Newsom assinou na semana passada duas novas leis nesse sentido, dirigidos à área da política mas também a conteúdos de cariz pornográfico. Uma das leis torna ilegal a distribuição de vídeos manipulados que pretendam desacreditar um candidato político e enganar os eleitores, mas só nos 60 dias que antecedem uma eleição.

A outra lei pretende dar aos californianos a possibilidade de processar alguém que cria deepfakes onde são colocados em ambientes e situações pornográficas sem consentimento.

Estas são duas das áreas que têm vindo a ser mais usadas em vídeos deepfake, simulando discursos políticos manipulados, ou situações embaraçosas, mas também usando algumas celebridades em vídeos de cariz sexual.

A Google tem vindo a reunir uma base de dados com vídeos deepfake, uma forma de contribuir para a deteção mais rápida de manipulações, usando o benchmark FaceForensics.

A presidente da Câmara dos Representantes no Estados Unidos, Nancy Pelosi, foi um dos alvos destes vídeos, simulando uma situação de embriaguez e manipulando as suas palavras durante um discurso que foi divulgado nas redes sociais.

Marc Berman, autor das duas leis, defende que "os eleitores têm o direito de saber quando um vídeo, áudio e imagens que estão sendo mostrados, para tentar influenciar o seu voto nas próximas eleições, foram manipulados e não representam a realidade", afirmou em comunicado, lembrando que "no contexto das eleições, a capacidade de atribuir discursos ou condutas falsas a um candidato faz da tecnologia deepfake uma nova ferramenta poderosa e perigosa para daqueles que desejam realizar campanhas de desinformação para confundir os eleitores".