Autor do deepfake de Joe Biden com apelo ao voto é multado em 6 milhões de dólares

Em fevereiro, milhares de eleitores americanos receberam um apelo para não votar nas primárias numa chamada com a voz de Joe Biden. A imitação, que usou um deepfake criado com inteligência artificial, pode valer uma multa de 6 milhões de dólares.

O caso tem sido usado como exemplo do poder da inteligência artificial para manipular informação e prejudicar a democracia. Em fevereiro, milhares de eleitores do Estado norte-americano de New Hampshire receberam chamadas com uma voz gravada, idêntica à do presidente Joe Biden. A mensagem indicava que se votassem nas primárias não poderiam votar nas presidenciais.

O autor das mensagens foi identificado, é um consultor político e chama-se Steve Kramer, e é agora o alvo principal de uma proposta de multa de 6 milhões de dólares, do regulador americano das comunicações. A multa, pelo menos no valor apontado, é mais uma declaração de intenções do que uma decisão irreversível pelos meios legais à disposição do visado, mas é um sinal claro para próximos casos do género durante a campanha eleitoral que se avizinha.

A mensagem foi criada com um dos vários programas de inteligência artificial que nos últimos meses surgiram para montar os chamados deepfakes que, com uma amostra de voz real de menos de um minuto, permitem criar réplicas credíveis da voz original. Um sistema automático de realização de chamadas fez o resto e é por isso que a empresa implicada na distribuição da mensagem também será alvo de um processo e de sanções.

"Vamos agir de forma rápida e decisiva para garantir que os maus agentes não possam usar as redes de telecomunicações dos EUA para facilitar o uso indevido da tecnologia de IA generativa para interferir nas eleições, defraudar os consumidores ou comprometer dados confidenciais", sublinhou a Comissão de Comunicações (FCC na sigla em inglês para Federal Communications Commission), numa declaração.

Recorde-se que o uso de vozes geradas por inteligência artificial em chamadas automáticas foi proibido pela FCC logo em fevereiro, depois deste caso ter sido divulgado.

Dados compilados por uma empresa americana com um serviço para bloquear chamadas feitas por robots (YouMail), e partilhados pelo site Digital Trends, indicam que, desde 2018, foram realizadas anualmente no país entre 47 e 55 mil milhões de chamadas deste tipo. No ano passado, a FCC aplicou uma multa de 300 milhões de dólares àquela que considerou “a maior operação ilegal de chamadas automatizadas que a agência alguma vez investigou”. Neste caso, no entanto, não foram usadas tecnologias para clonagem de voz.