As autoridades brasileiras detiveram quatro suspeitos por ligação a esquema fraudulento online, naquele que é considerada a primeira grande ação do país no combate às ferramentas de inteligência artificial que manipulam as imagens e vídeos de celebridades nas burlas. No caso em questão, o grupo criminoso utilizava deepfakes de celebridades brasileiras, como a modelo Gisele Bundchen para promover os seus esquemas nas redes sociais, nomeadamente no Instagram, avança a Reuters.  

Não perca nenhuma notícia importante da atualidade de tecnologia e acompanhe tudo em tek.sapo.pt

Durante a operação, as autoridades congelaram ativos em cinco Estados do Brasil, assim como fundos monetários de mais de 20 milhões de reais (3,3 milhões de euros), identificados pela agência federal anti-lavagem de dinheiro, a COAF. 

A investigação e operação das autoridades brasileiras acontece menos de dois meses depois do governo de Lula da Silva ter preparado uma legislação que responsabiliza as redes sociais por toda a comunicação falsa que circula nas suas plataformas. Ou seja, plataformas como o Instagram, Facebook ou X, passam a ser responsabilizadas e penalizadas por violações de direitos que acontecem nesses espaços online. A nova regulação tenta definir limites à liberdade de expressão e consequências quando são ultrapassados, tendo um foco especial na proteção de crianças e jovens.

Brasil prepara-se para "apertar" regras às Big Tech com nova legislação
Brasil prepara-se para "apertar" regras às Big Tech com nova legislação
Ver artigo

Citado pela Reuters, a Meta, dona do Instagram, disse que as suas políticas de utilização proíbem anúncios que utilizam figuras públicas para tentar enganar as pessoas em esquemas. E que estas são removidas quando são detectadas. A empresa de Mark Zuckerberg acrescenta que tem sistemas especializados na deteção do uso indevido de celebridades, investe na formação e treino das suas equipas de revisão, partilha dicas para evitar esquemas e oferece as ferramentas para que as potenciais violações possam ser reportadas. 

Um porta-voz da equipa da supermodelo brasileira deixou também um alerta aos consumidores, para que tenham atenção a descontos poucos comuns listados em anúncios protagonizados por celebridades. As pessoas devem sempre verificar a autenticidade das ofertas através dos respectivos canais oficiais da marca e dos protagonistas dos anúncios, e caso seja detetado um esquema, reportá-los às autoridades. 

A investigação começou no Estado do Rio Grande do Sul em agosto de 2024, depois de uma vítima ter reportado que foi enganada por um anúncio no Instagram a mostrar um vídeo deepfake de Gisele Bundchen a promover um produto de tratamento da pele. A modelo foi usada em outros esquemas, tais como passatempo relacionados com malas, onde os utilizadores pagavam os custos de transporte de objetos que nunca chegaram ao seu destino.  

Um dado relacionado com as burlas, durante a investigação da lavagem do dinheiro, é que a maioria das vítimas perdeu pequenas quantidades de dinheiro, abaixo dos 100 reais (16 euros) e por isso nunca reportaram os respectivos crimes. “Eles criaram uma situação perversa, em que os criminosos beneficiam de  uma espécie de imunidade estatística. Eles sabiam que a maioria das pessoas não os denunciaria, por isso operavam em grande escala sem medo”. 

Recorde-se que em junho o Supremo Tribunal Federal do Brasil já tinha decidido que as plataformas digitais são responsáveis pelos conteúdos gerados pelos seus utilizadores. A nova regulação estará em linha com a decisão, tentando definir limites à liberdade de expressão e consequências quando são ultrapassados e terá um foco especial na proteção de crianças e jovens.

“Liberdade de expressão não é você infernizar a vida dos outros, não é mentir, não é fazer provocações ou propaganda do ódio”, destacou Lula, frisando a importância de criar regras que ajudem as democracias a organizarem-se e a assegurar que os direitos de todos sejam preservados.

Assine a newsletter do TEK Notícias e receba todos os dias as principais notícias de tecnologia na sua caixa de correio.