Nos últimos meses têm proliferado na internet serviços e ferramentas para manipulação de som e imagens, com recurso à inteligência artificial. A tecnologia permite criar deepfakes cada vez mais realistas, muitas vezes de cariz sexual, que juntam um rosto real a um corpo formatado por um programa de software, seguindo as ordens que recebe de quem o utiliza.

O caso que envolveu a cantora Taylor Swift é o mais recente de uma lista de exemplos cada vez maior. Os danos para quem vê a sua imagem manipulada numa foto ou vídeo íntimo são tão relevantes como seriam se o conteúdo fosse integralmente real.

O que pode fazer quem é vítima deste tipo de abuso? Denunciar deve ser o primeiro passo. Quer receba um contacto com uma ameaça de divulgação, ou descubra que uma imagem sua com estas características está a ser divulgada numa rede social, a denúncia é o meio mais eficaz para tentar parar a distribuição.

A Linha Internet Segura é um dos canais privilegiados para receber e encaminhar este tipo de queixas, tanto junto das autoridades, como das plataformas de internet por onde vão circular os conteúdos ofensivos criados ou distribuídos sem autorização da vítima. As autoridades de polícia são outra opção.

A própria vítima, se tiver tido acesso à imagem manipulada - há casos em que toma conhecimento da divulgação sem ter tido acesso direto ao conteúdo - pode ela própria dar os primeiros passos para parar a divulgação do conteúdo e o mesmo vale para outras formas de violência sexual baseada em imagens.

Abuso sexual de crianças: "Lidamos com o pior do pior que se pode encontrar online e volta e meia conseguimos ser surpreendidos com o grau de crueldade"
Abuso sexual de crianças: "Lidamos com o pior do pior que se pode encontrar online e volta e meia conseguimos ser surpreendidos com o grau de crueldade"
Ver artigo

ferramentas que permitem registar dados de uma imagem abusiva e espalhá-los pelos principais serviços e sites online onde estes conteúdos podem circular. São gratuitas e qualquer pessoa pode usá-las, como explicou ao SAPO TEK Carolina Soares, responsável da Linha coordenada pela Associação Portuguesa de Apoio à Vítima, destacando duas. O StopNCII.org, para denunciar casos que envolvam maiores de 18 anos e o Take It Down, para casos com menores de 18 anos.

São geridas por ONGs e não ficam com a imagem abusiva que a vítima partilha, apenas com uma espécie de impressão digital do conteúdo, criado a partir de um conjunto de pontos de referência, que inserem numa base de dados que corre nos serviços das principais plataformas de internet abertas, como Facebook, Instagram, Discord, Google, etc.

Foi encontrado material de abuso sexual de crianças na maior base de dados que alimenta modelos de IA
Foi encontrado material de abuso sexual de crianças na maior base de dados que alimenta modelos de IA
Ver artigo

Periodicamente estes serviços fazem correr aquela base de dados para procurar conteúdos abusivos nas suas plataformas e eliminá-los, mas também para impedir a publicação de conteúdos que já tenham sido marcados como abusivos, sejam eles manipulados ou reais.

As imagens manipuladas com IA também podem ser encontradas no ciberespaço por estas plataformas, desde que a manipulação não tenha voltado a ser manipulada. Ou seja, enquanto a imagem mantiver as caraterísticas que a plataforma registou no seu banco de "hashes".

A remoção de conteúdo que circule em plataformas como o WhatsApp ou o Telegram é mais difícil, porque a encriptação das comunicações não permite usar este tipo de ferramentas, que varrem a internet à procura de um match. As denúncias têm de ser diretas e concretas, para um grupo ou um contacto.

STOPNCII
STOPNcii - denúncias de violência sexual baseada em imagens, maiores de 18 anos

Nestes casos, a ajuda de parceiros privilegiados destas plataformas é a forma mais rápida de fazer chegar e ver atendido um pedido de bloqueio. Qualquer utilizador pode fazer um pedido deste tipo a um serviço online, mas a rede de parceiros reconhecidos, como a Linha Internet Segura no caso de Portugal, têm acesso a uma espécie de “via verde” para denúncias e conseguem uma visibilidade mais rápida, sobretudo em casos que envolvam menores.

“Nos casos em que há uma tentativa de extorsão associada é importante não ceder às tentativas de coação”, sublinha também Carolina Soares. Não dar dinheiro, não aceitar partilhar mais conteúdo, contactos de conhecidos, que os chantagistas também pedem, e não aceitar encontros presenciais.

Se bem que os casos denunciados provam que não é preciso ter uma vida digital muito ativa ou exposta a estranhos para ser vitima de violência sexual baseada em imagens, as vitimas são aconselhadas a fazer uma reflexão da sua vida digital. “O meu perfil nas redes sociais é público ou privado, conheço todos os contactos a quem me ligo?”, são perguntas que vale a pena fazer e, com apoio de alguém de confiança, rever redes de contactos e quem tem acesso aos conteúdos que publicamos.

Quando a partilha de imagens não autorizadas ou manipuladas envolve ameaças, vale ainda a pena fazer capturas de ecrã a toda a troca de mensagens que as provem, antes de bloquear o chantagista. Se vier a apresentar queixa à polícia esses elementos vão documentá-la. No contacto com as plataformas de internet estes registos também são úteis.

TakeItDown
TakeItDown - baseada em imagens, menores de 18 anos

Através da Linha internet Segura quem é vítima deste tipo de agressão pode também ser encaminhado para apoio psicológico e jurídico e é feita a ponte com as autoridades. Como explica Carolina Soares, este primeiro apoio na apresentação de queixa "ajuda a saltar um passo que pode ser doloroso naquele momento do processo, de ter que ir a uma esquadra para expor o caso. Sobretudo em casos que envolvem menores". A Linha encaminha a denúncia e o Inspetor que ficar responsável pelo caso devolve o contacto à vítima.

Esta Linha (800219090), vocacionada para o esclarecimento de dúvidas sobre a utilização da internet, apoio e encaminhamento de vítimas de cibercrime , integra o consórcio Centro Internet Segura, com vários parceiros a trabalhar noutras tantas áreas para o mesmo  fim comum. Tem também competência para receber denúncias de conteúdo ilegal e abusivo, que podem ser feitas através de uma plataforma online.

Durante este ano espera-se que surja mais um canal para denúncias de conteúdos abusivos online envolvendo crianças e jovens. A iniciativa será da Comissão Nacional para a Proteção de Dados, que quer criar um Canal Prioritário para a análise urgente dos pedidos de crianças e jovens, relativos a dados pessoais e conteúdos sensíveis disponibilizados na Internet, noticiou o jornal Público recentemente.

Este artigo integra um Especial que o SAPO TEK está a publicar ao longo desta semana sobre O lado "menos bonito" da inteligência artificial.

Não perca as principais novidades do mundo da tecnologia!

Subscreva a newsletter do SAPO Tek.

As novidades de todos os gadgets, jogos e aplicações!

Ative as notificações do SAPO Tek.

Newton, se pudesse, seguiria.

Siga o SAPO Tek nas redes sociais. Use a #SAPOtek nas suas publicações.