Ação judicial no Novo México acusa redes sociais da Meta de facilitar o abuso de predadores sexuais a crianças

O Facebook e Instagram foram alvo de uma ação judicial submetida pelo Procurador-Geral do Novo México. As redes sociais da Meta são acusadas de facilitar as atividades dos predadores sexuais a menores, que são "inundados" com propostas e conteúdos adultos.

Pexels | Cottonbro

Uma anterior investigação do The Wall Street Journal mostrou que o serviço de vídeos Reels do Instagram sugere conteúdo sexual relacionado com crianças, mas também adultos. A investigação sugere que jovens ginastas e líderes de claques são os principais alvos, estando em causa os algoritmos e da combinação de anúncios de que usa redes sociais da Meta.

Estes conteúdos, que por norma são proibidos nas plataformas da empresa de Mark Zuckerberg, acabam por aparecer algumas vezes baralhados entre anúncios da Disney, Walmart e Pizza Hut, com conteúdos do Bumble ou Match Group.

O Procurador-Geral do Novo México, nos Estados Unidos, avançou com uma ação judicial contra o Facebook e Instagram por conduzir predadores sexuais a crianças. E os investigadores estatais fizeram os seus próprios testes para chegar às conclusões que pretende levar a Meta a tribunal. Neste caso foram usadas contas com fotografias geradas por IA, que não evitaram a inundação de propostas de cariz sexual e conteúdo para adultos, reporta o mesmo jornal.

A ação civil deu entrada esta terça-feira no tribunal estatal do Novo México, acusando a Meta de permitir que o Facebook e o Instagram “se tornassem um Marketplace para predadores à procura de crianças para caçar”, cita o jornal. A empresa de Mark Zuckerberg é também acusada de ter falhado em implementar proteções contra a utilização da rede social por crianças abaixo dos 13 anos, apontando às vulnerabilidades relacionadas com a idade no interesse de aumentar as receitas de publicidade. E a ação acusa diretamente o líder da Meta, Mark Zuckerberg pela responsabilidade pelas decisões que agravaram os riscos às crianças nas plataformas da empresa.

As contas de teste foram configuradas para se fazerem passar por adolescentes ou pré-adolescentes. Foram criadas fotografias através de inteligência artificial para alimentar essas contas fictícias. A conclusão dos investigadores é que os algoritmos da Meta recomendaram conteúdo sexual a estas contas, além de terem sido inundadas com mensagens explicitas e propostas sexuais de outros utilizadores.

Algumas das empresas visadas no caso de associação aos conteúdos sexuais direcionados às crianças, como a Bumble, Match Group, Hims e Disney começaram a deixar de anunciar na rede, pressionando a Meta para resolver o problema. A própria empresa de Mark Zuckerberg reagiu, deixando a garantia que se encontra a investigar o caso. E assumiu a responsabilidade e os custos associados às auditorias de segurança para verificar a frequência com que os anúncios de uma empresa surgem ao lado de conteúdos assinalados como inaceitáveis.

A Meta diz que continua empenhada em proteger os utilizadores mais jovens e numa comunicação publicada pelo jornal, refere que utiliza tecnologia sofisticada, contrata especialistas em segurança das crianças, além de reportar os conteúdos ao NCMEC (National Center for Missing & Exploited Children). Além disso diz que partilha a informação e ferramentas com outras empresas e autoridades, incluindo a Procuradoria-Geral.

De recordar que as redes sociais, não apenas da Meta, como também da Google, Snap e TikTok estão a ser escrutinadas pelas famílias pelas suas ferramentas viciantes. A ação judicial imposta pelos pais já é considerada uma das maiores contra as empresas de Silicon Valley. À ação juntam-se ainda escolas dos vários distritos espalhados pelos Estados Unidos que culpam as empresas das suas plataformas serem prejudiciais por design. Mas o caso chegou mesmo a dar origem a ações judiciais por Procuradores-gerais em representação de 41 dos Estados Unidos pelos transtornos de saúde mental causados aos utilizadores mais jovens.