Num relatório hoje publicado, com base na análise de conteúdos publicados em várias redes sociais entre janeiro e junho de 2022, a Agência para os Direitos Fundamentais da União Europeia concluiu ser fundamental melhorar a moderação de conteúdos para combater eficazmente os discursos de ódio.

“O grande volume de ódio que identificámos nas redes sociais mostra claramente que a União Europeia (UE), os seus Estados-membros, e as plataformas online têm de intensificar os seus esforços para criar um ambiente mais seguro no espaço online, quer no que diz respeito aos direitos humanos, quer para a liberdade de expressão”, afirmou o diretor da FRA, Michael O’Flaherty, citado no relatório.

Para isso, é preciso “mais transparência e orientação”, defendeu a agência europeia no relatório intitulado “Moderação de conteúdo online e ódio online”, acrescentando que “a maior parte do ódio online tem como alvo as mulheres, mas também as pessoas de ascendência africana, ciganos e judeus”.

Um dos problemas, referiu a FRA, é a falta de acesso aos dados das plataformas e de compreensão do que constitui discurso de ódio, já que “não existe uma definição vulgarmente acordada sobre o que é um discurso de ódio online”.

Além disso, acrescentou a agência europeia, os sistemas de moderação de conteúdos não estão abertos a investigadores, o que “torna difícil obter uma imagem completa da extensão do ódio online e dificulta os esforços para combatê-lo”.

Entre as publicações e comentários analisados, a FRA concluiu que há vários tipos de discursos a combater, a começar pelo ódio generalizado.

“De 1.500 publicações avaliadas inicialmente por ferramentas de moderação, mais de metade (53%) foram consideradas de ódio por programadores humanos”, alertou a agência, sublinhando que as ferramentas automáticas deixam escapar uma boa parte da violência.

Mas os discursos de ódio passam também pela misoginia, sendo que as mulheres são os principais alvos do ódio online em todas as plataformas e países pesquisados.

“A maior parte do discurso de ódio contra as mulheres inclui linguagem abusiva, assédio e incitamento à violência sexual”, sublinhou a FRA, acrescentando que quase metade (47%) de todas as publicações de ódio são assédio direto.

Além disso, a agência da UE detetou ainda muitos casos de estereótipos negativos, dirigidos sobretudo a pessoas de ascendência africana, ciganos e judeus.

Para combater o ódio online, a Agência de Direitos Fundamentais da UE recomenda que as plataformas e sites de Internet prestem especial atenção, através das suas ferramentas de moderação e monitorização de conteúdos, ao género e à etnia.

“Plataformas online muito grandes, como o X (antigo Twitter) ou o YouTube, deveriam incluir a misoginia nas suas avaliações” de conteúdos e “adotar medidas de mitigação no âmbito da Lei dos Serviços Digitais”, defendeu a FRA.

Para a agência europeia, é ainda essencial que “todos os Estados-membros da UE ratifiquem a Convenção de Istambul [que visa a prevenção e combate da violência contra as mulheres] para melhor protegerem as utilizadoras femininas das redes na Internet”.

Por outro lado, acrescentou a entidade, é necessário “fornecer mais orientação aos reguladores, já que nem sempre é claro o que é considerado uma expressão de ódio e o que é protegido pela liberdade de expressão”.

Segundo a FRA, a Comissão Europeia e os Governos nacionais dos 27 Estados-membros devem “criar e financiar uma rede de sinalizadores de confiança, envolvendo a sociedade civil”, de forma a conseguir captar todas as formas de ódio online.

Ainda de acordo com a agência, estes sinalizadores devem ser alvo de formação e treino, assim como a polícia e os moderadores de conteúdos para garantir que as plataformas não perdem ou removem demasiados conteúdos.

É ainda necessário testar a tecnologia quanto “a preconceitos para proteger as pessoas de discriminação”, nomeadamente quando estão envolvidos sistemas de Inteligência Artificial, destacou ainda a FRA.

Por fim, a agência europeia defendeu no relatório hoje publicado que deve ser garantido o acesso aos dados das plataformas a investigações independentes.

“Só uma variedade de abordagens e de testes fornecerão uma imagem completa do tipo de ódio que não está a ser devidamente identificado e de qual é o seu impacto nos direitos fundamentais das pessoas”, sublinhou a entidade.

O relatório da FRA foi realizado com base em análise a quatro plataformas e redes sociais – Reddit, Telegram, X e YouTube - na Alemanha, Itália, Bulgária e Suécia, já que a agência não conseguiu aceder aos dados do Facebook e do Instagram.

A FRA avaliou quase 350 mil publicações e comentários com base em palavras-chave específicas e codificadores humanos avaliaram cerca de 400 mensagens aleatórias de cada país para determinar se estas podiam se classificadas como discurso de ódio.

Não perca as principais novidades do mundo da tecnologia!

Subscreva a newsletter do SAPO Tek.

As novidades de todos os gadgets, jogos e aplicações!

Ative as notificações do SAPO Tek.

Newton, se pudesse, seguiria.

Siga o SAPO Tek nas redes sociais. Use a #SAPOtek nas suas publicações.