IA muda as regras do jogo na segurança e novos riscos exigem (ainda mais) atenção na Internet

Francisca Andrade

6 fev 2024 06:00

Deepfakes e fraudes com IA estão entre as principais preocupações, numa altura em que riscos relacionados com conteúdo sexual, desinformação, violência e ódio continuam a marcar o panorama online. Literacia digital, ciber-higiene e boas práticas de cibersegurança são fundamentais.

Se navegar pela Internet já exigia atenção redobrada para não cair em “armadilhas”, a crescente popularização da inteligência artificial trouxe novos desafios e mais riscos para o mundo online.

Na data em que se assinala o Dia da Internet mais segura, dados avançados pela Microsoft, na mais recente versão do Online Safety Survey, em que foram inquiridos mais de 16.000 pais, jovens e adultos em 17 países, demonstram que 67% dos participantes experienciaram pelo menos um risco online no último ano.

O sexo feminino é quem mais reporta nas diversas categorias de risco, em particular, no que respeita aos conteúdos com teor sexual, onde a diferença em relação ao sexo masculino é de 6% (25% versus 19%, respetivamente).

Entre os principais riscos identificados, destacam-se a desinformação (50%); riscos pessoais (44%), como discurso de ódio, cyberbullying, assédio; abuso e ameaças de violência e conteúdo violento (34%), como violência gráfica, conteúdo terrorista e extremista.

O relatório demonstra que 87% dos inquiridos têm preocupações com o tipo de utilização que é feita com recurso a inteligência artificial, sobretudo no que toca a fraudes e burlas (71%) e deepfakes (69%).

À medida que as ferramentas alimentadas por IA generativa se vão tornando cada vez mais populares, uma tendência preocupante que se tem vindo a registar é a criação de conteúdos pornográficos manipulados que recorrem à imagem de pessoas reais sem o seu consentimento, sendo este um dos temas que marca um novo dossier que o SAPO TEK vai publicar para assinalar o Dia da Internet mais segura.

Recentemente, o caso das deepfakes sexualmente explícitas da cantora Taylor Swift, levantou uma nova polémica. A circulação das imagens, à qual se juntam muitos outros casos semelhantes, incluindo com vítimas que são menores de idade, motivou a criação de uma nova proposta de lei.

As deepfakes sexualmente explícitas estão a ser utilizadas em esquemas de sextortion, como alertou o FBI. No ano passado, a agência do governo norte-americano registou um aumento de vítimas de casos de sextortion que reportaram o uso de imagens ou vídeos manipulados e criados a partir de conteúdo inicialmente partilhado em redes sociais e plataformas online.

Além disso, a disseminação de conteúdo relacionado com sextortion está a crescer no TikTok, Instagram, YouTube e Snapchat e, num recente relatório, o Network Contagion Research Institute realça uma subida na publicação de “truques” para ensinar a identificar vítimas e extorquir dinheiro com técnicas de sextortion, nestas e noutras redes sociais.

Jovens com dificuldade em limitar o tempo online

Passar horas a fio na Internet e nas redes sociais pode ter repercussões sérias na saúde e bem-estar mental. A situação torna-se ainda mais preocupante quando se tem em conta que Portugal está entre os países da União Europeia em que mais jovens admitem estar viciados nas redes sociais.

Dados de um estudo internacional indicam que em Portugal, onde 90% dos jovens usam as redes sociais desde os 13 anos, 86% admitem este vício. Por comparação, a média europeia situa-se nos 78%.

As redes sociais têm um impacto negativo na saúde mental de dois em cada cinco jovens portugueses inquiridos, em grande parte devido à exposição a conteúdos tóxicos, a que 90% afirmam ter assistido.

O consumo desregrado de conteúdo online contribui igualmente para um estado de alienação social, apontou um recente estudo divulgado pela Fundação para a Ciência e Tecnologia, que lista os efeitos da dependência dos ecrãs e como estes são usados para aliviar, por exemplo, ansiedade e depressão.

Aliás, como realçam os dados do Online Safety Survey da Microsoft, a incapacidade de limitar o tempo online é um dos grandes desafios apontados pelos pais, com 66% dos adolescentes a admitirem pelo menos um comportamento aditivo no ano passado.

O relatório da Microsoft realça que há um “fosso” entre as expectativas dos pais em relação aos riscos e a experiência dos jovens. 70% dos jovens experienciaram, pelo menos, um risco online. Por outro lado, as expectativas dos pais relativamente a esta exposição estão 8% abaixo do valor reportado pelos filhos.

Apesar disso, 87% dos jovens inquiridos pela Microsoft afirmam falar com os seus pais sobre riscos online. Em comparação com os resultados registados em 2023, regista-se uma subida de 20% neste indicador. “De facto, há uma maior probabilidade de os jovens falarem com os seus pais do que os os seus colegas e amigos”, aponta a tecnológica.

Mas as redes sociais não são as únicas que trazem riscos para os mais jovens. A WeProtect Global Alliance realça os riscos acrescidos dos ambientes de jogos sociais online, que facilitam o convívio entre adultos e crianças.

Os dados da organização mostram que bastam 19 segundos para que as conversas com crianças em plataformas de jogos sociais possam evoluir para situações de aliciamento de alto risco. O tempo médio destes casos de aliciamento é de apenas 45 minutos.

Das preocupações ao reforço da regulamentação

Reforçar a segurança online é um dos grandes objetivos do Regulamento dos Serviços Digitais (DSA, na sigla em inglês), cujas regras começaram a ser aplicadas pelas plataformas e motores de busca na Europa em agosto do ano passado, seguindo o princípio “tudo o que é ilegal offline é também ilegal online”.

O executivo comunitário, que em dezembro designou o Pornhub, Stripchat e XVideos como plataformas online de muito grande dimensão, tem apertado o escrutínio quanto ao cumprimento das obrigações do DSA.

A Comissão Europeia abriu uma investigação formal à rede social X, numa decisão motivada por suspeitas de incumprimento do regulamento no que respeita à disseminação de desinformação acerca do conflito entre Israel e Hamas, e no que toca à disponibilização de dados a investigadores.

Anteriormente, Bruxelas já tinha alertado a Meta para a presença de desinformação acerca do conflito nas suas plataformas. O TikTok também recebeu um pedido formal de esclarecimento sobre as medidas para controlar os riscos e mitigar a partilha de conteúdo ilegal e de desinformação.

Mas a União Europeia não é a única a avançar com o reforço das medidas de proteção online. No Reino Unido, o Online Safety Act tornou-se oficialmente lei, trazendo novas regras com um foco em particular no combate aos conteúdos ilegais, às fraudes online e à partilha de fotos íntimas sem consentimento.

Já do outro lado do Atlântico, as preocupações com os riscos online, sobretudo para as crianças e jovens, estão a crescer, motivando uma recente audição no Congresso dos Estados Unidos, onde os CEOs da Meta, TikTok, X, Snap e Discord foram acusados de terem “sangue nas mãos” e de não protegerem adequadamente os utilizadores mais novos.

Apesar do consenso entre senadores democratas e republicanos, ainda não é claro se tal será suficiente para para tornar lei propostas como a Kids Online Safety Act (KOSA), que traz novas obrigações legais para proteger os mais novos, mas que também tem levantado polémica pelo impacto que pode ter na liberdade de expressão online.

O que fazer para manter a segurança online?

É fácil sentir-se assoberbado pelo crescente volume de ameaças online. As recomendações básicas de segurança são importantes, mas, por si próprias, não são suficientes para fazer face à constante evolução do panorama de ameaças. À ciber-higiene e às boas práticas de cibersegurança deve juntar-se uma aposta reforçada na literacia digital.

Clique nas imagens para recordar 7 dicas essenciais para reforçar a segurança e fazer face às ameaças online

As crianças e jovens são um dos grandes focos do Dia da Internet mais segura e são várias as iniciativas que decorrem hoje e ao longo dos próximos dias para sensibilizar miúdos e graúdos, e Portugal não fica fora das comemorações.

Entre os dias 6 e 8 de fevereiro, Viseu vai ser palco das comemorações desta data coordenadas pelo Centro Internet Segura, com espaço para fóruns de discussão sobre o impacto da IA, para as Oficinas Internet Segura e o Roadshow ZigZaga na Net.

A Microsoft Portugal e a Guarda Nacional Republicana (GNR) voltam a juntar-se para assinalar a data com uma sessão comemorativa e com um conjunto de ações de sensibilização, que incluem iniciativas junto de instituições de ensino, para alunos, professores e encarregados de educação, ao longo dos próximos meses para reforçar a literacia digital.

Criar hábitos digitais saudáveis em família nem sempre é uma tarefa fácil, mas existem dicas úteis que pode seguir para ajudar os mais novos a terem experiências mais seguras, sem esquecer os jogos online.

Clique nas imagens para ver com mais detalhe