Reino Unido quer utilizar inteligência artificial para proteger a atividade online das crianças

O regulador do Reino Unido para a segurança online tem planos para utilizar a IA e outras ferramentas automatizadas para detetar e remover conteúdos ilegais online e proteger as crianças do seu acesso.

Freepik | Freepik

Ainda que a inteligência artificial possa ser polémica, pelas preocupações em torno de como esta pode ser utilizada para questões de desinformação e fraude online, o Reino Unido pretende utilizar a tecnologia para proteger as crianças de conteúdos nocivos. O regulador Ofcom, responsável pela lei britânica Online Safety Act, anunciou planos para lançar uma consulta de como a IA e outras ferramentas automatizadas utilizadas atualmente, podem ser aplicadas no futuro para detetar proactivamente e remover conteúdos ilegais online. O objetivo é proteger as crianças de conteúdos ilícitos e identificar abusos sexuais de crianças, avança o Techcrunch.

A Ofcom poderá propor um conjunto de ferramentas focadas na segurança online das crianças. E a fase de consulta vai começar nas próximas semanas, com os sistemas de IA a serem adicionados mais para o final do ano. As capacidades de monitorização da IA serão um ponto de partida para a integração da tecnologia.

Em entrevista à publicação, Mark Bunting, diretor na Ofcom, salienta que alguns serviços já utilizam este tipo de ferramentas para identificar e proteger as crianças deste tipo de conteúdos. No entanto, considera que não existe muita informação sobre a eficácia destas ferramentas. E por isso, o regulador quer garantir que a indústria está realmente a utilizá-la, mantendo a gestão da livre expressão e o respeito à privacidade.

O regulador pretende que as plataformas adotem ferramentas mais sofisticadas e sejam potencialmente multadas quando falhem na introdução de melhorias para bloquear conteúdo ou outras medidas para proteger as crianças de os aceder. A Ofcom mantém assim a responsabilidade das empresas em tomarem os passos apropriados e adoção de ferramentas para proteção dos utilizadores.

No Reino Unido há cada vez mais jovens crianças ligadas online, segundo uma investigação da Ofcom. Isso levou o regulador a criar novas demografias de acesso entre os jovens. Cerca de 38% das crianças entre os 5 e 7 anos já utilizam redes sociais, sendo o WhatsApp o mais popular com 37% de utilização. O TikTok é utilizado por 30% deste mesmo público, seguindo-se o Instagram com 22%. O Discord é utilizado por 4%. Cerca de 24% destas crianças já têm smartphone e 76% utilizam um tablet.

O estudo refere também que 32% das crianças entram online sozinhos e 30% dos pais não se importam que os seus filhos menores tenham perfis nas redes sociais. Ainda assim, o YouTube Kids continua a ser o mais popular, com 48% dos utilizadores. Este grupo de crianças também continua a adotar o gaming em 41% dos casos, sendo que 15% gostam de jogar títulos de ação.

É avançado que 76% dos pais falam com as crianças sobre a segurança online, mas o regulador aponta que existe sempre uma discrepância entre aquilo que os jovens veem e aquilo que podem reportar aos seus pais. A Ofcom entrevistou diretamente as crianças entre os 8 a 17 anos e descobriu que 32% confirmaram que viram conteúdos preocupantes online, mas apenas 20% dos seus pais disseram que eles não reportaram nada. Entre os jovens com 16 e 17 anos, 25% disseram que não sabiam bem distinguir conteúdos falsos de reais online.