“Foi apenas uma brincadeira”, alegou um adolescente quando foi detido pelas autoridades nos Estados Unidos, por ter perguntado ao ChatGPT “como matar um amigo no meio da sala de aula”. É mais um caso de como o sistema de segurança da escola foi ativado, tomando as medidas necessárias para deter um adolescente de 13 anos, suspeito de conspirar para a morte de um colega. 

Não perca nenhuma notícia importante da atualidade de tecnologia e acompanhe tudo em tek.sapo.pt

Os Estados Unidos têm um historial de massacres em recintos escolares, levando o governo a adotar medidas de vigilância e antecipação. Através do sistema de vigilância Gaagle, automaticamente é enviado uma mensagem ao agente policial designado para proteger o recinto escolar, destaca o Euronews. O estudante da Flórida utilizou o computador da escola para fazer uma pergunta que poderia colocar em risco os colegas e foi imediatamente detido. 

Apesar de ter referido que se tratava de uma brincadeira, a polícia não levou arriscou e deteve o jovem. Este foi algemado e conduzido à delegacia local, arriscando-se a permanecer preso até um máximo de 21 dias, dependendo da análise do juiz perante a gravidade da situação. 

Segundo o comunicado da ocorrência enviado à Globo, o estudante em questão diz que apagou o texto logo em seguida e nunca mostrou a mensagem a ninguém. Disse ainda ao agente policial que tomou a ocorrência que não tinha acesso a armas em casa. As autoridades aproveitaram este caso para alertar os pais para monitorizar aquilo que pesquisam no ChatGPT. “Uma partida pode tornar-se uma emergência escolar”, pedindo um “puxão de orelhas” para que se evite este tipo de erros. 

O que é o sistema de vigilância das escolas Gaagle?

O Gaagle varre as contas escolares para detetar pesquisas de conteúdos nocivos, através de inteligência artificial. Este emite alertas automáticos aos administradores escolares e autoridades policiais sempre que identifica sinais de tópicos preocupantes, tais como automutilação, depressão, pensamentos suicidas, o uso de drogas, cyberbullying, ameaças de violência (como foi o caso), entre outros assuntos pesquisados pelos alunos.

Porque é um sistema polémico?

O sistema de vigilância tem vindo a mostrar-se eficiente na deteção antecipada de comportamentos preocupantes em ambientes escolares nos Estados Unidos. Ainda assim, tem sido criticado pelo número de alarmes falsos, além da que pisa a fronteira entre a segurança e a privacidade dos estudantes.  

Os educadores dizem que o sistema Gaagle já ajudou a salvar vidas, embora seja criticado por criminalizar crianças por palavras não refletidas. Outra polémica relacionada com o sistema é a presença, quase rotineira, das forças policiais na vida dos estudantes, muitas vezes dentro das suas casas. 

Como funciona o Gaagle?

O sistema utiliza IA e revisão humana para assinalar potenciais ameaçadas, preocupações de saúde mental ou comportamentos inapropriados. Foi desenhado para assistir as escolas até ao ensino secundário a identificar proativamente os estudantes que estejam em risco ou prestes a proceder comportamentos violentos.

O Gaagle monitoriza emails, documentos, chats e ainda a atividade online, nas plataformas escolares, tais como o Google Workspace e o Microsoft 365. Também pesquisa por palavras-chave e frases relacionadas com violência, autoflagelação, bullying, uso de drogas e outros assuntos preocupantes. Também as imagens e documentos anexos que tenham conteúdos inapropriados ou perigosos são também assinalados. 

Quem recebe os alertas?

Os alertas não são apenas enviados para as autoridades, mas também para profissionais de saúde mental, dependendo dos temas em questão. O Gaagle é alimentado por sistemas de machine learning que detetam os conteúdos em risco, que são depois revistos por especialistas humanos de segurança. No caso de risco elevado, as escolas recebem de imediato o alerta. Por fim, o Gaagle oferece serviços de teleterapia e aconselhamento em casos de crise.

Assine a newsletter do TEK Notícias e receba todos os dias as principais notícias de tecnologia na sua caixa de correio.