Com este objetivo, Wikipedia e Alphabet, o grupo a que pertence a Google, decidiram juntar esforços e abraçar um novo projeto, que vai recorrer a inteligência artificial para ganhar eficácia na tarefa de moderar grandes comunidades online. O objetivo do projeto de investigação DeTox é perceber melhor o fenómeno e encontrar mecanismos automatizados que consigam gerir a tarefa de moderação com a precisão de um humano mas em maior escala, avança o Público que falou com um membro da Google envolvido na iniciativa.
“As pessoas falam cada vez mais através da internet, logo os debates sobre temas importantes e difíceis estão também a acontecer online. Mas, em vez de discursos produtivos, a maioria das discussões online estão consumidos por ondas de comentários tóxicos e insultuosos”, explicou ao diário Nithum Thain, um investigador da Google Jigsaw, empresa do universo Alphabet que se dedica ao desenvolvimento de soluções tecnológicas para endereçar problemas globais.
Para arrancar com o projeto, o grupo pegou em “matéria-prima” da própria Wikipedia e vai analisar uma lista de 13.500 comentários ofensivos, identificados manualmente em 115 mil mensagens publicadas nas páginas de discussão da enciclopédia livre.
Os dados vão servir para testar as capacidades de um novo algoritmo criado para identificar declarações ofensivas e ataques pessoais a outros utilizadores em cada comentário, no momento em que é publicado numa página da Wikipedia.  
Expressões como “embaraçosamente pouco inteligente” ou “pobre, miserável e solitário” estão entre as que fazem soar alarmes no novo programa, mas que passariam ou lado da maioria dos filtros usados hoje em dia. Ultrapassar as subtilezas dos diálogos humanos muitas vezes só é possível com outros humanos na moderação dos comentários, mas os custos e o tempo necessário para o fazer em plataformas com milhões de utilizadores torna a opção pouco viável. Só na versão em inglês da Wikipedia, por exemplo, existem 63 milhões de páginas dedicadas ao debate sobre a edição de conteúdos na plataforma.
Numa primeira fase o programa funciona apenas para conteúdos em inglês, mas os promotores do projeto garantem que a ideia é reunir informação para fazer o mesmo noutras línguas.

Não perca as principais novidades do mundo da tecnologia!

Subscreva a newsletter do SAPO Tek.

As novidades de todos os gadgets, jogos e aplicações!

Ative as notificações do SAPO Tek.

Newton, se pudesse, seguiria.

Siga o SAPO Tek nas redes sociais. Use a #SAPOtek nas suas publicações.