A moderação de conteúdo é uma questão fundamental para as plataformas online, no entanto, continua a ser um desafio. A OpenAI propõe usar o GPT-4, a mais recente versão do seu modelo de Inteligência Artificial, para criar um sistema de moderação de conteúdo que, nas suas palavras, é mais eficiente e consistente.

Numa publicação no seu blog oficial, a empresa liderada por Sam Altman afirma que o modelo pode ajudar a tomar decisões mais rapidamente, sendo também um aliado no que toca ao desenvolvimento de políticas de moderação de conteúdo. De acordo com a tecnológica, o GPT-4 é capaz de analisar vários tipos de regulamentação e de se adaptar a quaisquer atualizações das mesmas.

A tecnológica acredita que a sua proposta “oferece uma visão mais positiva do futuro das plataformas digitais, onde a IA pode ajudar a moderar o tráfego online de acordo com políticas específicas e aliviar a carga mental para um vasto número de moderadores humanos”.

A moderação de conteúdo exige uma abordagem meticulosa, realça a OpenAI, além de uma maior sensibilidade, compreensão de diferentes contextos e uma rápida adaptação a novos casos de uso. Para os colaboradores humanos, este é um processo moroso e com uma elevada carga de stress, que pode ter consequências sérias para a sua saúde mental.

A OpenAI afirma que a implementação do GPT-4 permite agilizar os processos de moderação de conteúdo, reduzindo a duração de um ciclo que decorre ao longo de vários meses para uma questão de horas. Segundo a empresa, qualquer plataforma com acesso à API do OpenAI pode implementar esta estratégia e criar o seu próprio sistema de moderação alimentado por IA.

No entanto, a empresa reconhece que a intervenção humana é necessária, uma vez que as decisões tomadas por modelos de IA estão vulneráveis à tendenciosidade que pode existir nos dados utilizados para o seu treino.

“À semelhança do que se passa com qualquer aplicação de IA, os resultados e outputs gerados necessitarão de ser cuidadosamente monitorizados, validados e refinados por humanos”, sublinha a OpenAI.