Mais de um milhão de pessoas falam sobre suicídio com o ChatGPT todas as semanas

Dados partilhados pela dona do ChatGPT sugerem que, todas as semanas, perto de 560.000 pessoas que usam o chatbot podem estar a demonstrar sinais de psicose e 1,2 milhões a apresentarem sinais de intenção suicida.

Sad woman hug her knee,nobody · Freepik | jcomp

De acordo com novas estimativas avançadas pela OpenAI, 0,07% dos utilizadores semanais ativos do ChatGPT apresentam sinais de crise a nível de saúde mental, sobretudo no que toca a casos de psicose. Segundo a empresa, 0,15% têm conversas com indicadores explícitos de planeamento ou intenção suicida.

Não perca nenhuma notícia importante da atualidade de tecnologia e acompanhe tudo em tek.sapo.pt

Os dados partilhados pela empresa indicam que 0,15% dos utilizadores semanais ativos demonstram níveis elevados de dependência emocional do ChatGPT em detrimento das relações que mantêm no mundo real, do seu bem-estar e das suas responsabilidades.

A empresa afirma, no entanto, que estas interações são difíceis de detetar e medir, uma vez que são relativamente raras, podendo existir até alguma sobreposição entre as categorias analisadas.

Note-se que, ainda este mês, Sam Altmam, CEO da OpenAI, indicou que o ChatGPT conta com 800 milhões de utilizadores semanais ativos. Tendo em conta este número, as estimativas avançadas pela empresa sugerem que, todas as semanas, perto de 560.000 pessoas que usam o chatbot podem estar a demonstrar sinais de psicose e 1,2 milhões a apresentar sinais de intenção suicida, aponta o website Business Insider.

A tecnológica avança que trabalhou em colaboração com mais de 170 especialistas, entre psicólogos, psiquiatras e outros profissionais de saúde, para atualizar o seu chatbot de modo a que reconheça de maneira mais eficaz sinais de perturbações mentais, ajudando os utilizadores a encontrar apoio no mundo real.

Nesse sentido, o GPT-5, a mais recente versão do modelo que “alimenta” o ChatGPT, foi atualizado para responder de uma maneira específica quando os utilizadores demonstram sinais de delírios. Nestes casos, o chatbot responderá de maneira empática, evitando reforçar crenças que não se baseiam na realidade.

Os especialistas que trabalharam em colaboração com a OpenAI analisaram mais de 1.800 respostas dadas pelos modelos, comparando o desempenho do GPT-5 com o do GPT-4o. Segundo a empresa, a análise permitiu concluir que o novo modelo conta com uma redução entre 39% e 52% nas respostas indesejadas.

Assine a newsletter do TEK Notícias e receba todos os dias as principais notícias de tecnologia na sua caixa de correio.