A Anthropic anunciou que o seu chatbot Claude vai passar a ter a capacidade de terminar conversas, quando deteta pedidos abusivos. A funcionalidade é suportada pelos modelos Claude Opus 4 e 4.1 e a empresa assegura que a maioria dos utilizadores nem vão perceber que existe, porque está limitada a situações muito concretas.

A opção será ativada apenas em “casos raros e extremos de interações persistentemente prejudiciais ou abusivas por parte dos utilizadores”, como refere uma nota publicada no site da Anthropic.

Na mesma nota, a Anthropic concretiza explicando que cabem neste padrão de casos raros e extremos “pedidos de utilizadores relacionados com conteúdo sexual que envolva menores ou tentativas de solicitar informações que possibilitem violência em grande escala ou atos de terrorismo”.

Anthropic
Anthropic créditos: Anthropic

O fim abrupto de uma conversa será ativado como um “último recurso, quando várias tentativas de redirecionamento falharem e a esperança de uma interação produtiva se esgotar”. A ideia não é evitar conversas polémicas, garante-se, mas acrescentar aos modelos recursos para tentar evitar que sejam manipulados para uma utilização que vai além de fins legítimos.

Como funciona a “mente” de um modelo de IA? Esta ferramenta da Anthropic ajuda a descobrir
Como funciona a “mente” de um modelo de IA? Esta ferramenta da Anthropic ajuda a descobrir
Ver artigo

Quando o fim de uma conversa for desencadeado por este tipo de situações, o utilizador fica privado de enviar novas mensagens naquela conversa, mantendo apenas a possibilidade de editar mensagens anteriores e alterar o rumo do diálogo.

Se não o fizer, não terá a possibilidade de continuar a interagir com o assistente naquele mesmo diálogo, mas pode iniciar uma nova conversa logo em seguida.

Este novo recurso foi desenvolvido no âmbito de um programa de investigação da startup de inteligência artificial generativa sobre o bem-estar nos ambientes de IA. A empresa incentiva os utilizadores a partilharem feedback se forem confrontados com uma decisão de encerramento de conversa por parte do chatbot e frisa que ainda está a testar a funcionalidade.