Recentemente, a OpenAI atualizou o modelo GPT-4o, que “alimenta” o ChatGPT. No entanto, pouco depois da atualização, vários utilizadores começaram a notar uma mudança de atitude no chatbot.

De um momento para o outro, o ChatGPT tornou-se estranhamente “simpático”, respondendo às questões e pedidos com demasiados elogios. Nas rede sociais, vários utilizadores partilharam como o chatbot apoiava e elogiava todo o tipo de ideias, mesmo que fossem potencialmente prejudiciais ou perigosas.

Sam Altman, CEO da OpenAI, reconheceu o problema numa publicação na rede social X. De acordo com o responsável, as atualizações feitas acabaram por tornar o chatbot “demasiado lisonjeador e irritante”, mas a empresa estava já a trabalhar numa solução.

Dias depois, Sam Altman anunciou que a OpenAI estava a reverter a atualização ao modelo GPT-4o. Os utilizadores da versão grátis do ChatGPT foram os primeiros a ver a diferença no ChatGPT, à medida que a empresa continua a desenvolver correções adicionais à personalidade do modelo.

De acordo com a tecnológica, que publicou depois as conclusões da sua análise, a atualização tinha como objetivo fazer com que a personalidade predefinida do modelo fosse mais intuitiva e eficaz para uma variedade de tarefas.

“No entanto, nesta atualização, focamo-nos demasiado no feedback a curto-prazo, e não tivemos totalmente em conta a forma como as interações dos utilizadores com o ChatGPT evoluem ao longo do tempo”, explica. “Como consequência, o GPT‑4o tinha tendência a dar respostas demasiado encorajadoras, mas pouco genuínas”.

A tecnológica afirma que está a implementar medidas de correção, incluindo nas técnicas de treino do modelo, e a desenvolver medidas de segurança adicionais para melhorar a honestidade e transparência do modelo.

Outra das medidas, neste caso mais experimental, passa por permitir que os utilizadores possam dar feedback em tempo real para influenciar diretamente as integrações com o ChatGPT, assim como escolher uma personalidade própria para o chatbot, avança o website TechCrunch.