Com o declínio gradual da verificação de factos por parte dos jornalistas em plataformas como o Facebook, cada vez mais utilizadores da internet recorrem a ferramentas de IA como a Grok para encontrar informações fidedignas, mas as respostas que recebem por vezes expõem-nos a informações incorretas.

De acordo com o estudo publicado na terça-feira pelo Digital Forensic Research Laboratory (DFRLab) do Atlantic Council, um think tank norte-americano, o desempenho da Grok durante os primeiros dias do conflito entre Israel e o Irão "revelou falhas significativas e demonstrou as limitações do chatbot em fornecer informações precisas, fiáveis e consistentes em tempos de crise".

A análise envolveu 130 mil mensagens em várias línguas na plataforma X, que integra o chatbot Grok, e determinou que este último "teve dificuldade em autenticar conteúdo gerado por IA".

Por exemplo, após os ataques de retaliação iranianos em Israel, o Grok ofereceu respostas muito diferentes a instruções semelhantes sobre imagens geradas por IA de um aeroporto destruído, que acumularam milhões de visualizações no X.

As respostas oscilavam, por vezes no mesmo minuto, entre negar a destruição do aeroporto e confirmar que tinha sido atingido por ataques.

E em algumas respostas, o Grok alegou que um míssil disparado do Iémen foi a causa dos danos, enquanto noutras, identificou falsamente o aeroporto em questão como sendo em Beirute, Gaza ou Teerão.

xAI atribui obsessão do Grok por “genocídio branco” a modificação não autorizada
xAI atribui obsessão do Grok por “genocídio branco” a modificação não autorizada
Ver artigo

De acordo com os especialistas, o Grok já foi "apanhado" nas suas respostas de verificação de factos durante o recente conflito entre a Índia e o Paquistão e durante os protestos em Los Angeles contra as políticas anti-imigração de Donald Trump.

No mês passado, o serviço de IA do empresário sul-africano Elon Musk também causou polémica ao referir-se erradamente ao "genocídio branco" na África do Sul, um erro posteriormente atribuído pela xAI a uma "modificação não autorizada".