
O "LLM grooming" consiste em saturar a Internet com desinformação para que seja introduzida nos dados de treino dos chatbots com Inteligência Artificial.
De acordo com a plataforma espanhola, "os grandes modelos de linguagem (LLMs) são sistemas de IA capazes de imitar a maneira como os humanos falam, processando grandes quantidades de dados, que em muitos casos são obtidos através da Internet".
Neste sentido, utilizando a técnica "LLM grooming" é possível manipular as respostas dadas por estes modelos, alterando os seus dados de treino, através da saturação dos resultados nos mecanismos de pesquisa, por exemplo o Google, com grandes quantidades de conteúdo automatizado e desinformativo.
"Uma rede de desinformação pode alimentar as suas reivindicações nos dados de treino que os chatbots colecionam da Internet e manipular os tokens (a representação numérica de uma palavra ou parte dela) que os modelos usam para processar a linguagem e responder às instruções dadas", refere a plataforma de fact-checking
Além disso, um relatório da NewsGuard citado pela entidade espanhola salienta que, "ao saturar os dados de treino com tokens carregados de desinformação, as operações de interferência estrangeira aumentam a probabilidade de que os modelos gerem, citem e reforcem narrativas falsas nas suas respostas".
A rede russa Pravda usou esta técnica para alimentar a desinformação pró-Kremlin em chatbots de IA, como uma forma de aumentar a sua visibilidade e credibilidade.
Pergunta do Dia
Em destaque
-
Multimédia
Mario Kart World tem novos modos de jogo e um mundo aberto à exploração -
App do dia
Pondlife é um jogo relaxante que ensina mais sobre os peixes e animais marinhos -
Site do dia
Mergulhe na tranquilidade das florestas japonesas com uma nova experiência virtual da Google -
How to TEK
Como eliminar as passwords guardadas no Google Chrome, Edge e Firefox?
Comentários