Os sistemas de Inteligência Artificial estão longe de conseguirem replicar a forma como os humanos aprendem a linguagem e os investigadores da Meta têm trabalhado nesta questão para tornar o processo mais eficiente. Os modelos modernos de linguagem são treinados com milhares de milhões de frases na internet e podem parametrizar 175 mil milhões de sinapses artificiais  mas o cérebro humano pode aprender alguns milhões de frases e adaptar continuamente um bilião de sinapses.

"A nossa espécie é a única que domina a linguagem. Podemos produzir e entender uma quantidade enorme de frases e palavras e aprendemos de forma muito rápida. As crianças aprendem muito rapidamente, com poucos dados,  e isto requer uma competência que ainda continua a ser desconhecida", explica o investigador Jean Remi King.

Por exemplo, as crianças aprendem que “laranja” pode se referir tanto a frutas e cores de apenas alguns exemplos, mas os sistemas modernos de IA não podem fazer isso tão eficientemente como as pessoas.

Cérebro Meta AI
Cérebro Meta AI créditos: Meta AI

A Meta AI, a unidade de desenvolvimento de investigação em inteligência artificial, anunciou hoje uma nova iniciativa para investigação de longo prazo para perceber melhor como o cérebro humano processa a linguagem, e uma colaboração com o centro de neuroimagem NeuroSpin (CEA) e INRIA.

Os resultados do estudo vão ser usados para orientar o desenvolvimento de IA que processa fala e texto e  os dados que já foram recolhidos estão a ser  partilhados com várias instituições acadêmicas, incluindo o Instituto Max Planck de Psicolinguística e a Universidade de Princeton.

Segundo os investigadores, os modelos de linguagem que mais se assemelham à atividade cerebral são aqueles que melhor conseguem prever a próxima palavra a partir do contexto e esta pode ser a chave para identificar a forma como as pessoas aprendem línguas.

"Descobrimos que regiões específicas do cérebro antecipam palavras e ideias muito antes, enquanto a maioria dos modelos de linguagem hoje são tipicamente treinados para prever a próxima palavra", indica o documento hoje publicado.

Desbloqueando esse recurso de previsão de longo prazo poderia ajudar a melhorar os modelos modernos de linguagem de IA.

Veja o vídeo

Os investigadores admitem que estão apenas a tocar a superfície dos segredos do cérebro e que ainda há muito que não entendem sobre como o cérebro funciona. A NeuroSpin está a criar um conjunto de dados de neuroimagem original para alargar esta pesquisa e a ideia é disponibilizar um conjunto de dados em open-source para ajudar a estimular descobertas em IA e neurociência.

Os estudos realizados mostram que existem semelhanças quantificáveis entre o cérebro e modelos de IA, e essas semelhanças podem ajudar a gerar novos dados sobre como o cérebro funciona. "Isso abre novos caminhos, onde a neurociência guiará o desenvolvimento de IA mais inteligente e onde, por sua vez, a IA ajudará a descobrir as maravilhas do cérebro", adiantam os investigadores.