OpenAI criou uma ameaça para a humanidade? O que é o Q* e porque levou à demissão de Sam Altman

Dias antes de Sam Altman ter sido demitido, vários investigadores da OpenAI enviaram uma carta ao conselho de administração que alertava para os perigos de um novo algoritmo. Mas o que é o Q* e por que motivo é que pode ser uma ameaça para a humanidade?

Após a polémica com a saída de Sam Altman, a OpenAI confirmou que voltaria à liderança, desta vez, com um novo conselho de administração. Mas, o que levou realmente ao despedimento do cofundador da empresa? As teorias multiplicam-se online e, agora, novos detalhes apontam que um dos fatores terá sido uma descoberta que poderia pôr em causa o futuro da humanidade. 

De acordo com fontes internas a que a Reuters teve acesso, dias antes de Sam Altman ser despedido, vários investigadores da OpenAI enviaram uma carta ao conselho de administração que alertava para os perigos de um novo algoritmo, chamado Q* (Q-Star).

Segundo uma das fontes, Mira Murati, Chief Technology Officer da OpenAI, que tinha sido anteriormente escolhida para assumir o cargo de CEO durante a procura formal por um novo líder, disse os funcionários da empresa que a carta acerca do Q* precipitou a decisão do conselho de administração. 

Mas o que é o Q* e quais são as suas capacidades? Ao que tudo indica, a descoberta afirma-se como um avanço significativo para a OpenAI e a suas ambições na área da IA geral (AGI), com sistemas tão inteligentes, ou mais, do que os humanos. Os testes realizados terão demonstrado que, com recurso a um vasto conjunto de recursos computacionais, a tecnologia é capaz de resolver determinados problemas matemáticos.

Embora o seu nível de “inteligência” seja comparável com o de um aluno da primária, os resultados foram suficientes para deixar os investigadores do projeto otimistas. Note-se que a resolução de problemas matemáticos é vista como um avanço significativo uma vez que os atuais sistemas de IA generativa não são capazes de tal tarefa. 

A carta enviada ao conselho de administração da OpenAI terá sido apenas um de muitos pontos numa longa lista de factores que, alegadamente, terão levado à demissão de Sam Altman.

Acredita-se, por exemplo, que Ilya Sutskever terá desempenhado um papel significativo na demissão. Segundo fontes contactadas por Kara Swisher, contribuidora da CNN, o cientista-chefe da tecnológica estaria preocupado com a forma como a empresa estava a avançar, em particular, após a revelação dos GPTs, que dão aos utilizadores a possibilidade de criarem versões personalizadas do ChatGPT.

Ao que tudo indica, existiam tensões entre Sam Altman, que tinha uma abordagem mais "agressiva" em relação ao desenvolvimento de soluções com IA, e os membros do anterior conselho de administração, que, por contraste, defendiam que a empresa devia avançar de forma mais cuidadosa.

Recorde-se que, inicialmente, o conselho de administração tinha detalhado apenas que a demissão seguia um processo de análise, que concluiu que Sam Altman “não era consistentemente sincero nas suas comunicações com o conselho, prejudicando a capacidade de exercer as suas responsabilidades”. “O conselho não confia na sua capacidade de continuar a liderar a OpenAI”, indicou.

Ainda ontem, depois de conflitos internos na empresa e uma crescente pressão dos investidores, OpenAI disse ter chegado" a um acordo de princípio para Sam Altman retornar como presidente executivo de um novo conselho de administração. Os detalhes ainda não estão fechados, mas devem ser comunicados em breve.

Após a demissão de Sam Altman, a Microsoft tinha avançado com a proposta de o integrar na empresa, numa nova divisão dedicada à Inteligência Artificial Generativa, uma área onde está a apostar fortemente com uma parceria com a OpenAI que levou ao desenvolvimento de vários produtos e serviços.

O novo conselho de administração da OpenAI vai incluir o antigo copresidente executivo da tecnológica norte-americana Salesforce Bret Taylor, o antigo secretário do Tesouro dos Estados Unidos Larry Summers e o líder do portal de perguntas e respostas Quora, Adam D'Angelo.