As empresas recorrem a soluções de Inteligência Artificial para otimizar a relação com o cliente, por meio de assistentes conversacionais. No entanto, a IA pode gerar conteúdos incorretos. Para evitar respostas inesperadas quer via chat, quer por telefone, a empresa de Braga, Automaise, desenvolveu o Hallucinations Detector.

O sistema HallucinationsDetector identifica e reduz a produção de conteúdos incorretos ou enganosos gerados por modelos de IA generativa, explica a empresa, referindo que os erros gerados por aqueles modelos correspondem a alucinações. É, segundo a Automaise, um dos maiores desafios da tecnologia por poder causar danos reputacionais e/ou financeiros às empresas.

“As alucinações são o que mais coloca em causa o bom desempenho e a precisão dos modelos de IA Generativa, levando a que muitas empresas não se sintam seguras em adotar estas soluções”, detalha Ernesto Pedrosa, CEO da Automaise.

O Hallucinations Detector foi projetado para atuar em vários níveis, sendo especialmente eficaz quando estão em causa dados sensíveis. Fábio Pinto, head of artificial intelligence da Automaise, defende que o Hallucinations Detector reduz as alucinações geradas com mais eficácia do que utilizando soluções standard da indústria. A solução utiliza a lógica probabilística inerente aos modelos de IA, para avaliar a probabilidade da validade da informação e reduzir “substancialmente” a geração de conteúdos imprecisos, explica a empresa em comunicado, assinala a empresa em comunicado.

A tecnologia da Automaise está integrada com grandes sistemas de software e tem como clientes empresas na área da banca e seguros, distribuição, contact centers e na indústria.