Brincar no ChatGPT ou desenvolver soluções de negócio? Microsoft mostra potencial do Azure OpenAI

Depois de uma fase experimental, onde o ChatGPT veio abrir a caixa de pandora, começam a surgir soluções de empresas que usam a plataforma de serviços de Azure OpenAI para desenvolver soluções de negócio. EDP, Ministério da Justiça, Leadzai e Visor.ai mostraram o que estão a fazer.

As empresas já estão a desenvolver soluções que tiram partido do GPT da OpenAI e a plataforma Azure OpenAI junta o potencial da IA generativa com outras ferramentas da Microsoft, num ambiente seguro e controlado. Manuel Dias defende que estamos numa fase de mudança disruptiva, com resultados que por vezes parecem magia, e sublinha a aceleração incrível que foi feita nos últimos meses e que traz promessas de avanços rápidos da tecnologia.

“Não consigo fazer previsões de onde vai parar, mas reparem na velocidade do que aconteceu em três anos, é impressionante”, afirmou, traçando a evolução desde o modelo BERT em 2018 ao GPT 4. O diretor de tecnologia da Microsoft Portugal foi um dos oradores do evento dedicado ao Azure OpenAI, organizado pela empresa na semana passada, onde destacou a felicidade que temos de “viver uma alteração de paradigma”, embora não se consiga ainda ver todos os impactos futuros.

Apesar da Inteligência Artificial ter mais de 50 anos, com o conceito dos testes de Turin, a maior aceleração da tecnologia acontece com os modelos de deep learning, já em 2010 e o desenvolvimento feito com redes neuronais profundas. A IA generativa nasce em 2017/18 e o impacto sente-se também na evolução do conceito de serviço para plataforma, com automatização de tarefas com base em modelos fundacionais onde uma aprendizagem auto supervisionada recorre a texto, imagens, discurso, dados estruturados e sinais 3D e adapta em tarefas de perguntas e respostas, análise de sentimento, extração de informação, reconhecimento de objetos e captura de imagens.

Enquanto fã desta área, Manuel Dias diz que o que mais o espanta é perceber se estamos a atingir a IA geral. “Muitos defendem que o ChatGPT e o GPT 4 estão nesse caminho e à medida que aumentamos o número de parâmetros começam a aparecer comportamentos emergentes que não estavam nos dados”, explica, dizendo que não é apenas sumarização mas comportamentos alternativos, como por exemplo na aritmética. “Quando aumentamos o número de parâmetros há uma transição de fase”, justifica, dando exemplo de estudos feitos por académicos nesta área.

Veja as imagens da conferência

• 
• 
• 
• 
• 
• 
• 
• 

Azure OpenAI e a diferença de uma plataforma preparada para as empresas

A parceria da Microsoft com a OpenAI permitiu à empresa integrar serviços com a tecnologia da ONG desde 2019, e Manuel Dias traçou o cronograma da implementação dos vários serviços Microsoft, começando pelo Azure OpenAI API em 2020, o DALL-E e Clip em 2021 e depois o PowerBI, Powerplatform fx e GitHub copilot, até ao recente anúncio do Copilot no Microsoft 365. “É impressionante o que foi feito em 2 ou 3 meses, há uma aceleração radical”, sublinha, mostrando o que já está disponível no Azure OpenAI, com os modelos de geração de texto de GPT-3.5, GPT-4 e ChatGP, ainda em preview para IA conversacional, o Codex para código e Dall-E para imagens. “E isto não esgota aqui”, afirma.

O diretor de tecnologia da Microsoft sublinha porém que é preciso destacar as diferenças que existem entre os modelos da OpenAI e o Azure OpenAI. “O Azure é um plataforma empresarial, pode escolher o que quer fazer, escolher o datacenter a região onde o modelo está a correr, tem toda a componente de segurança e IA responsável, o chat está numa rede privada e o cliente escolhe quais são as fontes de dados que quer usar”, afirma.

E há ainda a integração das soluções com o portfólio de serviços do Azure, em machine learning, OCR, integração em ferramentas de produtividade, low code e negócio.

Para Manuel Dias a questão que as empresas têm de perceber é se estão ainda na fase de tentar enganar o ChatGPT e “brincar” com os modelos da OpenAI ou já a integrar o potencial no seu negócio. E garante que já há muitas organizações a tirar partido da plataforma do Azure OpenAI, como a EDP e o Ministério da Justiça, convidando todos os interessados a usar o playground da plataforma para desenvolverem os seus protótipos e depois integrarem dentro dos seus processos de negócio. “A forma simples como conseguem usar é muito relevante”, aponta.

O novo Bing, integrado no Edge, é apenas uma amostra do que é possível desenvolver, com a capacidade linguística, memória e sumarização do GPT mas com acesso a informação atualizada de forma transparente com a orquestração do Prometheus, que faz a primeira pesquisa de resultados na Web para servir o GPT com essa informação.

Para a apresentação, Manuel Dias trouxe um exemplo pré-preparado, onde assume o papel de um jornalista para fazer perguntas ao António Costa e depois assume a personalidade de Ricardo Araújo Pereira para as respostas. “O Bing responde sempre com todo o contexto, até 20 perguntas atrás, o que é muito relevante, e no Azure pode escolher a personalidade que vai assumir, mais factual ou mais criativa, e a fonte de dados onde pesquisa”.

A geração de conteúdos, sumarização e criação de código – com a língua inglesa (e até portuguesa) a tornarem-se a nova linguagem de desenvolvimento – assim como a pesquisa semântica, são dois dos exemplos de casos de aplicação da plataforma Azure OpenAI que Manuel Dias destaca. São aplicadas pela EDP e pelo Ministério da Justiça, que apresentaram as suas experiências no mesmo evento.

Os ganhos com a aplicação dos novos modelos são sobretudo na produtividade mas também na criatividade, e Manuel Dias sublinha que isso pode ser facilmente medido no desenvolvimento de código, onde cerca de 50% já é automatizado no GitHub, libertando os programadores de tarefas mais rotineiras como procurar bugs.

“Estamos numa mudança disruptiva, passámos de dizer que todas as empresas são empresas de software e que todas têm processos digitais para uma altura em que todas têm acesso a Inteligência Artificial e processos que podem ser altamente optimizados”, refere, juntando a isso o tema da computação cloud, IA generativa e o facto de ter este modelo como plataforma. Mesmo assim, Manuel Dias admite que ainda só estamos no início.

“Sabemos que a  inovação não é só tecnologia, é a intersecção com a área do negócio, e muito do que vimos hoje acontecer provavelmente nem percebemos o que vai ser daqui a 5 anos”, justifica, lembrando que muitas vezes “não conseguimos perceber o que está a suceder e que isso está perto da magia, e que é isso que vemos a acontecer”.

O que a EDP, Ministério da Justiça, Leadzai e Visor estão a fazer com a IA ?

O potencial da utilização da Inteligência Artificial nas aplicações de negócio foi mostrado por quatro empresas que participaram no evento da Microsoft e que demonstraram os seus casos de aplicação, com aspectos diferenciados e diferentes estágios de maturidade. A facilidade e segurança foram pontos destacados, mas também os ganhos de produtividade e comunicação com os clientes e cidadãos.

A EDP, que está a trabalhar com a Singularity Digital Enterprise num protótipo para o contact center onde o objetivo é facilitar a operação e libertar o operador para dar mais valor ao cliente.

“Há 6 meses estávamos a brincar no chatGPT mas quando Microsoft integrou no Azure vimos que tínhamos a segurança para criar os nossos usecases”, afirmou Marco Pinheiro, Head of Data & AI na EDP, defendendo que esta é uma tecnologia que vai transformar a forma de trabalhar e que é preciso acelerar a sua adoção.

Para o executivo há ainda aspectos regulatórios a definir mas a empresa queria perceber como podia usar os áudios e transcrever conversas, sumarizar a informação e depois fazer análise de qualidade de chamada e satisfação, produzindo os relatórios após a comunicação.

O protótipo foi feiro em três semanas com o apoio da Singularity Digital Enterprise e ainda não sabe se vai passar a produção, mas a qualidade de transcrição, utilização de contexto e ligação aos outros sistemas de negócio da EDP ficou demonstrada na apresentação.

Já disponível ao público, embora ainda numa fase inicial, o GPJ do Ministério da Justiça foi também apresentado na conferência, mostrando com a Inteligência Artificial pode ajudar a dar resposta ao cidadão que procura informação no Portal da Justiça. Sónia Sintra, coordenadora do IRN, explicou que a ideia é seguir o ciclo de vida do cidadão, e ajudar a aceder à informação entre os 183 serviços da plataforma. “Existe muita informação, informação dispersa, e a pesquisa orgânica devolve muitos resultados”, justifica.

O GPJ foi desenvolvido com a Genesis.studio e a Microsoft e já dá respostas sobre casamento e divórcio, dois dos temas mais pesquisados no site. O Guia foi lançado a 31 de março e continua a evoluir para melhorar a experiência, mas é um ambiente controlado porque só responde em português e com base de dados da justiça. “Já temos cerca de 3 mil utilizadores por semana”, adiantou Sónia Sintra.

A ideia é agora escalar o GPJ para outros serviços, para as empresas e cidadãos, mas ainda não há data para esta implementação.

Um caso diferente foi apresentado por Gonçalo Consiglieri, co-fundador e Coo da Visor.ai, que já explora a automação de tarefas há cerca de seis anos, com os primeiros chatbots, e o foco atual está na integração de tecnologia com GPT para resolver e acelerar muitas das questões, gerar conhecimento com Q&A, recolher informação de bases de dados não estruturadas, como vídeos e PDFs, criar assistentes digitais e mail bots ou sistemas de auditoria de contact centers.

Na Leadzai a automação é também palavra de ordem. João Aroso, fundador e CEO, explicou que a plataforma da empresa está a ser trabalhada há mais de 5 anos para automatizar a criação de campanhas publicitárias para empresas, reunindo conteúdos dos sites, criando a campanha e escolhendo as melhores formas de investir para receber maior retorno. “Era um desafio automatizar esta área, temos clientes que são eletricistas, canalizadores e restaurantes e não tinham margem para pôr alguém a criar anúncios”, explica.

A evolução dos modelos da OpenAI está a permitir à empresa afinar os resultados e perder menos tempo na finalização das campanhas. João Aroso destacou ainda a confiança que tem de uma evolução rápida na área de vídeo, que acredita que vai melhorar muito.

Os participantes deixaram ainda uma nota de aviso em relação do futuro, com a necessidade de não bloquear a inovação com a legislação. “Espero que não haja legislação na Europa como fizeram em Itália [onde proibiram o ChatGPT] para dar cabo disto e deixar os EUA a evoluírem sozinhos”, afirmou João Arosa.

Também Marco Pinheiro mostrou preocupação, lembrando que o tema da IA responsável é importante e que o IA Act, que está a ser preparado pela União Europeia, ainda não está finalizado. “Temos de olhar para a Inteligência Artificial e a forma como podemos usar. Não devemos proibir mas regular, definir como devemos usar e como não devemos”.

A mesma ideia foi partilhada por Manuel Dias, que sublinhou que a ética é um pilar fundamental, mas que a regulação não deve impedir a inovação. “Temos de encontrar soluções […] Se isto não saísse do laboratório não sabíamos o potencial”, afirmou, adiantando que estamos ainda no início e que daqui a 6 meses podemos estar num caminho diferente.