6 desafios ocultos da Inteligência Artificial que podem custar milhões às empresas no futuro

Há aspetos que não são prioridade na estratégia de inteligência artificial das organizações, mas que, no futuro, podem arruinar o sucesso de qualquer projeto e custar caro. A Gartner identificou seis.

A Gartner identificou um conjunto de desafios ocultos que podem comprometer o retorno dos investimentos das empresas em inteligência artificial. Nesta lista de riscos, a consultora inclui a IA oculta, a dívida técnica, a erosão de competências, exigências de soberania de dados impostas pelos países, problemas de interoperabilidade e dependência de fornecedores. Estima que, até 2030, estes aspetos vão contribuir para marcar a diferença entre “empresas que escalam a IA de forma segura e estratégica e aquelas que ficam presas, ultrapassadas ou perturbadas internamente”.

Não perca nenhuma notícia importante da atualidade de tecnologia e acompanhe tudo em tek.sapo.pt

A apoiar as previsões estão alguns números recolhidos pela consultora nos últimos meses. Uma pesquisa realizada entre março e maio (com 302 líderes em segurança digital) revelou que 69% das organizações suspeitam ou têm evidências de que os funcionários estão a usar GenAI abertas não autorizadas.

Em 2030, a Gartner acredita que este tipo de práticas terão contribuído para que 40% das empresas sofram incidentes de segurança ou conformidade, relacionados com a IA paralela não autorizada. Estas práticas abrem caminho à perda de propriedade intelectual, exposição de dados e aumento dos riscos de segurança, destaca-se.

Aconselha-se que as empresas definam políticas claras para o uso de ferramentas de IA, realizarem auditorias regulares para atividades de IA paralelas e incorporarem a avaliação de risco de GenAI nos seus processos de avaliação de SaaS.

A Gartner antecipa ainda que, até 2030, 50% das empresas vão enfrentar atrasos nas atualizações de IA e/ou aumento dos custos de manutenção, por causa da dívida técnica não gerida de GenAI. Será o custo a pagar por dar prioridade à rapidez, sacrificando a documentação detalhada de ativos e o rastreamento de métricas de forma eficaz que teriam ajudado a evitar correções de trajetória caras mais à frente.

A consultora acredita ainda que o tema da soberania tecnológica será cada vez mais relevante e que, até 2028, 65% dos governos a nível global vão introduzir requisitos deste tipo para melhorar a independência e protegerem-se contra interferências regulatórias extraterritoriais.

“As restrições regulatórias à partilha transfronteiriça de dados ou de modelos podem retardar as implementações de IA em toda a empresa, aumentar o custo total de propriedade (TCO) e conduzir a resultados abaixo do ideal”, alerta a Gartner.

Para se protegerem, as empresas devem incorporar a soberania de dados nas suas estratégias de IA desde o início, dando prioridade a fornecedores que atendam a esses requisitos, recomenda a consultora.

Fica ainda um aviso às organizações para o risco de “dependência excessiva da IA, que pode corroer a experiência humana crítica, a análise e o conhecimento tácito que não são facilmente transformados em código ou substituíveis”. Se a IA falhar, as empresas vão continuar a precisar de funcionar e o conhecimento humano vai ser essencial para isso, alerta-se. Nas áreas críticas, a IA deve complementar e acrescentar e não substituir.

Recomenda-se ainda que as empresas deem prioridade a “padrões abertos, APIs abertas e arquiteturas modulares” e tornem a interoperabilidade norma, para todos os desenvolvimentos de IA. A pressa de avançar rápido na tecnologia nem sempre está a deixar espaço para acautelar estes temas, que mais à frente podem ter custos elevados.

Estes desafios, explica ainda a consultora, decorrem de “riscos negligenciados e consequências indesejadas da adoção da IA generativa”, que têm de ser endereçados para não se traduzirem em falhas nos projetos em curso, nem comprometerem o seu valor no futuro.

“As tecnologias e técnicas de GenAI estão a evoluir a um ritmo sem precedentes, acompanhado apenas pelo entusiasmo que as rodeia, o que torna difícil para os CIOs navegar neste cenário dinâmico”, reconhece Arun Chandrasekaran, vice-presidente e analista da Gartner, citado num comunicado.

As organizações têm tendência a concentrar atenções nos desafios imediatos da GenAI, como o valor comercial dos projetos, a segurança ou a preparação de dados. Enquanto isso, ignoram aspetos que não são visíveis numa primeira análise, mas podem comprometer os pontos mais valorizados.

Assine a newsletter do TEK Notícias e receba todos os dias as principais notícias de tecnologia na sua caixa de correio.