Um sistema de inteligência artificial foi apanhado a "cabular" num teste. O programa em questão estava incumbido de transformar imagens aéreas em mapas terrestres e acabou por esconder um conjunto de informações que, mais tarde, seriam necessárias para completar uma teste às suas capacidades.

O objetivo deste projeto, que reúne investigadores da Google e da Universidade de Stanford, é acelerar e melhorar a capacidade de processamento deste sistema. Numa fase inicial, os envolvidos suspeitaram dos resultados positivos que estavam a receber e perceberam que algo estava errado quando a IA transformou mapas terrestres em fotografias aéreas, dado que estas últimas integravam vários pormenores que eram imperceptíveis nos mapas.

Nesta altura, a intenção passava por compreender se a máquina conseguia interpretar as características de cada um dos elementos presentes no mapa e convertê-las em figuras semelhantes que se pudessem incluir numa imagem aérea. A nota era atribuída consoante a semelhança das imagens. Mas a IA optou por tomar um caminho alternativo ao pretendido. Em vez de se fazer valer das suas capacidades visuais, o computador decidiu codificar as características do mapa nos padrões de ruído da imagem aérea. Isto, de forma tão subtil que passou inicialmente despercebido aos olhos dos investigadores.

Isto é possível porque os mapas contêm pequenas oscilações de cor invisíveis ao olho humano, mas que permitem ao computador entender a imagem que está a ver de forma instantânea.

tek mapas
tek mapas

Desta forma, o computador ficou apto para integrar o código cromático correspondente à versão aérea de cada pedaço de mapa terrestre.

Esta técnica não é nova. É geralmente chamada esteganografia, e consiste na ocultação de segundas mensagens dentro de imagens ou textos. A técnica é utilizada atualmente para marcar imagens e para adicionar metadados a fotografias. Novo é o facto de um computador ter conseguido criar um método esteganográfico de raíz para completar um teste que lhe sugeria uma forma de resolução diferente.

Esta é também uma forma de reforçar uma máxima da computação, que indica que o computador faz apenas aquilo que lhe é pedido, sem olhar a meios. Se quisermos levá-los a tomar um caminho específico, isso tem de ser devidamente indicado para que não sejam corridos riscos desnecessários.

O paper "CycleGAN, a Master of Steganography" pode ser lido através deste link.