Encerrando o palco principal no primeiro dia de programação completa do Web Summit, Meredith Whittaker, presidente da organização responsável pela Signal, destacou a importância de manter a aplicação de mensagens encriptadas num modelo de negócio estruturado que não comprometa a privacidade de quem a usa.

A responsável comparava o facto de a Signal ser gratuita e ser gerida por uma organização sem fins lucrativos com aquilo que chamou de “motor” das tecnológicas para ganhar dinheiro: vender os dados dos utilizadores.

É a concentração de poder nas empresas de tecnologia, com acesso a enormes quantidades de dados, que está a impulsionar o atual ciclo de “hype” da IA generativa, defendeu. Com uma história que remonta a 1956, a onda de entusiasmo de agora pela inteligência artificial está diretamente ligada ao modelo de negócios de vigilância, originado na falta de regulação das tecnológicas nos anos 90, acrescentou.

“É importante sermos honestos sobre a economia política do ecossistema tecnológico”, sublinhou Meredith Whittaker.

Para que a história não se repita com a IA, é necessário reconhecer e corrigir estes erros dos anos 90. Algo que não será fácil, reconheceu, pois já temos uma indústria da IA fundamentalmente concentrada numa “mão cheia de empresas”.

Também é preciso abordar adequadamente os desafios éticos da inteligência artificial, mas será que os chamados “AI acts”, nos Estados Unidos e na Europa estão a resolver alguma coisa? Meredith Whittaker considera que a necessidade de regulação, privacidade e controlo sobre a IA é crucial, mas a influência das grandes empresas e a pressão política representam desafios significativos para a sua implementação.

Veja as imagens do Web Summit 2023 

No caso dos EUA, a presidente da Signal aprecia o facto de a ordem não se concentrar em mitos quase religiosos de risco existencial ou numa visão fantasiosa da IA sem evidências claras. No entanto, destaca que a verdade estará nos resultados práticos, que ainda não existem.

Já na Europa, o AI Act é um processo em andamento há vários anos, ao qual reconhece alguns aspectos positivos, especialmente as proibições ao reconhecimento de emoções, que considera uma forma de instrumentalização.

Há questões que se levantam que não são problemas tecnológicos, como o possível colapso climático. “É culpa da IA ou da tecnologia ou é um problema desta fase do capitalismo?”, perguntou Meredith Whittaker

Para a presidente da Signal é importante abordar as questões relacionadas com a concentração de poderes das grandes tecnológicas e encontrar soluções eficazes, “em vez de simplesmente fragmentar o problema e permitir que ele se reproduza”.

Sentindo que a organização que gere “está a nadar contra a corrente num ecossistema que é dominado pela vigilância”, Meredith Whittaker afirmou acreditar que a mesma pode servir de “inspiração” a startups e outras empresas, “que querem fazer tecnologia de maneira diferente, de forma mais consciente, sem assentarem o seu negócio em modelos de vigilância massivos e perigosos”.

O SAPO TEK mudou a redação para o Web Summit e até 16 de novembro está a acompanhar tudo o que se passa na conferência e nos eventos paralelos que sempre decorrem em Lisboa. A agenda é longa e há muito para descobrir dentro e fora dos palcos.

Pode acompanhar tudo no nosso especial do Web Summit 2023 e também ver a transmissão em direto do palco principal com o SAPO.