Como a Inteligência Artificial está a ajudar o Facebook a tornar-se mais seguro e gerir conteúdos

Os algoritmos de inteligência artificial conseguem facilmente entender padrões mas ainda têm um caminho a fazer para serem autónomos. Antoine Bordes, responsável pela investigação de AI do Facebook na Europa, explica o que está a ser feito na rede social.

tek inteligência artificial assistente digital bot

A área de investigação em Inteligência Artificial do Facebook tem mais de 5 anos e tem-se focado sempre nas duas áreas paralelas: a investigação fundamental e a aplicação à área de produto, contando com mais de 500 pessoas envolvidas no desenvolvimento de uma tecnologia que agora está “em todo o lado do Facebook”, do messaging ao feed de notícias, como explicou Antoine Bordes em entrevista ao SAPO TEK durante o Mobile World Congress em Barcelona.

O investimento da integridade, para tornar a plataforma mais segura, é também fundamentado na Inteligência Artificial, um esforço que começou há dois anos, ainda antes dos escândalos relacionados com a privacidade e segurança e o caso Cambridge Analytica que abalou a confiança na rede social.

As equipas estão centradas em 8 sites nos Estados Unidos e Canadá, Londres, Paris e Tel Aviv.  Na área de investigação fundamental os investigadores têm total liberdade de investigação num modelo open source e com abertura para publicar resultados, fazendo também ligações a universidades, mas na área aplicada ao produto o trabalho está centrado nos vários serviços e aplicações, com os investigadores concentrados em Seattle. Antoine Bordes é responsável pelo desenvolvimento das equipas do Facebook Artificial Intelligence Research no centro europeu, tendo integrado a empresa em 2014, e sua área de especialidade é a investigação na área da linguística, mas conhece bem a aposta da empresa nesta área.

A tecnologia de inteligência artificial é usada em conjunto com o trabalho das equipas de segurança na remoção de conteúdos que violam os padrões do Facebook. Mais de 30 mil pessoas trabalham na área de segurança e cerca de metade são revisores de conteúdos, estando dispersos em áreas geográficas e fusos horários diferentes para garantir uma resposta rápida. Os sistemas automatizados e os algoritmos de inteligência artificial, por seu lado, estão sempre prontos e focados em impedir ataques de spam, pornografia e conteúdo terrorista, e Antoine Bordes garante que a qualidade tem evoluído significativamente, mas que ainda há caminho a fazer.

“A AI não é uma tecnologia nova mas houve uma aceleração real nos últimos cinco anos e não foi causada por uma descoberta na investigação científica, mas pelo aumento de dados e capacidade de computação, por isso vimos uma utilização massiva nos últimos anos e grande parte dos problemas são muito novos […] Estou confiante de que vamos resolver estas questões de forma rápida”, justificou.

Questionado em relação aos problemas que a Inteligência Artificial tem revelado de atitude tendenciosas e preconceitos, o investigador do Facebook lembra que nos últimos 15 anos já se evoluiu muito, e faz uma comparação com o problema das mensagens de spam. “Vamos resolver o problema de atitudes tendenciosas [biased]. Estamos no início. É o mesmo que se passou com o spam que era um grande problema há alguns anos atrás e que agora é uma questão menor”, garante Antoine Bordes. Mesmo admitindo que não se irá resolver o problema de análises tendenciosas a 100%, o investigador realça que ainda estamos muito no início, é um campo novo, mas “vamos estar num lugar melhor em breve”.

Concretamente em problemas como a identificação de seios em imagens, o investigador explica que a decisão de gestão de conteúdos é baseada nos princípios que foram definidos e que a inteligência artificial aplica, mas que nunca é tomada a decisão final numa análise, e que é sinalizada uma ação que é revista por gestores de conteúdos humanos, que decidem o que fazer.

“Para nós essa é uma grande questão, um problema muito importante, de governance de conteúdos e estamos a trabalhar com muitos investigadores, decisores políticos e pessoas de várias áreas para melhorar a forma como as pessoas comunicam no Facebook mas mantendo a rede segura”, justifica.

E haverá alguma hipótese de substituir totalmente esta análise feita por pessoas pela inteligência artificial? “Depende. Já hoje não, é impossível, exceto em situações muito específicas. Muitas das decisões baseiam-se no contexto […] o que é fácil para a IA é analisar grandes volume de dados e padrões, em palavras e imagens, mas entender o que significa e o contexto, como a questão dos seios, é muito complexo e a máquina não consegue entender”, explica Antoine Bordes. Por isso a IA só pode funcionar de forma autónoma quando for uma identificação muito clara, mas não é esse o caminho que o Facebook está a fazer atualmente, esclarece o investigador.

O Facebook está também a trabalhar na área de Ética e participa nos vários fóruns de discussão nesta matéria, sendo uma das áreas que Mark Zuckerberg tem sublinhado nas suas diversas intervenções públicas.