Os avanços vão no sentido de um dia termos robots tão inteligentes que pensem e ajam por si próprios, tal como já muitos filmes e séries mostraram e mostram. Nesses conteúdos ficcionados, contudo, há (quase) sempre uma parte menos ‘bonita’ em que a inteligência artificial, com todos os seus recursos, ultrapassa a humana e (pasme-se) toma consciência da sua superioridade.

É nessa altura que os robots se revoltam ou pelo tratamento que lhes infligimos ou pela ideia de que afinal representamos um perigo para o planeta ou mesmo para nós próprios. É esta parte da (até agora) ficção que a Google quer evitar com uma espécie de “botão de pânico”.

A gigante tecnológica estará a preparar um dispositivo de segurança para o seu sistema DeepMind – responsável pelo AlphaGo, que defrontou o campeão de Go… e venceu, lembra-se? – caso seja necessário assumir o controlo de um robot ou IA que possa transformar-se numa ameaça.

Num documento denominado “Safety Interruptible Agents”, realizado em parceria com o Future of Humanity Institute da Universidade de Oxford, é descrito um sistema de interrupção de inteligências artificiais. Esse sistema tem um outro procedimento de apoio, com o objetivo de assegurar que a IA não reverte a sua “suspensão”.

O método assenta numa “política de interrupção” que engana a máquina. Segundo explicaram os investigadores ao Business Insider, é criado um código enviado ao robot quando o botão de pânico é ativado que lhe passa a informação de que é melhor parar a sua tarefa atual. Desta forma, elimina-se a ameaça em causa com uma decisão, supostamente, tomada pelo próprio sistema, mas na verdade induzida pelos humanos.

O “botão de pânico” da Google para a sua IA DeepMind é no fundo uma proteção que antecipa a “revolta das máquinas”, que muitas pessoas reais como Stephen King temem relativamente a todos os avanços que vão sendo feitos no campo da inteligência artificial.

O universo do relacionamento entre máquinas e humanos já foi muitas vezes retratado no grande ecrã - e mais recentemente, no(s)  pequeno(s), no formato série atualmente tão popular. Lembra-se destes exemplos?