Tecnologias de Inteligência Artificial devem ser vigiadas para não aplicarem critérios de discriminação

Diminuir o preconceito de género, social ou cultural nas tecnologias de Inteligência Artificial (IA) é fundamental, defende a Comissão de Cultura e Educação do Parlamento Europeu. Assegurar o importante papel dos professores “de carne e osso” também.

Photo by Michael Dziedzic on Unsplash

As tecnologias de Inteligência Artificial (IA) podem ter um impacto na “estrutura base dos direitos e valores fundamentais da sociedade”, afirma a Comissão de Cultura e Educação do Parlamento Europeu, e por isso precisam de ser regulamentadas e programadas “de modo a proteger a não discriminação, a igualdade de género, o pluralismo, bem como a diversidade cultural e linguística”, defende-se numa resolução aprovada esta terça-feira.

No documento, os eurodeputados apelam ao desenvolvimento de indicadores específicos para medir a diversidade e garantir a promoção de obras europeias, de modo a evitar que as recomendações de conteúdo baseadas em algoritmos, especialmente em serviços de streaming de vídeo e música, afetem negativamente a diversidade cultural e linguística da União Europeia (UE).

“A Comissão deve estabelecer um quadro ético claro relativamente à forma como as tecnologias de IA são utilizadas nos meios de comunicação da UE para garantir que as pessoas tenham acesso a conteúdos cultural e linguisticamente diversos”, pode ler-se na resolução. Tal estrutura também deve abordar o uso indevido de IA para disseminar notícias falsas e desinformação, acrescentam.

Os eurodeputados querem também evitar o recurso a dados tendenciosos, já existentes, que possam refletir a desigualdade ou discriminação de género durante o ensino de uma IA. No seu lugar, deve optar-se pelo desenvolvimento de um conjunto de dados inclusivos e éticos, “com a ajuda das partes interessadas e da sociedade civil, para serem usados ​​durante o processo de ‘aprendizagem profunda’”.

A resolução defende ainda que, em contexto escolar, os professores devem estar sempre aptos a corrigir as decisões tomadas por uma IA, nomeadamente no que diz respeito à avaliação final dos alunos. Ao mesmo tempo, os eurodeputados destacam a necessidade de capacitação dos professores e avisam que estes profissionais nunca deverão ser substituídos por tecnologias de IA, principalmente nos primeiros anos de ensino.

“Há décadas que lutamos para estabelecer os nossos valores de inclusão, não discriminação, multilinguismo e diversidade cultural, considerados pelos cidadãos como uma parte essencial da identidade europeia. Esses valores também precisam ser refletidos no mundo online, onde algoritmos e aplicações de IA são cada ​ vez mais usados”, referiu a relatora Sabine Verheyen (PPE, DE) após a votação. “Desenvolver sistemas de dados de qualidade e inclusivos para utilização em aprendizagem profunda é vital, assim como definir um quadro ético claro para garantir o acesso a conteúdos cultural e linguisticamente diversos”.

A resolução agora adotada pela Comissão de Cultura e Educação deverá ser votada em plenário no próximo mês de abril. Na mesma altura, a Comissão Europeia estará a avançar com uma proposta de quadro legislativo para uma IA “confiável”, dando seguimento ao seu Livro Branco sobre Inteligência Artificial.