Psicólogos alertam para riscos da Inteligência Artificial que podem ser "desproporcionalmente devastadores"

Fátima Caçador

4 set 2023 08:53

Este artigo tem mais de um ano

Há muitos conceitos fundamentais envolvidos na Inteligência Artificial que já pertencem ao domínio da Psicologia, e há valor em envolver os psicólogos neste desenvolvimento da tecnologia. A Ordem dos Psicólogos Portugueses organiza hoje uma conferência e alerta para os riscos que existem para os objetivos do desenvolvimento sustentável.

Perda de empregos, monopólio de informação, agravamento de desigualdades, enviesamento e opacidade de dados. Estes são alguns dos riscos e desafios que o desenvolvimento da Inteligência Artificial, e especialmente os modelos de IA generativa, trazem para a sociedade e para os quais a Ordem dos Psicólogos está a alertar. Há também benefícios identificados, como os benefícios no acesso a Saúde e Educação, a criação de 97 milhões de novos postos de trabalho e aumento de produtividade entre 11 e 37% e ainda impacto positivo em 79% dos Objetivos de Desenvolvimento Sustentável (ODS) mas existe um peso muito relevante dos riscos identificados.

Hoje foi disponibilizado um documento com os alertas nesta área e a Ordem vai realizar uma conferência dedicada ao tema “O fator humano na transição digital”, onde serão discutidas estas questões.

Miguel Oliveira, membro da direção da Ordem dos Psicólogos Portugueses responsável pela área da tecnologia, explica ao SAPO TEK que esta reflexão tem por base o artigo “The role of AI in acchieving the sustainable development goals” que tenta prever os impactos da IA na obtenção dos objetivos de desenvolvimento sustentável das Nações Unidas.

"A visão da ciência psicológica em relação a este tema assenta na ideia de que os Objetivos de Desenvolvimento Sustentável podem ser acelerados através da IA em domínios como saúde, educação e mitigação das mudanças climáticas. No entanto, a mesma IA tem o potencial para exacerbar desigualdades sociais, efetuar vigilância em massa e contribuir para a degradação ambiental", justifica Miguel Oliveira.

O psicólogo lembra que a pegada ambiental relacionada com a IA é muito grande ultrapassando a do setor da aviação, e sublinha que "embora os benefícios possam ser mais numerosos, os riscos podem ser desproporcionalmente devastadores, requerendo uma cuidadosa ponderação ética".

O documento hoje divulgado refere os impactos negativos mas também os benefícios, apontando a necessidade de regulamentação dado o impacto transversal em vários sectores.

O fator humano é apontado como essencial e Miguel Oliveira defende que a ideia é congruente com a visão da União Europeia, onde o objetivo é que IA seja centrada no ser humano e controlada pelo ser humano tendo para isso que ser confiável, ética e interpretável por todos os cidadãos. "O envolvimento humano na pesquisa e monitorização de IA não deve ser meramente instrumental, mas sim normativo. O ser humano deve atuar não só como "mediador", mas também como "controlador", induzindo parâmetros éticos e sociais na arquitetura algorítmica", explica.

Para o especialista, "aqui a Psicologia tem um papel fundamental pois pode, com todo o seu saber acumulado, contribuir para que estas novas soluções tecnológicas tenham “by design” codificados princípios que as tornem o mais éticas, inclusivas e seguras possíveis".

Psicólogos no domínio da IA

Questionado sobre a forma como a ciência psicológica pode ter intervenção nesta área, Miguel Oliveira não tem dúvidas de que há um contributo relevante a fazer.

"É importante salientar que muitos conceitos fundamentais com que a IA trabalha são, há muito, do domínio da Psicologia. Se começarmos pelo termo Inteligência Artificial encontramos logo a palavra Inteligência, uma área do domínio da Psicologia, mas não acaba aqui", explica Miguel Oliveira.

O especialista defende que o envolvimento pode ser na compreensão dos efeitos mas também no próprio desenho das aplicações. "Conceitos como aprendizagem, reforço e incentivos fazem parte do currículo dos cursos em psicologia. Também a compreensão do viés humano que pode ser transferido para os algoritmos, a formação de modelos de decisão ética, e a aplicação de princípios de design centrados no ser humano e são fundamentais no desenho deste tipo de soluções, pelo que os psicólogos/as podem gerar (muito) valor no contexto da tecnologia e da transição digital", refere.

Há ainda a questão da saúde mental, uma área cada vez mais estudada mas onde não é ainda possível avaliar as consequências. Mesmo assim alerta que "o potencial da IA para induzir stress, ansiedade e até mesmo isolamento, assim como alguns dos impactos visíveis sobre a empatia, tornam ainda mais evidente a necessidade da Psicologia nesta era de rápidas mudanças".

Sobre as mudanças no mercado de trabalho, o documento da Ordem dos Psicólogos Portugueses refere a perda de emprego, mas também a criação de novos postos de trabalho e o aumento da produtividade. E há também efeitos a considerar na mudança da forma de trabalhar e potencial impacto na criatividade e colaboração.

"Esta é uma questão complexa, mas olhando para o passado podemos ver o impacto que anteriores revoluções tecnológicas tiveram em áreas que, à data, eram consideradas apenas humanas. Isto é mais uma iteração neste ciclo de progresso e desenvolvimento", justifica.

Já há registos de disrupção e Miguel Oliveira admite que "haverá áreas que serão completamente automatizadas e outras que necessitarão de menos pessoas", mas afirma que "é necessário entender que este tipo de IA não irá tirar o trabalho às pessoas. Quem irá tirar o trabalho serão indivíduos que usam a IA como ferramenta, daí a necessidade em investir em novas competências e num diálogo alargado sobre que competências estamos dispostos a delegar na IA e com que impacto societal".

Miguel Oliveira acredita que existe ainda potencial de uma nova forma de desigualdade pela falta de literacia digital e informativa. "O risco aqui é que a IA pode criar um abismo ainda maior entre os "alfabetizados em IA" e aqueles que não têm as competências para formular as perguntas certas", justifica. Por isso a Ordem dos Psicólogos Portugueses está a investir na literacia, sendo o documento hoje divulgado visto como um contributo para os psicólogos/as, mas também dos cidadãos, de forma a mitigar as consequências mais negativas da IA.

A Ordem deixa ainda uma série de recomendações que considera relevantes e que podem ser encontradas no documento disponibilizado hoje online.