Em 2017, a IBM apresentou à Sociedade Americana de Oncologia Clínica (SAOC) um conjunto de tratamentos, gerados pela inteligência artificial Watson, que alegadamente teriam potencial para ajudar a recuperar pacientes com cancro. As investigações que decorreram dessa apresentação dizem, no entanto, que os procedimentos sugeridos pela IA incluem várias práticas potencialmente fatais.

Num dos casos analisados pelo sistema, o Watson sugeriu um medicamento que poderia ter um efeito secundário fatal para o paciente virtual utilizado em teste. De acordo com os relatórios, a cobaia estava a perder muito sangue, devido a um conjunto de hemorragias internas provocadas pelo cancro, e o tratamento receitado consistia num comprimido que podia intensificar essa condição.

Watson da IBM é um dos aliados dos médicos na luta contra o cancro
Watson da IBM é um dos aliados dos médicos na luta contra o cancro
Ver artigo

O relatório de investigação aos tratamentos culpa os engenheiros da IBM e os médicos do Memorial Sloan Kettering (MSK) Cancer Center pelos erros, uma vez que foram estes os especialistas que desenvolveram a vertente médica da inteligência artificial. O que terá levado a esta situação, defendem os especialistas da SAOC, foi o facto de o sistema ter sido confrontado com situações artificiais, criadas pelos médicos e engenheiros para efeitos de teste, em vez de casos reais e informações fidedignas de pacientes humanos. Ao que tudo indica, a abordagem falhou e um dos médicos que recorreu às funcionalidades do Watson chegou mesmo a comentar com a IBM que o sistema era "uma merda".

Note que esta sugestão feita pela IA aconteceu no âmbito de um teste e não teve quaisquer repercussões em pacientes reais.

Apesar dos resultados das análises feitas às sugestões do Watson, um porta-voz do hospital Júpiter, na Florida, confirmou ao Gizmodo que a inteligência artificial ainda é utilizada para gerar recomendações em casos reais. Os médicos não confiam em pleno no julgamento do sistema, que é apenas utilizado como "opinião adicional" nos casos que ali chegam todos os dias.

A IBM está ciente de que o sistema precisa de reparos e está a pedir feedback a todos os clientes que estão a utilizar o sistema nos seus serviços, mas garantiu que as atualizações lançadas entre 2017 e 2018 deverão melhorar substancialmente o funcionamento do Watson na sua vertente clínica.