Um estudo do Instituto de Tecnologia da Georgia concluiu que a eficácia destes sistemas difere consoante a cor da pele dos peões. Mais concretamente, verificou-se que identificação de indivíduos com uma cor de pele mais escura é 5% menos precisa.

Para a experiência foram usados oito sistemas de deteção de imagens, que analisaram fotos de indivíduos separados em dois grupos. Num dos grupos foram alinhados indivíduos com tons de pele mais clara e no outro, pessoas com cores de pele mais escuras.

A divisão foi feita em partes iguais e em linha com as seis categorias definidas na tabela Fitzpatrick, um instrumento de referência para identificar os diferentes tipos de pigmentação da pele humana.

Os investigadores consideram que as conclusões do estudo devem ser um alerta para as empresas que desenvolvem sistemas de condução autónoma e acreditam que os resultados apurados possam traduzir uma falha nos mecanismos de treino destes sistemas. Podem não estar a ser usada uma quantidade suficiente de imagens de indivíduos com pele mais escura no processo de treino dos algoritmos, defendem.

Vale, no entanto, a pena sublinhar que no estudo não foram usados nem os sistemas de deteção, nem os parâmetros de imagem que estão a ser usados nos carros autónomos em teste pelos vários fabricantes.

Os investigadores tiveram de recorrer a sistemas usados em ambiente académico, uma vez que os fabricantes não disponibilizam publicamente a informação necessária para que a pesquisa fosse feita num cenário mais realista, sublinha o site Vox.

A mesma fonte cita Kate Crawford, codirectora do AI Now Research Institute, a dizer que esta discrepância é importante mas não invalida os resultados do estudo, pelo contrário, “fornece pistas fortes sobre riscos muito reais”.