Dezenas de apps para criar nudes com IA continuam disponíveis nas lojas do Android e do iOS

Depois da polémica com o Grok, o relatório de uma ONG vem mostrar que não é só usando o assistente virtual da xAI que em poucos minutos se consegue despir alguém na internet.

iPhone · James Yarema

Uma análise às lojas de aplicações das principais plataformas móveis, Android e iOS, concluiu que em ambas é possível ter acesso a dezenas de aplicações que permitem criar nudes a partir de fotos normais, recorrendo a ferramentas de inteligência artificial.

Não perca nenhuma notícia importante da atualidade de tecnologia e acompanhe tudo em tek.sapo.pt

A análise foi realizada pelo Tech Transparency Project e identificou 55 apps com estas características no Google Play e 47 na Apple App Store. As aplicações identificadas tiveram mais de 700 milhões de downloads em todo o mundo e geraram 117 milhões de dólares em receitas, segundo o relatório, que cita dados da AppMagic para esta análise.

Depois de ter tido acesso ao relatório, e de a informação ter sido publicada pela CNBC, a fabricante do iPhone disse que tinha removido 28 aplicações da loja e explicou que foram avisados outros programadores do risco de remoção das respetivas apps, se não forem cumpridos as regras da loja, uma proatividade que os autores do relatório acham curta.

“Ambas as empresas afirmam estar empenhadas na segurança e proteção dos utilizadores, mas acolhem uma coleção de aplicações que podem transformar uma foto inofensiva de uma mulher numa imagem abusiva e sexualizada”, sublinha o relatório, onde também foi acrescentado que foram identficadas 27 apps removidas da App Store.

As apps analisadas pela ONG foram identificadas através de pesquisas simples, pelos termos nudez ou despir, e os testes foram feitos com fotos de mulheres vestidas - criadas também com ajuda de IA. Foram identificadas e analisadas dois tipos de aplicações: apps que permitem “despir” modelos em fotos normais, onde têm roupa, e apps que permitem fazer montagens e juntar o rosto de alguém numa foto normal, à imagem de outro corpo nu.

As ferramentas de IA que permitem criar conteúdos sexualizados têm estado no centro da polémica, depois de o assistente de IA da xAI, o Grok, ter sido usado em larga escala para criar este tipo de conteúdos.

A empresa começou por desvalorizar a polémica, mas a situação deixou a rede social X, que controla a startup, em maus lençois com reguladores um pouco por todo o mundo.

Na Europa, por exemplo, soube-se esta segunda-feira que a rede social de Elon Musk vai enfrentar mais uma investigação por causa destes episódios e por causa da falta de salvaguardas do Grok.

Assine a newsletter do TEK Notícias e receba todos os dias as principais notícias de tecnologia na sua caixa de correio.