
As ferramentas que usam IA para transformar texto em imagens têm vindo a ganhar popularidade, mas também a gerar preocupação relativamente a questões como direitos de autor, com artistas a avançarem com processos contra tecnológicas, acusando-as de lucrarem através do roubo dos seus trabalhos.
Ainda este ano, uma equipa de investigadores da Universidade de Chicago, nos Estados Unidos, apresentou a Nightshade, uma ferramenta concebida para “envenenar” dados e ajudar artistas a lutarem contra o uso não autorizado das suas imagens.
Milhões de imagens compõem os datasets usados para treinar os modelos usados nas ferramentas de IA. Embora alguns sejam treinados com recurso a conteúdo que as empresas detêm ou têm uma licença para usar, outros usam uma variedade de imagens recolhidas online.
Os modelos de IA identificam imagens através dos termos usados nos metadados. A Nightshade “envenena” os dados, fazendo com que os modelos se confundam neste processo de associação, explica Ben Zhao, investigador da Universidade de Chicago que liderou a equipa de investigadores, à NPR.

A Nightshade não é a única ferramenta desenvolvida pelos investigadores. A Glaze permite fazer mudanças nos pixels das imagens. Ao olho nu, estas alterações são imperceptíveis, mas, para um modelo de IA, são suficientes para gerar confusão e levá-los a pensar que se trata de algo diferente.
Como avança o website MIT Technology Review, os investigadores tencionam integrar a Nightshade na Glaze, para dar aos artistas a possibilidade de escolherem se querem, ou não, “envenenar” as imagens. Os planos da equipa passam também por abrir a ferramenta ao público, tornando-a Open Source.
A par da Nightshade ou da Glaze, a Kudurru, criada pela Spawning.ai, é outra das ferramentas que poderão ajudar os artistas a lutar contra o uso não autorizado dos seus trabalhos. Neste caso, a ferramenta identifica quem está a recolher conteúdo online sem autorização, detectando os respectivos endereços IP e bloqueando-os temporariamente.
Pergunta do Dia
Em destaque
-
Multimédia
Pode usar o carregador do smartphone nesta e-Bike. Ampler Nova chega em junho à Europa -
App do dia
Sem motivação para alcançar os seus objetivos? BeeDone transforma a rotina de maneira divertida -
Site do dia
Rabbithole convida a entrar na “toca do coelho” e a deixar a curiosidade guiá-lo por novas descobertas -
How to TEK
Criou uma prompt fantástica no Copilot? Já pode partilhar o resultado através de um link
Comentários