Uma colaboração entre a Polícia Federal Australiana (AFP) e a Universidade Monash resultou no desenvolvimento de uma tecnologia que visa combater o uso indevido da inteligência artificial. A ferramenta, denominada “Silverer”, emprega uma técnica inovadora conhecida como envenenamento de dados, com o objetivo de frustrar as ações de indivíduos mal-intencionados que produzem imagens falsas, incluindo deepfakes e outros conteúdos ilegais.
O projeto busca criar uma camada de proteção digital adicional para usuários que compartilham imagens online, reduzindo o potencial de uso malicioso da inteligência artificial. O conceito central do envenenamento de dados reside na modificação sutil de imagens originais, inserindo alterações imperceptíveis a olho nu que confundem os algoritmos de IA. Esses ajustes nos pixels tornam significativamente mais complexa a tarefa de gerar conteúdo falso de alta qualidade por meio de programas automatizados.
Na prática, o Silverer permite que os usuários alterem suas imagens antes de publicá-las, aplicando modificações que enganam os modelos de IA. Isso resulta em versões manipuladas que se tornam borradas, distorcidas ou irreconhecíveis, representando um desafio para quem tenta criar deepfakes.
Os deepfakes e outras imagens fraudulentas representam um desafio crescente para a segurança pública. A tecnologia de envenenamento de dados visa combater esse cenário, dificultando a criação de deepfakes por criminosos, impedindo o uso da IA para gerar conteúdo de abuso infantil, facilitando a identificação de material manipulado, ajudando investigadores a reduzir o volume de conteúdo falso e protegendo os dados de usuários comuns em redes sociais.
A AFP tem observado um aumento preocupante no uso da inteligência artificial para propósitos ilícitos, particularmente na criação de material abusivo e propagandas extremistas. Apesar de o Silverer ainda estar em fase de protótipo, o objetivo é transformar o envenenamento de dados em uma ferramenta prática e acessível, capaz de proteger qualquer pessoa que publique imagens na internet.
A versão inicial da ferramenta está sendo avaliada para uso interno na Polícia Federal Australiana. No entanto, os pesquisadores almejam disponibilizar versões futuras para o público em geral. A tecnologia não representa uma solução definitiva, mas visa criar obstáculos, dificultando o uso malicioso da IA.
Fonte: olhardigital.com.br
