
Pesquisadores do Massachusetts Institute of Technology (MIT) criaram uma ferramenta para prevenir a manipulação de imagens por inteligência artificial (IA). O PhotoGuard foi apresentado essa semana, durante a Conferência Internacional sobre Machine Learning e funciona como um "escudo invisível".
Dessa forma, imagens protegidas pelo PhotoGuard ficarão distorcidas caso sejam usadas em IAs generativas. Hadi Salman, pesquisador de doutorado do MIT e participante do desenvolvimento do PhotoGuard, comentou que "qualquer um pode pegar uma nossa imagem, modificá-la como quiser, nos colocar em situações muito ruins e nos chantagear".
Como funciona o PhotoGuard

A equipe do MIT aplicou duas técnicas diferentes ao PhotGuard para impedir a manipulação de imagens. Em uma delas, o programa adiciona sinais imperceptíveis à imagem para que a Inteligência Artificial a interprete como outra coisa, tornando o resultado pouco convincente.
A segunda técnica envolve interromper o processo de geração de imagens das IAs. Nos testes, a equipe conseguiu fazer o modelo ignorar o prompt e gerar uma outra imagem, na cor cinza.
Ben Zhao, professor de ciência da computação da Universidade de Chicago que desenvolveu um software similar ao PhotoGuard chamado Glaze, disse que o trabalho é "uma boa combinação de uma necessidade tangível de algo com o que pode ser feito agora".