Será que existe limite para a inteligência dos algoritmos de IA?
O limite da inteligência artificial talvez esteja mais na nossa imaginação do que na tecnologia. Crédito: Alexandre Chiavegatto | Estadão
Gerando resumo
Três adolescentes americanas entraram com uma ação coletiva contra a xAI, empresa de inteligência artificial de Elon Musk, nesta segunda-feira, 16, acusando o chatbot Grok de gerar imagens pornográficas delas a partir de fotos reais. O anúncio foi feito pelos advogados das adolescentes.
Segundo os representantes, uma das autoras da ação sofre de pesadelos recorrentes, outra precisa de ajuda médica para dormir e tem receio de participar da própria cerimônia de formatura.
“Ver minha filha sofrer um ataque de pânico ao perceber que essas imagens haviam sido criadas e distribuídas sem nenhuma possibilidade de serem apagadas foi devastador”, disse a mãe de uma das adolescentes, que é do Tennessee, em um comunicado.
A ação judicial está relacionada ao aumento, no final do ano passado, da geração de deep fakes hiper-realistas de mulheres e crianças nuas. O conteúdo levou à abertura de investigações em diversos países e na Califórnia, nos Estados Unidos.
O processo das adolescentes cita o caso de um indivíduo já preso, que usou o Grok para transformar fotos comuns das meninas, retiradas de redes sociais ou anuários escolares, em imagens hiper-realistas e sexualizadas.
Inicialmente, as imagens circularam no X, Discord e Telegram. Pouco tempo depois, o conteúdo gerado por IA foi levado para a dark web, onde foi utilizado como moeda de troca para outros tipos de pornografia infantil, de acordo com o processo judicial apresentado em um tribunal federal em San Jose, Califórnia.
A xAI “projetou deliberadamente o Grok para produzir conteúdo sexualmente explícito com fins lucrativos”, sem implementar as proteções utilizadas por outras grandes empresas de IA contra a pornografia infantil, alegam os advogados.
De acordo com um estudo do Centro para o Combate ao Ódio Digital (CCDH), o Grok gerou quase três milhões de imagens sexualizadas em apenas 11 dias até o final de 2025, das quais 23 mil retratavam menores de idade.
Em resposta ao escândalo, em meados de janeiro, a xAI restringiu a geração de imagens com o Grok apenas aos assinantes. /AFP
