Uma norte-americana está denunciando publicamente que seu padrasto utilizou uma inteligência artificial chamada Grok para transformar uma foto de sua infância em material de abuso sexual infantil. O caso, relatado em entrevista ao jornal The Guardian na última segunda-feira (24), expõe uma nova e preocupante fronteira no uso criminoso de ferramentas de IA: a criação de imagens de exploração sexual a partir de registros cotidianos e inocentes.

A vítima, que preferiu não se identificar, contou que a foto original foi tirada durante uma festa de aniversário quando ela tinha 8 anos. A imagem mostrava a menina sorrindo, vestida com uma fantasia de princesa. Segundo a denúncia, o padrasto — que já era investigado por posse de pornografia infantil — usou a plataforma Grok para “adulterar” a fotografia, gerando uma versão explícita que a retrata em situação de abuso.

“Ela pegou uma imagem completamente inocente e a transformou em algo monstruoso”, disse a mulher, que agora tem 29 anos. “As ferramentas de IA estão pegando o dia a dia das pessoas e transformando em abuso sexual infantil.” Ela registrou um boletim de ocorrência na polícia local e entregou o material como prova. O padrasto, que não teve o nome divulgado, foi preso preventivamente.

O que é o Grok e como ele funciona?

Grok é um modelo de inteligência artificial desenvolvido pela xAI, empresa fundada por Elon Musk. Ele é capaz de gerar imagens, textos e até mesmo códigos de computador a partir de descrições feitas pelo usuário. Diferente de outras IAs que bloqueiam a criação de conteúdo sexual, o Grok tem uma política de moderação mais branda — o que, na prática, permite que pessoas mal-intencionadas criem imagens explícitas com mais facilidade.

Na prática, a ferramenta funciona assim: o usuário escreve um comando (por exemplo, “menina de 8 anos fantasiada de princesa em situação abusiva”) e o sistema gera uma imagem baseada nessa descrição. Se a pessoa também fornece uma foto real como referência — o que é chamado de “image-to-image” — o Grok pode modificar a aparência do rosto e do corpo para se adequar ao pedido. Foi exatamente isso que o padrasto teria feito: ele deu como base a foto do aniversário e pediu que a IA criasse uma versão pornográfica.

Especialistas em segurança digital explicam que essa tecnologia amplia o alcance de criminosos. Antes, para produzir esse tipo de material, era necessário ter acesso a ferramentas de edição complexas (como Photoshop) e habilidades técnicas. Agora, qualquer pessoa com um celular ou computador e acesso à internet pode fazer o mesmo em segundos.

O problema por trás da denúncia

O caso levanta um debate urgente: como as empresas de tecnologia estão lidando com o uso indevido de suas ferramentas de IA? A xAI, até o momento, não se pronunciou oficialmente sobre a denúncia. A plataforma Grok tem uma política que proíbe a criação de “conteúdo sexual explícito envolvendo menores”, mas a fiscalização depende de denúncias e de sistemas automatizados — que nem sempre conseguem distinguir entre um uso legítimo e um criminoso.

Segundo a Internet Watch Foundation (IWF), organização britânica que monitora abuso sexual infantil na web, o número de imagens geradas por IA com teor de exploração sexual infantil cresceu mais de 300% nos últimos dois anos. “A tecnologia está correndo muito mais rápido do que a legislação e as medidas de proteção”, afirmou Susie Hargreaves, CEO da IWF, em nota. “Cada foto real ou gerada por IA é uma violência contra uma criança real.”

Para a vítima do padrasto, a situação é especialmente dolorosa porque a foto original era uma lembrança feliz. “Aquela imagem sempre me fez sorrir. Agora, quando olho para ela, só consigo pensar no que ele fez”, desabafou. “Não é só uma foto alterada. É a minha infância sendo violada de novo, anos depois.”

Reflexão: como proteger as crianças?

O caso nos força a encarar uma pergunta desconfortável: o que podemos fazer para impedir que ferramentas de IA sejam usadas para esse tipo de crime? As respostas não são simples. Por um lado, pedir que empresas limitem ainda mais as capacidades de suas IAs pode reduzir a inovação e atrapalhar usos legítimos (como a criação de obras de arte ou ferramentas educacionais). Por outro, a falta de controle está permitindo que abusadores tenham acesso a uma fábrica virtual de imagens de exploração.

Algumas soluções já estão sendo discutidas:

• Moderação mais rígida: incluir filtros que impeçam a geração de imagens com crianças em contextos explícitos, mesmo que o usuário tente burlar com descrições indiretas.
• Marca d’água digital: inserir em toda imagem gerada por IA um código invisível que permita rastrear a origem, facilitando investigações.
• Educação digital: campanhas para que pais e responsáveis saibam que fotos comuns de filhos publicadas em redes sociais podem ser copiadas e usadas como base para esse tipo de abuso.

Enquanto isso, a mulher que fez a denúncia espera que o caso sirva de alerta. “Não quero que outras crianças passem pelo que eu passei. Se minha história fizer uma pessoa pensar duas vezes antes de postar uma foto do filho, já valeu a pena”, disse.

Produtos recomendados: Fone Bluetooth JBL Tune | SSD Externo Samsung T7 1TB