A OpenAI, criadora do ChatGPT, anunciou o banimento de contas ligadas a uma operação de influência digital originada no Irã. A ação, divulgada recentemente, mira a rede batizada de “IUVM”, que utilizava inteligência artificial (IA) para produzir e traduzir artigos com viés político — favorecendo o governo iraniano, atacando Israel e criticando os Estados Unidos.

Segundo a empresa, a operação violava as políticas de uso da plataforma, que proíbem a manipulação coordenada de conteúdo e exigem transparência sobre a origem das informações. As contas banidas foram identificadas como parte de um esforço sistemático de desinformação, amplificado pelo uso de ferramentas de IA para gerar textos em volume e em diferentes idiomas.

O que era a operação IUVM?

A IUVM não era um grupo oficial do governo iraniano, mas sim uma rede de perfis e sites que atuavam de forma coordenada para espalhar narrativas específicas. De acordo com a OpenAI, esses perfis usavam modelos de linguagem (como o GPT) para criar artigos com teor pró-Irã, antissemita (contra judeus e Israel) e anti-EUA. Os textos eram então traduzidos automaticamente para diversos idiomas e publicados em sites que aparentavam ser legítimos, mas que na verdade serviam como canais de propaganda.

A ideia era simples: gerar grandes volumes de conteúdo de uma só vez, imitando reportagens jornalísticas ou artigos de opinião, para influenciar leitores em diferentes países. Sem o uso de IA, essa tarefa exigiria dezenas de redatores humanos e levaria muito mais tempo. Com a tecnologia, bastava um pequeno grupo para operar a máquina de desinformação.

Como a OpenAI descobriu a operação?

A empresa não detalhou os métodos exatos de detecção, mas informou que monitora continuamente padrões suspeitos de uso de suas ferramentas. No caso da IUVM, equipes de segurança identificaram contas que repetiam padrões de comportamento: criavam perfis simultaneamente, publicavam conteúdo com temas similares e utilizavam os mesmos modelos de IA para redigir ou traduzir textos.

Após a confirmação da violação das regras — que proíbem o uso de IA para enganar, manipular ou influenciar eleições ou opinião pública de forma não transparente — a OpenAI removeu todas as contas envolvidas e bloqueou o acesso aos serviços. A empresa afirma que continuará aprimorando seus sistemas de prevenção e colabora com autoridades quando necessário.

Por que isso importa?

O caso da IUVM é um exemplo claro de como a inteligência artificial pode ser usada para amplificar campanhas de desinformação em escala global. Antes da popularização de ferramentas como o ChatGPT, produzir conteúdo falso ou tendencioso em múltiplos idiomas exigia esforço humano considerável. Agora, com a IA generativa, qualquer grupo com acesso à tecnologia pode criar e distribuir propaganda de forma rápida e barata.

A OpenAI tem enfrentado críticas sobre como suas ferramentas podem ser mal utilizadas. Embora a empresa tenha políticas rígidas, a fiscalização é um desafio constante — especialmente quando operações são bem coordenadas e disfarçadas. A remoção da IUVM mostra que a empresa está atenta, mas também levanta questões sobre o que mais pode estar passando despercebido.

E agora?

A comunidade de segurança digital e governos ao redor do mundo acompanham de perto casos como este. A tendência é que empresas de tecnologia intensifiquem a moderação de conteúdo gerado por IA, investindo em sistemas de detecção mais sofisticados. Ao mesmo tempo, operações de influência como a IUVM devem continuar evoluindo, tentando burlar barreiras com técnicas mais avançadas.

Para o cidadão comum, a lição é clara: desconfie de conteúdos que pareçam excessivamente alinhados a uma única narrativa política, especialmente quando circulam em muitos idiomas ao mesmo tempo. Ferramentas de IA podem ser maravilhosas, mas também podem ser armas de manipulação em massa.

E você, já parou para pensar quantos dos artigos que você lê por aí podem ter sido escritos por uma máquina com interesses ocultos?

Produtos recomendados: Monitor Ultrawide 34 polegadas | Fone Bluetooth JBL Tune