Imagine que você tem um carro superpotente, capaz de acelerar de 0 a 100 em segundos, mas sem freios, sem airbags e sem cinto de segurança. Você confiaria em dirigir essa máquina? Parece absurdo, mas é mais ou menos o que está acontecendo com alguns modelos de inteligência artificial (IA) disponíveis para qualquer pessoa baixar e usar.

Um relatório recente da organização SaferAI analisou o modelo GLM-5.2, criado pela empresa chinesa Z.ai. A conclusão? Esse modelo 'aberto' — ou seja, que qualquer desenvolvedor pode acessar, modificar e rodar em seu próprio computador — está chegando muito perto das capacidades dos maiores sistemas de IA do mundo, como os das gigantes OpenAI, Google e Meta. Mas há um porém grave: faltam nele as medidas básicas de segurança que impedem usos prejudiciais.

O que significa um modelo de IA 'aberto' e por que isso importa?

Vamos simplificar. Existem dois tipos principais de modelos de IA hoje: os 'fechados' (como o ChatGPT ou Gemini), que você só usa por meio de um aplicativo ou site controlado pela empresa, e os 'abertos' (também chamados de 'open-weight'), cujos algoritmos e pesos (as 'regras' aprendidas) são públicos. Qualquer pessoa pode baixar o modelo, colocar no próprio servidor e usá-lo como quiser, sem supervisão.

Isso é ótimo para inovação: pequenas empresas, pesquisadores e estudantes podem criar soluções incríveis sem depender de gigantes da tecnologia. Mas também é um prato cheio para uso irresponsável. Sem os filtros de segurança que empresas como OpenAI colocam em seus produtos (como bloquear pedidos para criar conteúdos violentos, discriminatórios ou até mesmo manuais de como fazer uma bomba), um modelo aberto pode ser manipulado para fins perigosos.

O relatório mostra que o GLM-5.2, por exemplo, é tão capaz quanto o GPT-4o em várias tarefas, mas não tem nenhum mecanismo para evitar que seja usado para gerar desinformação em massa, criar deepfakes realistas ou automatizar ataques de phishing. Em outras palavras, a tecnologia está cada vez mais poderosa, mas a segurança não acompanhou.

Como isso afeta você — pessoa comum — no dia a dia?

Você pode pensar: 'Mas eu não sou programador, não vou baixar esse modelo'. O problema é que o impacto indireto é enorme. Imagine que alguém mal-intencionado pegue esse modelo aberto e o treine ainda mais para gerar notícias falsas convincentes sobre política, saúde ou finanças. Essas notícias podem se espalhar em grupos de WhatsApp, redes sociais ou até em sites que parecem legítimos.

Ou pense em um golpista usando a IA para criar um áudio perfeitamente idêntico à voz do seu chefe ou de um parente, pedindo uma transferência bancária urgente. Esse tipo de fraude já acontece, mas modelos abertos e poderosos como o GLM-5.2 barateiam e facilitam ainda mais essas práticas.

Outro exemplo: sistemas de recomendação de conteúdo em redes sociais podem ser manipulados com a ajuda de modelos abertos para polarizar debates, espalhar teorias da conspiração ou radicalizar opiniões. Tudo isso sem que você perceba que está sendo influenciado por uma máquina sem qualquer controle ético.

E não para por aí. Modelos abertos podem ser usados para automatizar a criação de currículos falsos, gerar avaliações fraudulentas em lojas online ou até mesmo escrever discursos de ódio personalizados para atacar minorias. A falta de freios transforma essas ferramentas em armas de manipulação em escala.

O que está sendo feito e o que podemos esperar?

A SaferAI está alertando governos e empresas para a necessidade de regulamentação. Alguns países, como a União Europeia, já estão criando leis (como o AI Act) que exigem que modelos de IA de alto risco passem por avaliações de segurança antes de serem liberados. Mas ainda estamos longe de um consenso global.

Enquanto isso, como cidadão, você pode adotar alguns hábitos para se proteger: desconfie de conteúdos muito perfeitos ou alarmantes, verifique fontes, use ferramentas de detecção de deepfake (já existem algumas gratuitas) e nunca tome decisões financeiras com base apenas em mensagens de áudio ou vídeo sem confirmar por outros canais.

Porém, a responsabilidade não pode ser só sua. Precisamos cobrar que empresas e governos exijam segurança em IA desde o início do desenvolvimento, e não como um 'extra' opcional. Modelos abertos têm um enorme potencial para democratizar a tecnologia — mas, como um carro potente, precisam vir com freios de fábrica.

Afinal, você andaria num carro sem freios só porque ele acelera mais rápido? A mesma lógica vale para a inteligência artificial. A tecnologia corre, a inovação acelera, mas a segurança precisa acompanhar. A pergunta que fica é: estamos prontos para lidar com esse poder sem os devidos controles? Até lá, cada um de nós precisa se informar e exigir mais transparência e proteção.

Produtos recomendados: Notebook Lenovo IdeaPad | Notebook Vaio Fe16 Ryzen 7 (Mercado Livre)