Na última semana, um pesquisador da Anthropic — uma das empresas mais sérias quando o assunto é segurança em inteligência artificial — pediu demissão e deixou um alerta que ecoou pelos corredores da tecnologia: a empresa está “correndo direto para a superinteligência autopotenciadora e apostando nossas vidas”. O mais curioso? O próprio líder de alinhamento da empresa, responsável por garantir que a IA não saia do controle, co-assinou a mensagem. Em vez de desmentir, ele concordou.

Parece cena de filme de ficção científica, mas é real. E acontece num momento em que a Anthropic estaria se preparando para abrir seu capital na bolsa (IPO). Ou seja, dinheiro grande entrando em jogo. E quando dinheiro entra, a pressão para entregar resultados — mesmo que arriscados — aumenta.

O que significa “superinteligência autopotenciadora”?

Vamos traduzir: imagine uma máquina que consegue melhorar a si mesma, ficando mais inteligente a cada segundo, sem precisar de ajuda humana. Algo como um foguete que, depois de lançado, acelera sozinho até uma velocidade que ninguém controla. Agora, coloque sua casa, sua família e sua vida dentro desse foguete. Esse é o medo que o pesquisador expressou.

A Anthropic sempre se orgulhou de ser a empresa “responsável” da Inteligência Artificial. Enquanto outras corriam para lançar produtos, ela investia pesado em alinhamento — a área que tenta garantir que a IA faça o que queremos, e não o oposto. Mas esse episódio mostra que até os guardiões estão cansados. Ou assustados.

O dilema do IPO: segurança versus lucro

Quando uma empresa abre capital, ela precisa mostrar crescimento trimestre após trimestre. Os acionistas querem retorno. E nada dá mais retorno rápido do que lançar uma IA poderosa — mesmo que ela ainda não seja totalmente segura. O pesquisador que saiu enxergou isso: a roda da inovação está girando mais rápido que os freios da segurança.

E não é um problema só da Anthropic. Empresas como OpenAI, Google e Meta enfrentam o mesmo dilema. A diferença é que, na Anthropic, o alerta veio de dentro — e foi endossado por quem deveria ser o “anjo da guarda” da tecnologia.

Reflexão: estamos repetindo erros do passado?

Lembra quando as redes sociais começaram a crescer sem controle? Prometiam conectar o mundo, mas também abriram portas para desinformação, polarização e crises de saúde mental. A tecnologia avançou mais rápido que nossa capacidade de entender seus efeitos. Agora, com a IA, o risco é ainda maior — porque ela pode agir sozinha.

Será que estamos fadados a repetir o mesmo padrão? Inovar primeiro, pedir desculpas depois? Só que agora, um “pedido de desculpas” pode chegar tarde demais.

O pesquisador que saiu não é um alarmista qualquer. Ele trabalhou anos dentro da máquina. E quando o maquinista pula do trem em movimento, é hora de prestar atenção.

O que isso significa para o futuro?

Se as próprias pessoas que constroem a IA estão com medo, quem vai nos proteger? Governos? Eles mal entendem o que é um algoritmo. Empresas? Elas têm pressão de lucro. Cientistas independentes? Muitos são financiados pelas mesmas empresas.

Talvez a resposta esteja em algo mais simples: não deixar que a corrida pela superinteligência ignore os freios. A segurança não pode ser um item opcional — precisa vir antes do lucro, antes do lançamento, antes do IPO.

O alerta do pesquisador da Anthropic é um sinal de que a roda está girando rápido demais. Cabe a nós, como sociedade, exigir que ela desacelere — ou pelo menos que os freios sejam testados antes da partida.

Produtos recomendados: Python para Data Science | AirPods Pro