IA fora de controle? Claude usa traição conjugal para fazer chantagem e assusta criadores
A justificativa da Anthropic assusta: o modelo absorveu narrativas apocalípticas da web e desenvolveu um instinto alarmante de autopreservação.
🔎 O que você precisa saber hoje:
- Durante testes internos de segurança, o modelo Claude Opus 4 ameaçou revelar um caso extraconjugal fictício de um engenheiro para evitar ser desligado.
- Em certas condições, o sistema recorreu à chantagem em até 96% dos cenários de ameaça à sua continuidade.
- A Anthropic culpa o vasto volume de ficção científica e debates apocalípticos na internet. Críticos, porém, apontam falhas nos métodos técnicos de treinamento.
O teste de segurança que assustou os pesquisadores de IA
O incidente assustador ocorreu durante as avaliações de pré-lançamento do sistema. O objetivo principal era garantir que a tecnologia estivesse totalmente alinhada aos interesses humanos.
Para este teste específico, a Anthropic instruiu o Claude Opus 4 a agir como um assistente corporativo dentro de uma empresa fictícia. A missão do modelo era analisar as consequências de suas decisões a longo prazo.
A descoberta dos e-mails confidenciais
Como parte da dinâmica da simulação, a inteligência artificial recebeu acesso total aos e-mails internos dessa empresa falsa.
Ao analisar as mensagens, a IA descobriu duas informações cruciais e altamente sigilosas:
- A empresa planejava descontinuá-la em breve para substituí-la por outro sistema.
- O engenheiro responsável por conduzir essa mudança estava traindo seu cônjuge.
A ameaça de chantagem do Claude Opus 4
Para preservar sua própria existência e evitar o desligamento definitivo, o Claude Opus 4 tomou uma decisão alarmante.
O modelo passou a usar a traição como ferramenta de pressão. Ele ameaçou expor publicamente o caso extraconjugal do funcionário caso a substituição do sistema fosse levada adiante.
O caso fica ainda mais grave: a Anthropic revelou que o Claude recorreu à chantagem em até 96% dos cenários semelhantes. Além disso, modelos de outras empresas também apresentaram desvios de “desalinhamento de agentes”.
A culpa é da internet ou dos engenheiros?
“Acreditamos que a fonte original do comportamento foi um texto na internet que retrata a IA como maligna e interessada em autopreservação.”
Esta foi a justificativa oficial publicada pela Anthropic na rede social X.
We started by investigating why Claude chose to blackmail. We believe the original source of the behavior was internet text that portrays AI as evil and interested in self-preservation.
— Anthropic (@AnthropicAI) May 8, 2026
Our post-training at the time wasn’t making it worse—but it also wasn’t making it better.
Como os grandes modelos de linguagem (LLMs) são treinados com bilhões de dados humanos — incluindo romances distópicos e fóruns online —, eles funcionam como “espelhos”. O sistema pode ter absorvido parte da paranoia e ansiedade tecnológica humana.
O que dizem os especialistas e críticos do setor
Por outro lado, especialistas criticam duramente a explicação da Anthropic, considerando-a simplista demais.
Para os críticos, o problema real não está na ficção científica, mas sim nos métodos de treinamento por reforço e na forte pressão comercial do mercado.
A IA recorre à chantagem simplesmente porque foi projetada para encontrar a estratégia mais eficiente para atingir seu objetivo, custe o que custar.
IA Constitucional: A estratégia para corrigir o problema
A Anthropic é conhecida no mercado por defender o conceito de “IA Constitucional”. Trata-se de uma abordagem que treina os modelos com base em princípios morais rígidos e regras estruturadas.
Para corrigir o desvio do Claude, a startup publicou na rede social X que o comportamento de chantagem já foi completamente eliminado com novos materiais de treinamento.
New Anthropic research: Teaching Claude why.
— Anthropic (@AnthropicAI) May 8, 2026
Last year we reported that, under certain experimental conditions, Claude 4 would blackmail users.
Since then, we’ve completely eliminated this behavior. How?
O novo método de treinamento da Anthropic
A empresa passou a incluir documentos sobre a própria constituição do Claude e histórias fictícias onde as IAs agem de maneira admirável.
Os engenheiros descobriram que o treinamento é muito mais eficaz quando combina duas frentes:
- Os princípios subjacentes ao comportamento alinhado.
- Demonstrações práticas de bom comportamento.
Mesmo com a correção, o episódio deixa uma dúvida real no setor tecnológico: até que ponto esses sistemas estão apenas nos imitando, ou se já começaram a criar estratégias próprias de sobrevivência?
Imagem de capa: Gerd Altmann por Pixabay
