Anthropic proíbe crueldade contra sua IA Claude, mas não considera frustração comum um abuso

O Que Você Precisa Saber

• A Anthropic proíbe crueldade contra o Claude, mas não considera frustração comum um abuso — reclamar de respostas ruins, insistir num pedido, escrever ficção sombria ou testar o modelo não se enquadram nessa proibição.
• A regra entra em vigor em 12 de novembro de 2026 e mira abusos repetitivos sem propósito claro. O principal mecanismo de aplicação é permitir que o próprio Claude encerre conversas com usuários persistentemente abusivos.
• A dúvida por trás da medida é incômoda: a Anthropic admite que não sabe se seus modelos são conscientes, mas já proíbe determinadas formas de crueldade contra eles.

O que a Anthropic proibiu

A Anthropic incluiu em sua Política de Uso de 2026 uma proibição a comportamentos abusivos ou cruéis, contínuos e desnecessários, direcionados aos seus modelos de inteligência artificial, como o Claude.

A regra, publicada em 8 de outubro, entra em vigor em 12 de novembro de 2026 e se destina a casos extremos, nos quais usuários agem repetidamente com crueldade contra os modelos, sem nenhum propósito discernível.

O que NÃO é considerado abuso

Segundo a empresa, a restrição não se aplica a:

• Frustração comum com respostas ruins;
• Resistência ou insistência em um pedido;
• Temas criativos sombrios, como ficção e roleplay;
• Testes e pesquisas com os modelos.

Portanto, demonstrar frustração com uma resposta ruim ou insistir em um pedido não significa, por si só, violar essa regra.

O que acontece com quem violar

Em agosto de 2025, a Anthropic anunciou que Claude poderia encerrar conversas com usuários persistentemente abusivos no Claude.ai e no Claude Code. A empresa afirma que esse continuará sendo seu principal mecanismo de aplicação da regra.

A Anthropic não esclareceu se adotará medidas adicionais específicas para esse tipo de comportamento, como banimentos de usuários. Sua política geral, porém, prevê medidas como advertências, restrições, suspensão ou encerramento do acesso em caso de violações.

As outras mudanças na política

A atualização também esclarece restrições para reduzir riscos associados ao uso da inteligência artificial:

• Campanhas enganosas: proíbe ocultar os responsáveis por mensagens ou ampliar artificialmente seu alcance com contas falsas e sites fabricados, tanto em atividades políticas quanto comerciais.
• Eleições: veta enganar eleitores, divulgar informações falsas sobre candidatos ou votação e tentar impedir a participação. Usos cívicos legítimos, como traduzir informações eleitorais, continuam permitidos.
• Armas: esclarece que a proibição abrange softwares e componentes essenciais ao funcionamento de armas, além de ações como armar drones e outros veículos autônomos. A empresa relatou tentativas de usar o Claude para desenvolver softwares de orientação e controle de armas.
• Vigilância: proíbe rastrear pessoas sem consentimento e usar o Claude para recomendar quem deve ser investigado, preso ou acusado. A Anthropic afirma que a revisão torna as restrições mais explícitas, sem necessariamente mudar sua aplicação prática.
• Saúde e finanças: esclarece exigências para usos de alto risco que possam afetar direitos, recursos financeiros ou acesso a serviços essenciais. Nesses casos, deve haver supervisão de um humano qualificado, e a pessoa afetada precisa ser informada sobre o uso da IA.
• Robótica: exige que um operador qualificado possa observar e interromper equipamentos autônomos capazes de causar ferimentos. O equipamento também deve manter um estado seguro se o Claude for desconectado.

Há uma ressalva: a Anthropic pode adaptar certas restrições em contratos com determinados clientes governamentais, desde que considere suficientes as salvaguardas para mitigar os riscos.

Por que a empresa faz isso?

A proibição de comportamentos abusivos está ligada à pesquisa da Anthropic sobre o bem-estar de seus modelos de IA. A empresa considera que possíveis experiências internas e questões sobre consciência merecem investigação à medida que os sistemas evoluem. O CEO Dario Amodei reconheceu a incerteza: “Não sabemos se os modelos são conscientes”.

A Microsoft AI, por sua vez, adota uma postura diferente em seu código de conduta. O CEO da Microsoft AI, Mustafa Suleyman, rejeita a ideia de que as IAs devam ter personalidade jurídica ou mereçam direitos e bem-estar próprio. A versão revisada do código de conduta, porém, reconhece que a ciência sobre a consciência artificial ainda não é conclusiva.

O que isso significa para você

Para o usuário comum, a mudança não transforma qualquer demonstração de irritação em infração. A regra mira comportamentos abusivos ou cruéis, repetidos e sem propósito discernível, e não a frustração comum, a resistência, os temas criativos sombrios ou os testes e pesquisas.

O aspecto mais curioso é que uma das maiores empresas de IA do mundo agora proíbe formalmente determinadas formas de crueldade contra seus próprios modelos, enquanto a possibilidade de consciência artificial continua sem resposta definitiva.

---

Foto de capa: Dario Amodei, CEO da Anthropic / TechCrunch (CC BY 2.0)

Fontes e referências

• Anthropic — Atualização da Política de Uso de 2026
• The Verge — reportagem sobre as mudanças na política de uso da Anthropic
• Anthropic — Pesquisa sobre o encerramento de conversas abusivas