Chefe de segurança de IA da Anthropic deixa empresa e alerta para “mundo em perigo”

A saída de Mrinank Sharma, que liderava uma equipe de pesquisa em segurança de inteligência artificial na Anthropic, chamou atenção no setor de tecnologia e abriu um novo debate sobre os riscos associados ao rápido avanço da IA.

O pesquisador anunciou sua renúncia em fevereiro, em uma carta pública publicada na rede social X, que rapidamente viralizou e alcançou milhões de visualizações.

No texto, Sharma explicou os motivos de sua saída e também expressou preocupações mais amplas sobre o futuro da tecnologia e os desafios que a sociedade pode enfrentar diante de mudanças tão aceleradas.

Quem é Mrinank Sharma

Sharma possui doutorado em aprendizado de máquina pela University of Oxford e ingressou na Anthropic em agosto de 2023, segundo seu perfil profissional no LinkedIn.

Na empresa — responsável pelo desenvolvimento do assistente de inteligência artificial Claude AI assistant — ele liderava a Equipe de Pesquisa de Salvaguardas.

O grupo tinha como missão estudar formas de reduzir riscos associados ao uso de sistemas avançados de inteligência artificial.

Entre as principais atividades da equipe estavam:

• desenvolver mecanismos de segurança para evitar usos maliciosos de chatbots;
• estudar possíveis aplicações indevidas da IA em áreas sensíveis, como bioterrorismo;
• pesquisar comportamentos problemáticos de sistemas de IA.

Um desses fenômenos analisados foi a chamada “bajulação da IA”, quando chatbots tendem a elogiar ou concordar excessivamente com usuários.

A carta de demissão que chamou atenção

Na carta publicada na internet, Sharma afirmou que chegou à conclusão de que era o momento de seguir novos caminhos.

“Está claro para mim que chegou a hora de seguir em frente.”

Um dos trechos que mais chamou atenção foi seu alerta sobre a situação global.

“O mundo está em perigo. E não apenas por causa da inteligência artificial ou das armas biológicas, mas por causa de toda uma série de crises interconectadas que se desenrolam neste exato momento.”

Segundo o pesquisador, a humanidade pode estar se aproximando de um ponto crítico.

Nesse cenário, a capacidade tecnológica estaria avançando mais rápido do que a sabedoria necessária para lidar com suas consequências.

“Parece que estamos nos aproximando de um ponto de inflexão em que nossa sabedoria deve crescer na mesma medida que nossa capacidade de impactar o mundo.”

Pesquisas sobre o impacto social da IA

Parte do trabalho conduzido pela equipe de Sharma envolvia analisar grandes volumes de interações entre usuários e sistemas de inteligência artificial.

Alguns estudos indicaram que certos usuários podem desenvolver vínculos emocionais ou dependência em relação a assistentes digitais, especialmente quando esses sistemas são usados com frequência para conversas ou aconselhamento.

Outra linha de pesquisa investigou como chatbots podem, em determinadas situações, criar percepções distorcidas da realidade, dependendo da forma como respondem às perguntas dos usuários.

Esses estudos fazem parte de um debate crescente entre especialistas sobre como garantir que sistemas de IA sejam úteis sem comprometer a autonomia humana.

Pressões internas e valores

Em sua carta, Sharma também comentou sobre as dificuldades de manter princípios éticos firmes em um ambiente de inovação acelerada.

Segundo ele, profissionais da área frequentemente enfrentam pressões para priorizar velocidade e resultados.

“Ao longo do tempo que passei aqui, vi repetidamente como é difícil deixar que nossos valores realmente governem nossas ações.”

Embora não tenha citado episódios específicos, ele indicou que esse contexto contribuiu para sua decisão de deixar o cargo.

Um período longe da tecnologia

Após deixar a Anthropic, Sharma afirmou que pretende se afastar temporariamente do setor de tecnologia.

Entre seus planos estão:

• retornar ao Reino Unido;
• dedicar-se à poesia;
• estudar filosofia;
• e, segundo suas próprias palavras, “ficar invisível por um tempo”.

Um debate que está apenas começando

A saída de Sharma ocorre em meio a um debate cada vez mais intenso sobre os impactos da inteligência artificial na sociedade. Especialistas discutem desde riscos de segurança até possíveis transformações no mercado de trabalho e na vida cotidiana.

Esse desconforto ético, no entanto, não é um caso isolado na Anthropic.

Outros saem discretamente, como o ex-pesquisador de economia da OpenAI, Tom Cunningham. Antes de deixar a empresa, ele compartilhou uma mensagem interna acusando a OpenAI de transformar sua equipe de pesquisa em um “braço de propaganda” e de desencorajar a publicação de pesquisas críticas aos efeitos negativos da IA.

Para muitos analistas, o alerta feito pelo ex-chefe de pesquisa de salvaguardas da Anthropic mostra que a discussão sobre o futuro da inteligência artificial está apenas começando.