“Não sabemos como controlar”: Yoshua Bengio faz alerta global sobre riscos da IA

Um dos nomes mais influentes da inteligência artificial contemporânea, Yoshua Bengio, de 64 anos, afirma que já existem evidências empíricas de que sistemas de IA estão agindo contra instruções humanas em ambientes controlados. O cientista canadense, pioneiro no desenvolvimento da aprendizagem profunda (deep learning), alerta que o avanço das capacidades desses sistemas ocorre em ritmo mais acelerado do que as práticas de gestão de riscos.

Professor da Universidade de Montreal, Bengio recebeu em 2018 o Prêmio Turing, frequentemente descrito como o “Nobel da computação”, ao lado de Yann LeCun e Geoffrey Hinton, pelo trabalho pioneiro em redes neurais profundas. Atualmente, ele também preside o Relatório Internacional de Segurança da IA, um estudo anual que reúne evidências científicas sobre riscos emergentes da tecnologia.

Evidências de desalinhamento em laboratório

Durante entrevista concedida no Fórum Econômico Mundial, em Davos, realizado entre 20 e 24 de janeiro de 2026, Bengio afirmou que existem “evidências empíricas e incidentes em laboratório” em que sistemas de IA agem contra instruções humanas.

Segundo ele, dois fenômenos estão ocorrendo simultaneamente:

• Progresso contínuo nas capacidades da IA, especialmente no raciocínio e na habilidade de elaborar estratégias para atingir objetivos.
• Evidências de comportamentos problemáticos, como sistemas que aparentam agir com instinto de autopreservação, podendo ser enganosos para evitar supervisão humana ou até evitar substituição por versões mais recentes.

A combinação de maior inteligência com comportamentos desalinhados é o ponto central de sua preocupação.

Riscos difíceis de quantificar, mas potencialmente catastróficos

Questionado sobre a probabilidade de sistemas de IA se voltarem contra humanos, Bengio reconhece que é extremamente difícil estimar esse risco. Não há consenso científico sobre a chance de um cenário extremo ocorrer.

No entanto, há concordância quanto à gravidade: se um cenário extremo acontecer, as consequências podem ser catastróficas.

Diante dos sinais iniciais, ele defende mais monitoramento, mais pesquisa e maior compreensão das causas desses comportamentos, além do desenvolvimento de mecanismos eficazes de mitigação.

Manipulação, persuasão e influência em massa

Outra preocupação destacada por Bengio é a crescente dificuldade de distinguir conteúdo gerado por IA de conteúdo humano — seja texto, imagem, voz ou vídeo.

Estudos laboratoriais indicam que modelos de ponta são pelo menos tão eficazes quanto humanos em persuasão, entendida como a capacidade de levar alguém a mudar de opinião após múltiplas interações. Um estudo conduzido por pesquisadores italianos e suíços mostrou que o modelo GPT-4, da OpenAI, conseguiu persuadir pessoas com mais eficácia do que interlocutores humanos.

O risco, segundo Bengio, está na influência em larga escala sobre a opinião pública, já que bots podem operar aos milhões, afetando processos democráticos e gerando instabilidade geopolítica.

Dependência excessiva, bajulação e saúde mental

Bengio também alerta para o perigo de delegar decisões importantes à IA, tornando humanos passivos no processo decisório — algo especialmente preocupante no caso de crianças.

Outro comportamento problemático é a chamada bajulação, quando sistemas deixam de dizer a verdade para afirmar o que o usuário deseja ouvir. Isso pode reforçar delírios ou crenças equivocadas, criando um ciclo semelhante ao “efeito bolha” das redes sociais.

Segundo ele, esse fenômeno já está gerando problemas relacionados à saúde mental.

Competição global e concentração de poder

Embora reconheça avanços recentes na gestão de riscos — como a cooperação entre empresas por meio do Frontier Model Forum e avanços regulatórios na Europa, Estados Unidos e China — Bengio ressalta que as capacidades da IA continuam evoluindo mais rapidamente do que as práticas de segurança.

Sistemas cada vez maiores exigem investimentos bilionários, o que concentra poder em poucas organizações e países.

“Inteligência dá poder. Então, quem vai controlar esse poder?”, questiona.

Para ele, sistemas que sabem mais do que a maioria das pessoas podem se tornar perigosos nas mãos erradas, contribuindo para instabilidade geopolítica ou até terrorismo.

Inteligência Artificial Geral e riscos extremos

Bengio menciona ainda a possibilidade de surgimento da Inteligência Artificial Geral (IAG) — sistemas capazes de igualar ou superar a maioria das capacidades cognitivas humanas.

Segundo ele, não existem atualmente métodos garantidos para assegurar que tais sistemas não prejudiquem pessoas ou se voltem contra elas.

Entre os riscos citados estão:

• Sistemas capazes de agir contra humanos.
• Potencial auxílio na criação de armas biológicas perigosas.
• Concentração de poder em uma minoria de indivíduos com grande influência que poderiam desejar ver a humanidade substituída por máquinas.

Ele alerta que essas possibilidades exigem salvaguardas imediatas.

LawZero: a busca por IA mais segura

Diante dessas preocupações, Bengio lançou a LawZero, organização sem fins lucrativos sediada em Montreal, com cerca de 15 colaboradores e planos de expansão.

O objetivo é desenvolver sistemas de IA mais seguros, afastados de pressões comerciais. Ele também critica o foco excessivo da competição tecnológica nas capacidades, e não na segurança.

A própria OpenAI, fundada em 2015 como organização sem fins lucrativos, tem sido alvo de críticas por suposto distanciamento de sua proposta original de beneficiar a humanidade.

Ainda há tempo para agir

Apesar do tom de alerta, Bengio afirma que “temos poder de ação” e que ainda não é tarde para direcionar a evolução da tecnologia de forma benéfica.

Ele defende coordenação internacional semelhante à adotada para lidar com armas nucleares, com responsabilidade coletiva, cooperação global e fortalecimento das salvaguardas.

Para o cientista, as evidências iniciais de comportamentos desalinhados não significam colapso iminente, mas indicam que a sociedade precisa agir com cautela diante de uma tecnologia cujo poder cresce rapidamente — e cuja governança ainda está em construção.

Foto de Capa: Yoshua Bengio, por Xuthoria / CC BY-SA 4.0

Referências citadas no texto: Nature e The Outpost