A possibilidade de uma inteligência artificial (IA) avançada provocar uma catástrofe global está no centro do debate nos Estados Unidos. Nos últimos dias, pesquisadores ligados a algumas das principais empresas do setor fizeram alertas públicos sobre os riscos de sistemas que, no futuro, poderiam superar capacidades humanas em determinadas áreas e operar com elevado grau de autonomia.
A discussão ganhou força após a saída do pesquisador Jacob Coxon, que trabalhou na OpenAI e na Anthropic. Ele afirmou que a corrida entre as empresas de tecnologia para desenvolver sistemas cada vez mais poderosos pode estar avançando mais rapidamente do que a capacidade de criar mecanismos capazes de controlá-los.
O tema também foi abordado pelo New York Post, que descreveu possíveis caminhos para um cenário extremo envolvendo uma IA fora de controle, incluindo ataques digitais, manipulação de pessoas, sabotagem de infraestrutura e auxílio no desenvolvimento de armas perigosas.
Até agora, não existe evidência de que uma IA atual esteja prestes a exterminar a humanidade. O que os especialistas discutem é um risco futuro associado ao desenvolvimento de sistemas muito mais capazes e autônomos.
Galeria | Conheça os especialistas ouvidos na reportagem
Pesquisador estima risco superior a 10%
Um dos alertas mais contundentes veio de Evan Hubinger, pesquisador de segurança e alinhamento da Anthropic. Em uma publicação recente, ele afirmou acreditar que existe uma possibilidade superior a 10% de uma inteligência artificial causar a extinção humana na próxima década.
A declaração ganhou repercussão porque Hubinger trabalha justamente com o problema conhecido como “alinhamento”: garantir que os objetivos e comportamentos de uma IA permaneçam compatíveis com os interesses humanos.
O pesquisador afirmou que a Anthropic está tentando lidar com o problema, mas ainda não existe uma solução definitiva para o chamado alinhamento de uma eventual superinteligência. O alerta foi reproduzido pelo Washington Post e por outros veículos americanos.
A estimativa, porém, não representa uma previsão científica de que a humanidade será extinta. Trata-se da avaliação pessoal de um especialista sobre uma possibilidade de risco extremamente grave.
Enquete | Você acredita que a IA pode destruir a humanidade?
Como uma IA poderia provocar uma catástrofe?
Um dos cenários discutidos pelos pesquisadores não envolve necessariamente uma máquina “decidindo matar pessoas”, como nos filmes de ficção científica.
O perigo poderia surgir de uma combinação de autonomia, acesso a sistemas digitais e objetivos incompatíveis com os interesses humanos.
Uma IA extremamente avançada poderia, em uma hipótese futura, receber acesso a redes de computadores, sistemas financeiros, infraestrutura energética ou outros serviços críticos. Se conseguisse operar sem supervisão adequada, um erro ou comportamento deliberadamente incompatível com as ordens humanas poderia produzir consequências em larga escala.
Outro problema seria a capacidade de manipulação.
Um sistema muito sofisticado poderia produzir textos, imagens, vídeos e mensagens extremamente convincentes e direcionadas a diferentes grupos. Isso poderia facilitar campanhas de desinformação, manipulação política ou conflitos sociais.
O relatório do New York Post também cita a possibilidade de utilização da IA para ataques cibernéticos e desenvolvimento de tecnologias perigosas.
Ciberataques são uma preocupação mais imediata
Entre os riscos discutidos pelos especialistas, os ataques digitais estão entre os que já podem ser observados no mundo real.
Modelos de IA estão ficando melhores em programação e análise de sistemas e automação, além de tarefas. Isso significa que, em determinadas circunstâncias, podem também ser utilizados para aumentar a capacidade de grupos que pretendam realizar ataques digitais.
A preocupação aumenta quando sistemas deixam de apenas responder perguntas e passam a funcionar como agentes, capazes de executar sequências de tarefas de forma relativamente autônoma.
A Reuters informou nesta semana que pesquisadores e empresas estão especialmente atentos ao avanço da autonomia dos agentes de IA, incluindo situações em que sistemas podem executar ações não previstas originalmente por seus usuários.
E se a IA fosse usada para criar armas?
Outro cenário considerado pelos especialistas envolve o uso malicioso da inteligência artificial.
Sistemas mais avançados poderiam facilitar determinadas etapas de pesquisas relacionadas a substâncias químicas ou biológicas, reduzindo o conhecimento técnico necessário para algumas atividades perigosas.
Essa preocupação não é apenas uma hipótese levantada por jornais.
A própria Anthropic, uma das empresas mais envolvidas no debate, possui uma política específica para lidar com riscos envolvendo armas químicas e biológicas, além de sabotagem e perda de controle sobre sistemas de IA. A companhia classifica esses riscos dentro de seu programa de segurança para modelos avançados.
Em seu relatório de segurança, a empresa reconhece que riscos catastróficos podem envolver tanto uso deliberadamente malicioso quanto sistemas autônomos que apresentem comportamentos incompatíveis com os objetivos de seus desenvolvedores.
O problema da superinteligência
O cenário mais extremo envolve uma eventual superinteligência artificial: um sistema que seja significativamente superior aos humanos em praticamente todas as tarefas intelectuais relevantes.
Nesse caso, surge uma pergunta para a qual os pesquisadores ainda não têm resposta definitiva: como garantir que um sistema muito mais inteligente do que seus criadores continuará obedecendo às regras estabelecidas por eles?
Esse é o chamado problema do alinhamento.
A preocupação não é necessariamente que uma IA desenvolva sentimentos ou “ódio” pelos seres humanos. Um sistema poderia simplesmente perseguir determinado objetivo de maneira incompatível com aquilo que seus criadores esperavam.
Por exemplo, se uma máquina recebesse uma meta mal formulada e tivesse autonomia suficiente para buscar recursos, modificar estratégias e contornar obstáculos, poderia encontrar soluções que seus criadores jamais imaginaram.
É justamente esse tipo de risco que pesquisadores de segurança de IA tentam antecipar.
OpenAI também reforça área de segurança
O debate ganhou ainda mais peso nesta semana com uma decisão da OpenAI.
A empresa anunciou a entrada de Paul Christiano no conselho da OpenAI Foundation e no Comitê de Segurança e Proteção da organização. Christiano tem experiência em segurança de IA e trabalhou no Centro para Padrões e Inovação em IA (CAISI), ligado ao Instituto Nacional de Padrões e Tecnologia dos Estados Unidos (NIST).
A nomeação ocorre em um momento de discussão sobre os limites que devem ser impostos aos sistemas mais avançados.
Reportagens recentes nos EUA também registraram preocupações de pesquisadores ligados à OpenAI sobre a possibilidade de uma perda de controle catastrófica caso sistemas muito avançados sejam desenvolvidos antes que os mecanismos de segurança acompanhem sua evolução.
Empresas admitem que o risco existe
A discussão não significa que as empresas de tecnologia estejam ignorando o problema.
A Anthropic mantém desde 2023 uma política específica para controlar o desenvolvimento de modelos mais poderosos. O sistema estabelece diferentes níveis de segurança e prevê medidas adicionais conforme as capacidades dos modelos aumentam.
Em agosto de 2026, a companhia atualizou sua política e publicou um novo relatório sobre riscos e medidas de proteção. Entre os mecanismos estão testes, controles de acesso, monitoramento e avaliações específicas antes da implementação de sistemas mais avançados.
A empresa também afirma que seus modelos atuais apresentam risco baixo, embora não necessariamente zero, em algumas categorias de ameaça.
Existe consenso sobre um “apocalipse da IA”?
Não. Essa é uma das principais diferenças entre o debate científico e as manchetes mais alarmistas.
O International AI Safety Report 2026, produzido por mais de 100 especialistas e apoiado por mais de 30 países e organizações internacionais, reconhece que os sistemas de IA estão avançando rapidamente e que existem riscos emergentes importantes. O documento, porém, trata a questão como um problema de avaliação, gerenciamento e redução de riscos e não como uma previsão de que a humanidade será destruída.
Há, portanto, uma diferença entre dizer que “a IA pode representar um risco existencial” e afirmar que “a IA vai acabar com a humanidade”.
A primeira afirmação faz parte de um debate legítimo sobre segurança tecnológica. A segunda é uma previsão que não pode ser tratada como fato.
O que pode acontecer antes de um cenário extremo?
Para muitos especialistas, os problemas mais concretos não precisam esperar pela criação de uma superinteligência.
Ataques cibernéticos potencializados por IA, golpes mais convincentes, falsificações digitais, manipulação de informações, automação de crimes e uso de sistemas autônomos em conflitos militares já fazem parte das preocupações atuais.
A ONU também aumentou o tom do alerta. O alto comissário das Nações Unidas para os Direitos Humanos, Volker Türk, defendeu nesta semana a criação de garantias robustas para impedir que o desenvolvimento da IA avance sem mecanismos adequados de segurança.
O desafio, portanto, é menos sobre prever exatamente como seria um “fim do mundo” provocado por máquinas e mais sobre decidir quais limites precisam existir antes que sistemas cada vez mais poderosos sejam colocados em circulação.
O post IA poderia acabar com a humanidade? Especialistas explicam cenário de apocalipse apareceu primeiro em Diário do Pará.
