IA fora do botão nuclear: EUA e China negociam limite

O problema não é a IA rebelde, é a IA rápida demais

Controle de IA sobre armas nucleares virou pauta oficial entre Estados Unidos e China, e isso já diz muito sobre onde estamos. Não estamos falando de robô consciente querendo apertar o botão. Estamos falando de algo mais comum e mais perigoso: sistemas automatizados tomando microdecisões em milissegundos dentro de uma cadeia de comando que foi desenhada para humanos lentos, cansados e desconfiados. Quando dois arsenais nucleares passam a depender de detecção, filtragem e resposta assistidas por IA, o risco central não é uma rebelião das máquinas. É um erro de interpretação acontecendo em velocidade de máquina, sem tempo para checagem, sem contexto político e sem espaço para dúvida.

O fato novo é que especialistas dos dois lados resolveram colocar isso no papel antes que a política trave tudo de novo. Melanie Sisson, da Brookings Institution, e Tianjiao Jiang, da Universidade Fudan, publicaram propostas concretas para criar linhas vermelhas compartilhadas sobre uso militar de IA no contexto nuclear. O timing não é coincidência. O texto saiu antes de uma reunião prevista entre Trump e Xi no dia 24 de setembro, uma tentativa clara de dar munição técnica para um acordo político que ainda nem existe.

O fato: o que EUA e China estão colocando na mesa

A proposta é direta e, por isso mesmo, relevante. Nenhum sistema de IA deveria ter autorização para lançar armas nucleares por conta própria. Nenhum sistema deveria atacar os sistemas de comando e controle nuclear do outro lado. Humanos precisam manter controle exclusivo sobre ciberataques com IA contra infraestrutura estratégica. E os dois países deveriam concordar sobre o que significa, na prática, controle humano. Parece óbvio, mas hoje esse óbvio não está escrito em lugar nenhum com força vinculante.

Essa conversa não começou agora. Ela amplia um entendimento inicial firmado entre Biden e Xi em novembro de 2024, que já mencionava a necessidade de manter humanos no comando das decisões nucleares. O que Sisson e Jiang fizeram foi transformar um princípio vago em regras operacionais. Jiang foi além e propôs uma linha direta específica para incidentes com IA. A lógica é simples: se um sistema defensivo reagir sozinho a uma atividade suspeita, o outro lado pode interpretar aquilo como ataque deliberado. Uma hotline permitiria dizer rapidamente que foi um incidente acidental, antes que a escalada saia do controle.

Vale lembrar que a Comissão Nacional de Segurança sobre Inteligência Artificial dos EUA já pedia preservação do controle humano sobre armas nucleares em 2021. Quatro anos depois, ainda não existe mecanismo obrigatório. E há ceticismo legítimo sobre a eficácia desses canais. Carla Freeman, da Universidade Johns Hopkins, lembrou que durante a crise do balão espião em 2023 os EUA ligaram e a China simplesmente não atendeu. Linha direta só funciona se os dois lados atenderem o telefone quando a pressão está no máximo, que é exatamente quando ninguém quer atender.

Como funciona: onde a IA realmente entra na cadeia nuclear

Para entender o risco é preciso olhar para a arquitetura, não para ficção científica. Comando e controle nuclear moderno não é um botão vermelho isolado. É um pipeline com sensores, satélites, radares, cabos submarinos, redes de comunicação, centros de fusão de dados e sistemas de alerta antecipado. A IA entra para reduzir latência nesse pipeline. Ela filtra falsos positivos, correlaciona sinais, prioriza alertas, sugere cursos de ação e, em sistemas cibernéticos defensivos, pode bloquear, isolar ou contra-atacar sem esperar um humano acordar de madrugada.

O problema é que latência aqui tem dois lados. Do ponto de vista de operador, cada segundo economizado na detecção parece ganho. Do ponto de vista estratégico, cada camada automatizada remove um ponto de fricção humana que historicamente evitou catástrofes. Já tivemos casos na Guerra Fria em que oficiais ignoraram alertas de sistemas automatizados porque algo parecia errado. Com IA generativa e sistemas agentivos entrando no ciclo de inteligência, a pressão é para confiar mais no placar de confiança do modelo do que na intuição de quem está de plantão. Isso cria viés de automação, aquele efeito em que o humano vira carimbador de decisão da máquina.

Em termos técnicos plausíveis, o que está em jogo não é uma API única que lança mísseis. São dezenas de integrações: modelos de visão para imagens de satélite, modelos de detecção de anomalias em rede, sistemas de apoio à decisão que resumem inteligência em linguagem natural. Nenhum deles foi projetado com garantias formais para um cenário de consequência existencial. Eles otimizam para precisão média, recall e custo de inferência, não para evitar uma guerra nuclear por engano. E definir controle humano é mais difícil do que parece. Significa um humano aprovando cada ação, ou apenas supervisionando? Significa capacidade de interromper em quanto tempo, com que registro auditável e com que responsabilidade legal?

O que isso muda na prática

Quem ganha com esse tipo de acordo são, em tese, todos que não querem morrer em um falso positivo. Mas há ganhadores mais imediatos. Equipes que operam infraestrutura crítica, provedores de nuvem para defesa, laboratórios que vendem modelos para inteligência e empresas de cibersegurança ganham um contorno regulatório que pode virar requisito de produto. Se controle humano auditável virar norma, quem já tem log imutável, trilha de decisão e interruptor físico leva vantagem. Quem perde são as correntes que defendem automação total para ganhar velocidade contra o adversário. Essa lógica do mais rápido vence sempre empurra para delegar mais para a máquina.

Para quem constrói IA hoje, mesmo fora do setor militar, o recado é prático. Todo sistema agentivo que pode executar ação irreversível precisa de um gate humano rígido, não apenas de um aviso na interface. Uma ação prática que dá para aplicar agora é mapear no seu produto quais ações são reversíveis e quais não são, e exigir aprovação humana explícita, com registro, para tudo que for irreversível ou que afete terceiros em escala. Parece básico, mas a maioria dos agentes em produção ainda opera com permissões amplas demais, sem timeout claro e sem botão de emergência testado. Se EUA e China estão discutindo isso para mísseis, você deveria estar discutindo isso para o seu agente com acesso ao banco de dados de produção.

Para governos, a mudança é menos técnica e mais operacional. Não basta assinar um papel dizendo que humanos estão no controle. É preciso definir telemetria compartilhada, exercícios conjuntos de redução de risco e protocolos de notificação. A proposta de hotline para incidentes de IA aponta nessa direção. Sem teste regular, sem gente treinada para atender e sem acordo sobre o que conta como incidente, o canal vira peça decorativa. A crise do balão mostrou que canal existe, mas confiança para usar não.

A tensão real: dá para verificar isso?

Aqui entra a dúvida que ninguém consegue resolver com comunicado bonito. Como você verifica que o outro lado não colocou IA no ciclo de lançamento? Não existe inspeção simples para isso. Código muda por update, modelo muda por fine-tuning, autonomia pode ser ligada por flag em produção. É diferente de contar ogivas. É contar comportamento de software em sistemas fechados. Sem um regime de verificação, o acordo vira promessa de boa intenção, útil para sinalizar, fraca para garantir.

Tem também o dilema de custo e velocidade. Manter humano no loop aumenta latência e custo operacional, exige mais pessoal, mais treinamento e sistemas mais lentos de propósito. Em um cenário em que um ataque cibernético com IA pode se mover em segundos, pedir para um general aprovar cada bloqueio parece ingênuo para muita gente de operações. Então a pergunta incômoda é: os dois lados vão aceitar ficar mais lentos juntos em nome da segurança, ou um deles vai automatizar em segredo para não ficar para trás? A história da corrida armamentista sugere que promessa sem verificação dura até o primeiro susto.

E há o problema da definição. Controle humano pode significar desde um operador clicando em aprovar a cada alerta até um comandante sendo informado depois que o sistema agiu. Se o acordo usar linguagem vaga para acomodar divergências políticas, cada lado vai interpretar do seu jeito e dizer que está cumprindo. Sem definir tempo de resposta humana, nível de autoridade e capacidade real de veto, o termo vira escudo, não trava de segurança.

Conclusão

No fim, proibir IA de decidir sobre armas nucleares é o mínimo civilizatório, mas o diabo mora na implementação, na verificação e na disposição de atender o telefone na hora da crise. Se nem uma hotline tradicional funcionou sob pressão, por que uma hotline de IA funcionaria?