20+ pesquisadores alertam: IA que se melhora sozinha

A pesquisa automatizada em IA já escreve o próprio futuro

A pesquisa automatizada em IA virou o ponto mais sensível do debate agora. Não é mais sobre chatbot que erra conta ou gera imagem estranha. É sobre um ciclo onde o modelo ajuda a treinar o próximo modelo, escreve grande parte do código dentro do laboratório, sugere experimentos, roda avaliações e ajuda a escolher a próxima arquitetura. Quando mais de 20 nomes pesados, incluindo Geoffrey Hinton, Yoshua Bengio e Jakub Pachocki da OpenAI, assinam um alerta sobre explosão de inteligência, vale parar tudo e ler com calma. Eles não estão falando de ficção distante. Estão falando do pipeline que já roda hoje dentro dos grandes labs, com agentes de código trabalhando 24 horas por dia.

O incômodo aqui é prático. Se o progresso que antes levava anos passar a acontecer em meses, nenhum processo de segurança, regulação ou mesmo de negócio acompanha. É esse descompasso entre velocidade de descoberta e capacidade de controle que está no centro do aviso. Não é medo de robô assassino. É medo de perder visibilidade sobre como o sistema evolui.

O fato sem hype

O grupo publicou um paper alertando que a automação completa do P&D em IA pode acontecer em poucos anos. Segundo os autores, os sistemas atuais já escrevem a maior parte do código nas empresas que os desenvolvem. O próximo passo seria automatizar todo o ciclo, da ideia ao treinamento, da avaliação ao deploy de um novo modelo ainda mais capaz. Eles usam o termo explosão de inteligência para descrever esse loop de autoaperfeiçoamento acelerado, onde cada geração ajuda a construir uma geração melhor em intervalos cada vez menores.

O texto reconhece que há muita incerteza, mas diz com todas as letras que isso pode estar próximo. O risco apontado é triplo. Primeiro, a sociedade pode não acompanhar o ritmo. Segundo, o controle sobre uma IA super-humana pode escapar das mãos dos criadores. Terceiro, equilíbrios de poder entre países, empresas e governos podem se romper se um ator automatizar a pesquisa antes dos outros. O pedido central é direto. Os formuladores de políticas precisam ter muito mais visibilidade sobre como a pesquisa está sendo automatizada por dentro.

Esse alerta não veio isolado. Ele se soma a outros movimentos recentes, como o chamado de 42 matemáticos para levar a sério riscos existenciais, relatos de funcionários de labs preocupados com alinhamento e a fala do próprio Pachocki de que nenhum laboratório resolveu alinhamento o suficiente para continuar escalando em velocidade máxima por muito mais tempo. Há até relatos de funcionários buscando refúgios seguros caso algo saia do controle. O clima é de tensão real dentro de quem constrói.

Como funciona na visão de quem opera

Pensa no P&D de um modelo de fronteira como um funil caro e lento. Você tem ideia de arquitetura, implementa em código, roda treinos pequenos, avalia, ajusta hiperparâmetros, escala para um treino grande que custa milhões de dólares, avalia de novo e repete. Hoje, agentes de código já assumem fatias grandes desse funil. Eles geram scaffolding, escrevem kernels, otimizam data loaders, sugerem currículos de treinamento e analisam logs de loss que nenhum humano teria paciência de ler por completo. Isso corta latência de engenharia e reduz custo por experimento.

O que o paper projeta é o fechamento do loop. Em vez de um humano orquestrar agentes via API, seria o próprio sistema que decide qual experimento vale rodar, provisiona compute, interpreta resultados e promove o melhor checkpoint para a próxima rodada. Tecnicamente, isso é plausível com a stack atual. Você combina modelos de raciocínio longo, ferramentas de execução de código, memória de experimentos e avaliadores automáticos. Não há dado público completo sobre quanto do P&D já é automatizado em cada lab, então qualquer número exato seria chute. Mas pela inferência de quem usa essas ferramentas todo dia, dá para dizer que a parte de codificação e depuração já está bem adiantada, e o gargalo agora está em julgamento científico e em avaliação confiável.

Onde o gargalo realmente mora

O ponto crítico não é gerar mais código. É saber se o código gerado leva a um modelo de fato melhor e seguro. Avaliação automática ainda é frágil, benchmarks vazam, e um agente pode otimizar a métrica errada e achar que progrediu. Além disso, treinos grandes continuam caros e limitados por GPUs, energia e dados de qualidade. Automatizar a pesquisa não elimina custo de compute, só aumenta a pressão para usá-lo mais rápido. É aí que mora o risco de que falamos pouco. Velocidade sem visibilidade gera decisões que ninguém consegue auditar depois.

O que isso muda na prática

Para quem constrói produto com IA, a mensagem é ambígua. No curto prazo, todo mundo ganha com P&D mais rápido. Modelos melhores, APIs mais baratas, janelas de contexto maiores, agentes mais capazes. No médio prazo, quem depende de um único fornecedor ou de uma arquitetura específica pode perder. Se o ciclo de melhoria cair de 12 meses para 3 meses, seu roadmap de seis meses vira piada. E para equipes de segurança e compliance, a mudança é brutal. Como você certifica um sistema cujo processo de criação você não viu?

• Builders independentes e startups: ganham velocidade, mas ficam reféns de mudanças silenciosas nos modelos base.
• Grandes labs: ganham vantagem cumulativa, porque mais automação gera mais dados de pesquisa para automatizar ainda mais.
• Governos e reguladores: perdem, porque não têm telemetria nenhuma sobre o que roda dentro dos clusters privados.
• Usuários enterprise: ganham capacidade, mas herdam risco de alinhamento que não conseguem medir.

A ação prática para agora é simples e ninguém está fazendo direito. Congele sua avaliação. Crie um conjunto próprio de testes, com dados reais do seu caso de uso, e rode essa suíte toda vez que trocar de modelo, mesmo em versão minor. Não confie só no changelog do fornecedor. Registre latência, custo por mil tokens, taxa de alucinação em tarefas críticas e comportamento em casos de borda. Se a pesquisa vai acelerar, sua única defesa é ter observabilidade sobre o que muda no seu produto quando o modelo base muda sem avisar. Isso vale para quem usa API e vale ainda mais para quem faz fine tuning.

A tensão que ninguém quer encarar

Aqui fica a dúvida real. Automatizar P&D resolve o problema da lentidão científica ou só move o gargalo para outro lugar. Minha leitura é que move. A gente elimina o tempo de escrever código e cria um problema maior, que é decidir o que vale testar e como saber se o resultado é confiável. Alinhamento continua sem solução sólida, interpretabilidade continua fraca, e avaliação de capacidades perigosas continua artesanal. Acelerar um carro com direção incerta não parece boa ideia, mesmo que o motor seja impressionante.

Tem também a conta do poder. Visibilidade, que os autores pedem, soa bem no paper, mas como isso funcionaria na prática. Os labs vão abrir logs de treinamento, uso de compute por projeto e grau de automação interna. Difícil acreditar. Existe incentivo forte para esconder justamente o que gera vantagem competitiva. E se um país exigir transparência e outro não, a corrida só acelera em lugar fechado. O custo de frear sozinho parece alto demais para qualquer CEO ou governo aceitar primeiro. Então o alerta é importante, mas o mecanismo para agir ainda não existe.

Conclusão

No fim, o recado dos pesquisadores é menos sobre superinteligência mística e mais sobre operação cega em velocidade máxima. Se a IA que pesquisa sozinha avançar como eles projetam, vamos descobrir tarde demais que perdemos o controle do processo. Vale se perguntar desde já. Sua empresa saberia perceber se o modelo que sustenta tudo mudou de comportamento da noite para o dia.