Scaling travou? O que muda se GPT-4 foi o teto

O salto que não se repetiu

Scaling de modelos de IA virou promessa quebrada. Depois do GPT-4, em março de 2023, a tese dominante era simples: mais dados, mais GPUs, mais parâmetros e chegaríamos perto da inteligência artificial geral. Dois anos depois, ninguém repetiu aquele salto. Os modelos ficaram melhores, sim, mas de forma incremental, cara e cada vez mais imprevisível. Para quem opera produto com IA, isso não é debate acadêmico. É margem, latência e roadmap em risco.

O incômodo agora é prático. Se pré-treinar um modelo 10 vezes maior não garante um produto 10 vezes melhor, onde você coloca seu dinheiro? Em GPU para treino, em inferência mais pesada, em agentes, em dados próprios? É essa conta que está travando os labs e deveria estar travando você também.

O fato: três labs travaram ao mesmo tempo

O que mudou na narrativa foi uma sequência de vazamentos. The Information, Reuters e Bloomberg publicaram, em intervalo curto, que OpenAI, Anthropic e Google enfrentaram problemas com seus modelos de próxima geração. Atrasos, ganhos abaixo do esperado, custo de treino explodindo sem retorno claro em benchmarks. Não foi um lab isolado tendo um trimestre ruim. Foram os três maiores, ao mesmo tempo.

O símbolo da virada foi Ilya Sutskever, talvez o maior defensor do scaling. Ele passou a falar que os anos 2010 foram a era do scaling e que agora voltamos para a era da descoberta, onde escalar a coisa certa importa mais do que nunca. Na prática, isso é uma confissão elegante: jogar mais computação no pré-treino parou de funcionar como antes. E o mercado rapidamente trocou o slogan. Saiu o model scaling, entrou o inference scaling, também chamado de test-time compute.

Como funciona: pré-treino versus pensar na hora

Pensa em duas torneiras de computação. A primeira é o pré-treino. Você queima milhares de GPUs por meses para comprimir a internet em pesos. O custo é concentrado, upfront, e o benefício é amortizado em cada chamada de API depois. Funcionou muito bem até o GPT-4 porque havia dados abundantes e fáceis de usar. Essa fonte secou. Os modelos atuais já viram quase toda a web pública de qualidade, e o que sobra é lixo, duplicata ou dado com restrição legal.

A segunda torneira é a inferência com mais raciocínio. Em vez de responder direto, o modelo gera cadeias de pensamento, testa soluções, usa ferramentas, vota entre várias respostas. É o que o o1 da OpenAI popularizou. Do ponto de vista de arquitetura, isso muda tudo. O custo sai do treino e vai para cada request. A latência explode de 1 segundo para 20, 40, 90 segundos. A API deixa de ser previsível e vira um espectro: a mesma pergunta pode custar 10 vezes mais dependendo de quanto o modelo precisou pensar.

Como operador, faz a inferência técnica aqui sem ilusão. É plausível que ainda exista espaço no pré-treino com dados multimodais que quase ninguém explorou direito, como vídeo real do YouTube, não só transcrição, ou dados de robótica, de código executado, de interação com ferramentas. Mas só um player como o Google tem esse ativo em casa e não vai licenciar para concorrente. Para o resto do mercado, o caminho de curto prazo é inference scaling porque é o único que não depende de um novo poço de dados. Tem muito low-hanging fruit: melhor amostragem, verificadores, orquestração de agentes. Só que isso não escala de forma uniforme.

O que isso muda na prática

Quem ganha com essa virada não é quem tem mais GPU de treino, é quem sabe orquestrar inferência. Provedores de inferência, empresas com cache inteligente, roteamento por dificuldade e avaliação por tarefa real saem na frente. Quem perde é quem apostou que modelo base novo resolveria produto ruim. Não vai resolver. O gargalo agora é engenharia de produto e custo por tarefa resolvida, não tamanho do modelo.

• Troque benchmark por custo por sucesso: meça quanto custa, em dólar e em segundos, para resolver uma tarefa real do seu usuário com test-time compute ligado.
• Crie dois caminhos de inferência: resposta rápida e barata para 80 por cento dos casos, e modo raciocínio profundo só quando o roteador detectar complexidade.
• Invista em dados proprietários de execução, logs de ferramenta, traces de agente aprovado por humano, porque isso vira destilação e avaliador no futuro.

A ação prática para esta semana é simples e desconfortável: rode seu top 200 prompts de produção em dois modos, sem raciocínio extra e com raciocínio alto, e plote taxa de acerto versus custo e latência. Você vai descobrir que em metade dos casos o modo caro não paga a conta. Essa curva, não o leaderboard, é seu novo roadmap. Se você não tem essa curva, está operando no escuro.

A tensão que ninguém quer admitir

Aqui está a parte incômoda. Inference scaling pode dar saltos rápidos no curto prazo, principalmente em matemática, código e tarefas verificáveis, onde dá para checar a resposta e tentar de novo. Mas em escrita aberta, atendimento, análise ambígua, o ganho é irregular e difícil de prever. Você aumenta 10 vezes o compute e às vezes melhora 2 por cento, às vezes piora porque o modelo se enrola no próprio raciocínio. Isso escala? Tecnicamente sim. Economicamente, nem sempre.

E tem outro problema. Os líderes dos labs mudaram de narrativa rápido demais para serem levados a sério como profetas. Há um ano era scaling infinito até a superinteligência. Agora é scaling morto, viva o test-time. Essa virada tem menos a ver com ciência nova e mais com vazamento coletivo: quando um admite que travou, fica mais fácil para os outros admitirem. Some a isso o interesse comercial óbvio em vender o o1 como saída honrosa. Dá para confiar em forecast de quem precisa levantar rodada e vender GPU?

No fundo, a conexão entre capacidade do modelo e impacto econômico é muito mais fraca do que o hype sugere. O que trava adoção não é QI do modelo, é integração, confiança, responsabilidade, fluxo de trabalho, preço previsível. Mesmo que saia um GPT-5 brilhante amanhã, sua empresa vai levar seis meses para colocar em produção com segurança.

Conclusão

Declarar a morte do scaling é prematuro, mas tratar scaling como garantido é ingenuidade. O jogo mudou de treinar maior para gastar melhor na hora de usar. Quem entender custo por tarefa e latência vai sobreviver a essa transição. Quem esperar o próximo GPT milagroso vai ficar parado. A pergunta que fica é direta: seu produto aguenta ficar 30 segundos pensando para acertar, ou seu usuário desiste no terceiro?