O problema que ninguém resolveu com mais linguagem

Jev parte de uma frustração que muita gente que opera IA sente na pele mas não sabe nomear. A gente tem modelos que falam muito bem há quatro anos, mas que continuam ruins para automação de verdade. Eles entendem português, inglês e código, só que computadores não falam assim. Computador precisa de sinal claro, de decisão com limite, de sim ou não com custo previsível. E é exatamente aí que o LLM tradicional quebra, porque ele entrega texto fluente quando o que o sistema precisava era de um número confiável para seguir o fluxo.

Diogo Almeida conhece esse gargalo por dentro. Ele ajudou a construir o ChatGPT na OpenAI e participou da invenção do RLHF, a técnica de aprendizado por reforço com feedback humano que mais moldou a era atual da IA. Mesmo assim, ele saiu decepcionado. Na descrição dele, era como ter um raio engarrafado que não servia para trabalho útil. A tese dele é direta: nós otimizamos para linguagem humana quando automação pede outra coisa. Foi por isso que ele deixou a OpenAI há dois anos para fundar a TypeSafe AI e tentar outro caminho.

PublicidadeAnuncie aqui336x280 / responsivo

O fato: Jev, o modelo que não fala

O que a TypeSafe AI lançou esta semana é um modelo baseado em transformer que não é um LLM. Ele não gera texto. Ele recebe uma entrada, avalia dentro de um conjunto de saídas que você define antes, e devolve probabilidades calibradas, o que a empresa chama de decisões calibradas. Na prática, você não pede para ele escrever uma análise. Você pede para ele classificar, aprovar, bloquear, rotear ou sinalizar, e ele responde com algo como 12 por cento para uma classe e 93 por cento para outra.

Essa mudança elimina pela raiz um problema clássico. Se as saídas são fechadas e definidas por você, não há espaço para alucinação no sentido tradicional. O modelo não inventa um campo novo, não cria um JSON malformado por criatividade, não divaga. O preço acompanha a proposta. Os tokens de saída são gratuitos e os tokens de entrada são cobrados por bilhão, não por milhão. Isso já diz muito sobre a intenção: não é um chatbot para conversar, é uma peça de infraestrutura para chamar milhões de vezes por dia sem susto na fatura. A demanda foi tão alta no lançamento que a API da empresa chegou a ficar instável por um período.

Como funciona na visão de quem opera

Pense no Jev menos como um gerador e mais como uma função inteligente de decisão. Você define o esquema, algo como seguro ou inseguro, spam ou lead quente, rotear para modelo pequeno ou modelo grande, e envia o contexto. O retorno não é um parágrafo, é um vetor de probabilidades. A empresa não abriu a arquitetura, e a suspeita mais plausível lá fora é que exista um modelo de pesos abertos por baixo com uma cabeça de classificação bem treinada e um trabalho forte de calibração. Isso faria sentido, porque calibrar probabilidade dá muito mais trabalho do que parece. Não basta acertar a classe, é preciso que quando o modelo diz 90 por cento, ele esteja certo perto de 90 por cento das vezes.

Em termos de operação, o ganho aparece em três eixos: latência, custo e determinismo. Os relatos iniciais falam de 5 a 18 vezes mais velocidade em um caso real de classificação de comandos para segurança na Vercel, onde o time trocou um modelo da família Luna por Jev e ainda viu melhora de precisão. Em outro teste, para classificação de e-mails comerciais, o Jev perdeu por pouco em precisão para o Gemini, mas custou de 10 a 20 vezes menos. Para quem roda guardrail, roteamento ou triagem em escala, essa conta muda tudo. Um verificador baseado em LLM grande fica caro rápido, ainda mais se você usa agente para vigiar agente. Um verificador pequeno, rápido e com score de confiança utilizável vira algo que dá para deixar ligado o tempo todo.

  • Classificação em código: trocar prompts frágeis de sim ou não por uma chamada que retorna probabilidade por classe.
  • Guardrail de agentes: observar traces, detectar jailbreak e bloquear ação antes da execução.
  • Roteamento de modelos: decidir em tempo real se a tarefa pode ficar no modelo barato ou precisa do modelo forte.

O que isso muda na prática

Quem ganha primeiro é o desenvolvedor que vive de automação chata e crítica. Triagem de comandos, moderação, priorização de tickets, detecção de fraude simples, validação de intenção, tudo isso hoje é feito com LLM com prompt gigante, parsing de resposta e retry quando o modelo resolve responder com poesia. Com um modelo de decisão, o contrato fica mais rígido e o código fica mais simples. Você deixa de tratar IA como texto para tratar IA como sinal. Isso reduz latência ponta a ponta, simplifica observabilidade e facilita teste A ou B, porque dá para versionar classes e limiares em vez de versionar frases.

Quem perde um pouco de espaço é o LLM generalista usado como quebra galho para tudo. Ele continua necessário para raciocínio, escrita e casos abertos, mas sai do caminho onde ele sempre foi caro demais. A ação prática aqui é bem objetiva. Pegue um classificador que você já roda com LLM hoje e coloque o Jev em modo sombra por uma semana. Mantenha seu fluxo atual no ar, mas registre lado a lado a decisão, a probabilidade e o tempo de resposta. Depois ajuste limiares por classe em vez de usar 50 por cento para tudo. Por exemplo, bloquear comando sensível só acima de 90 por cento, mandar para revisão humana entre 60 e 90, e liberar abaixo disso. Esse desenho com três faixas vale mais do que qualquer prompt esperto, porque transforma incerteza em política de operação.

A tensão: probabilidade não elimina decisão

O ponto mais honesto sobre o Jev veio de quem testou fora do marketing. Como resumiu Armin Ronacher, da Earendil, o modelo terceiriza um pouco do problema da alucinação para o usuário. Se ele devolve 50 por cento, é basicamente cara ou coroa e você precisa ignorar ou pedir mais contexto. Se devolve 95 por cento, aí dá para agir. Isso parece óbvio, mas muda a responsabilidade. Você não pode mais culpar o texto bonito do modelo. Você precisa definir o que fazer com incerteza, quem revisa, o que registra em log, como reage o produto quando o score fica na zona cinzenta.

E calibração é uma promessa que precisa ser testada no seu dado, não no benchmark dos outros. Probabilidade calibrada em e-mail em inglês não garante calibração em comando de terminal em português cheio de gíria interna da empresa. Existe também o risco clássico de excesso de confiança em distribuição nova. O modelo pode continuar retornando 92 por cento para algo que ele nunca viu, só porque aprendeu a ser confiante no treino. Então a pergunta real não é se ele é barato e rápido, porque isso ele parece ser, mas se o score dele se mantém estável quando o tráfego muda, quando o adversário tenta um jailbreak esperto, quando o produto escala de mil para dez milhões de chamadas. Inteligência barata tem um paradoxo famoso que inclusive batiza o modelo, inspirado no economista William Stanley Jevons. Quando o custo cai, o uso explode. Se todo micro passo do software chamar uma decisão inteligente, o volume compensa a economia unitária e cria um novo gargalo em monitoramento, versionamento e custo agregado.

Conclusão

Jev não tenta ser mais esperto no papo, tenta ser mais útil no fluxo, com decisão fechada, rápida e barata onde LLM era gambiarra cara. A questão que fica é simples: no seu sistema hoje, qual classificação você ainda faz com texto gerado que já deveria ser probabilidade com limiar?