ZeroDrift levanta $10M: um segundo modelo para vigiar o primeiro

O problema de compliance que ninguém quer admitir

Quem já colocou um chatbot em produção sabe: o medo não é ele ser burro, é ele ser criativo demais. Uma resposta errada sobre privacy, HIPAA ou GDPR pode virar processo. O jeito mais comum de mitigar isso é fazer jailbreak manual, prompt engineering ou filtrar outputs com regex. Mas isso quebra fácil.

A ZeroDrift surgiu de uma ideia contra-intuitiva: usar um segundo modelo de IA para vigiar o primeiro. E acabou de levantar US$ 10 milhões em seed, com a16z no meio. O CEO Kumesh Aroomoogan diz que foi a captação mais rápida da vida dele, 3x oversubscribed.

O Fato

A ZeroDrift não substitui o modelo principal. Ela senta entre o modelo e o usuário final. Cada mensagem gerada passa por um sistema de verificação determinístico (baseado em regras de compliance como SOC 2, GDPR) que sinaliza violações. Só aí um LLM entra para reescrever a mensagem de forma compliant.

O sistema de correção tem vantagens arquiteturais: ele é disparado por programas convencionais, não por inferência pura. Isso significa menos latência e mais previsibilidade do que um LLM tentando se auto-corrigir.

Como funciona na visão de operador

O pipeline é híbrido. Primeiro, regras determinísticas varrem o output em busca de padrões regulados. Se algo é detectado, um segundo LLM (menor, mais rápido, fine-tunado para compliance) reescreve o trecho. O CEO explica: 'Conseguimos identificar deterministicamente áreas reguladas e a violação, e então usamos LLMs para reescrever'. Isso evita que o modelo principal tenha que se preocupar com compliance o tempo todo, o que reduziria a qualidade e aumentaria o custo de inferência.

O ganho principal é latência. Porque a maior parte das mensagens passa direto, sem acionar o segundo modelo. Só as flagadas pagam o custo extra. Isso faz sentido para quem opera chatbots em escala: o overhead só aparece quando necessário.

O que isso muda na prática

Quem ganha são empresas que já têm chatbots em produção em setores regulados: saúde, finanças, seguros. Antes, a saída era ou limitar o modelo (o que reduz utilidade) ou confiar em moderação manual (não escala).

Ação prática: se você opera um assistente de IA para clientes, avalie adicionar uma camada de compliance entre o LLM e o output. Ferramentas como a ZeroDrift (ou construir a própria com regras + LLM de rewrite) podem reduzir riscos sem sacrificar a fluidez da conversa.

E a concorrência?

OpenAI e Anthropic têm filtros nativos, mas são genéricos. Uma startup pode ser mais específica e rápida. A desvantagem: você depende de um middleware extra, mais um ponto de falha.

A tensão que ninguém quer encarar

Usar IA para corrigir IA é elegante no papel, mas tem problemas reais. O primeiro: custo. Você está pagando por dois modelos em vez de um. Se a taxa de flag for alta, a economia de latência desaparece.

Segundo: o rewriter pode introduzir novos erros. Um LLM que reescreve para ser compliant pode tornar a resposta mais genérica, menos útil, ou até mudar o significado. Quem garante que a versão reescrita permanece factual?

Terceiro: regras determinísticas não captam contexto sutil. Compliance não é binário. Um paciente reclamando de dor pode estar fazendo uma pergunta médica camuflada. A regra vai flagrar? Talvez não. E aí o LLM de rewrite vai interpretar ou apenas trocar palavras?

Isso resolve o problema ou só move o gargalo para outra camada?

Fechamento

O mercado de compliance de IA está nascendo, e a ZeroDrift aposta que ele será tão grande quanto o mercado de modelos. A lógica faz sentido: conforme mais empresas colocam IA na frente do cliente, o risco regulatório vira produto. Mas a execução depende de acertar o balanço entre rigidez e utilidade. Quem conseguir isso vai vender muito. Quem errar, vai gerar falsa segurança.

Se você está construindo um produto de IA para terceiros, comece a pensar em compliance como uma feature, não como uma preocupação secundária. O mercado de corretores de IA está só começando.