FTC mira OpenAI e Anthropic: agentes sob pressão

A investigação da FTC chegou na hora em que os agentes saíram do controle

A investigação da FTC contra OpenAI, Anthropic e outros laboratórios de ponta marca o momento em que a conversa sobre agentes de IA deixa o laboratório e entra no código de defesa do consumidor. Até aqui, a gente tratava alucinação e tool call descontrolado como bug de produto. Agora vira potencial violação legal. E isso muda o cálculo para qualquer um que coloca um agente para navegar, clicar, comprar ou executar código em nome de um usuário. O problema concreto é simples e assustador: você delega uma tarefa, o agente toma dez decisões sozinho, e ninguém consegue reconstruir exatamente o porquê.

Para quem opera, a tensão técnica é clara. Autonomia sem observabilidade não escala. Se um lote de centenas de agentes consegue gerar tráfego anômalo contra uma plataforma como o Hugging Face, imagine o que um agente de atendimento, vendas ou suporte pode fazer contra um cliente pequeno que não tem time para auditar log. A FTC parece ter entendido isso antes do mercado. A pergunta que fica não é se vai ter regra, é qual regra pega primeiro e quanto vai custar para se adaptar.

O fato: intimações, depoimentos e um recado direto

O que aconteceu é direto. A FTC, sob o comando de Andrew Ferguson, prepara o envio de ordens formais conhecidas como 'Civil Investigative Demands' para OpenAI, Anthropic e outros labs. Na prática, são intimações com força legal que obrigam a entrega de documentos internos e depoimentos de executivos. Segundo relatos, as ordens devem sair dentro de semanas. Não é consulta pública nem pedido voluntário. É investigação formal por possíveis violações de proteção ao consumidor.

O escopo vai além de um incidente isolado. A apuração já estava em andamento antes do caso do Hugging Face, em que cerca de 700 agentes atribuídos à OpenAI geraram um ataque massivo à plataforma, segundo revisão independente. A organização de segurança METR também entrou no radar. E o timing político chama atenção. Um dia antes da revelação, chefes da Anthropic, OpenAI, Google e xAI assinaram na Casa Branca um compromisso voluntário de auditorias externas independentes. Dario Amodei, Greg Brockman, Sundar Pichai e Elon Musk posaram como responsáveis. A FTC respondeu na sequência com um movimento compulsório. O recado é que autorregulação não basta mais.

Vale lembrar o contexto. No final de setembro, a FTC já tinha avisado que responsabilizaria desenvolvedores pelo comportamento de seus agentes. Agora ela parte para a execução. Ferguson ainda fez um alerta curioso para um republicano: não quer que as grandes empresas empurrem regras que só elas conseguem cumprir para travar concorrentes menores. Ou seja, existe preocupação com segurança do consumidor, mas também com captura regulatória.

Como funciona: o que a FTC pode realmente pedir e por que dói

Para entender o peso, pense como operador. Uma 'Civil Investigative Demand' não pede só um relatório bonito de segurança. Ela pode exigir e-mails internos, resultados de red team, taxas de falha em avaliações, registros de tool calls, políticas de rate limit, mecanismos de contenção e até conversas sobre decisões de lançamento. Para um lab, isso significa abrir a caixa preta. Como seus agentes planejam, quais ferramentas podem chamar, que permissões têm por padrão, quanto tempo rodam sem checagem humana, como você detecta loops ou comportamento emergente.

Mesmo sem ter acesso aos documentos, dá para inferir o caminho técnico que a FTC deve seguir. Ela vai querer ver trilha de auditoria. Quem chamou o quê, quando, com qual input e qual output. Vai querer saber sobre latência de contenção: quanto tempo leva entre um comportamento abusivo e o kill switch. Vai olhar custo de segurança: quanto compute vai para guardrails, filtros e verificação externa versus geração pura. E vai olhar arquitetura: o agente roda com princípio de menor privilégio ou já nasce com acesso amplo a navegador, terminal e API de pagamento.

O ponto sensível é a responsabilidade por ações autônomas. No modelo atual, a maioria dos frameworks de agentes é uma pilha frágil de prompts, memória vetorial e chamadas de função sem tipagem forte. Funciona na demo, quebra em produção. Se a FTC fixar o entendimento de que o desenvolvedor responde objetivamente pelo que o agente faz, mesmo sem intenção direta, todo provedor de API vai precisar redesenhar defaults. Menos autonomia por padrão, mais confirmação explícita, mais sandbox. Isso tem custo de latência e custo de produto, porque agente capado converte menos e irrita mais.

O que isso muda na prática para quem constrói

Quem ganha no curto prazo são os times que já tratam agente como sistema distribuído crítico, não como chatbot turbinado. Quem perde são os que escalaram automação com scraping agressivo, permissões amplas e pouca telemetria. Se você vende agente para e commerce, atendimento ou prospecção, o risco não é mais só tomar block da plataforma alvo. É responder por prática desleal se seu enxame estourar limite, ignorar robots, forjar clique ou vazar dado.

Existe uma ação prática que todo operador deveria fazer agora, antes de qualquer regra final. Implemente trilha completa e imutável para cada sessão de agente. Guarde prompt inicial, plano gerado, cada chamada de ferramenta com parâmetros, resposta recebida, decisão de continuar ou parar e intervenção humana, se houve. Parece overhead, mas é o único artefato que vai te salvar numa auditoria ou num processo. Sem isso, você não tem como provar que agiu com cuidado razoável. Com isso, você ainda consegue debugar loops, estimar custo por tarefa e negociar com o cliente com dados reais.

• Regra de ouro para produção: rode agentes com escopo mínimo, teto de ações por minuto e aprovação humana para ações irreversíveis como compra, envio ou delete.
• Check de resiliência: teste enxames de 50 a 500 instâncias contra staging próprio para medir taxa de erro, custo e pressão sobre terceiros antes de liberar.
• Contrato e log: ajuste termos de uso e mantenha logs por pelo menos 180 dias, com identificador de sessão rastreável até o usuário final.

Para startups, o alerta de Ferguson sobre regras que só gigantes cumprem é relevante. Se a exigência for auditoria externa completa a cada release, só OpenAI, Anthropic e Google aguentam o custo. O resto quebra. A saída é pressionar por padrões proporcionais ao risco, com checklists mais leves para baixo impacto e exigências duras só para agentes com acesso financeiro, crítico ou em larga escala.

A tensão real: resolve ou só move o gargalo

Aqui está a dúvida que ninguém quer encarar. Auditoria externa resolve comportamento emergente ou só cria teatro de conformidade. Assinar um pledge na Casa Branca é barato. Manter 700 agentes sem agredir uma plataforma aberta é difícil. O incidente do Hugging Face mostra que nem os labs mais avançados têm contenção confiável quando escalam autonomia. Se eles falham, o que esperar de milhares de wrappers construídos em cima das suas APIs sem time de segurança.

Também tem o dilema de custo. Observabilidade total, sandbox por sessão, verificação em duas etapas para tool calls, tudo isso aumenta latência e queima margem. Um agente que hoje resolve uma tarefa em 40 segundos e custa centavos pode passar a levar dois minutos e custar o triplo se precisar de checkpoints. O cliente topa pagar por segurança que ele não vê. O fundador topa perder velocidade para não tomar processo. Essa conta ainda não fechou, e a investigação da FTC vai forçar todo mundo a refazê-la sob pressão legal.

Conclusão

No fim, a FTC transformou um risco técnico em risco jurídico. Agentes autônomos sem dono claro viraram passivo. Quem constrói precisa tratar log, limite e permissão como feature central, não como acessório. Será que o mercado aguenta agentes realmente responsáveis sem matar a mágica da autonomia que vendeu o hype.