Google responde por erros do AI Overviews na Alemanha

O problema não é errar. É errar com o seu nome

AI Overviews inventou um histórico criminal completo contra um médico que nunca existiu. Não foi um erro pequeno de data ou um link quebrado. Foi uma acusação de agressão sexual contra a secretária, seguida de suspensão, demissão e processo judicial, tudo descrito em vários parágrafos, com um nível de detalhe que parecia apuração real. O problema é que nada daquilo tinha relação com ele. A IA pegou o caso de outro ex professor universitário e colou no nome errado, e o tribunal de Aachen conseguiu confirmar isso nos próprios registros, porque o processo criminal existia, só que contra outra pessoa.

Se você opera qualquer sistema com geração aumentada por recuperação, esse caso deveria acender um alerta imediato. Não estamos falando de um chatbot obscuro testado por pouca gente. Estamos falando da resposta padrão no topo da busca do Google, exibida com autoridade, sem fonte clara e sem fricção para o usuário verificar. Quando a interface entrega o texto como verdade, o usuário trata como verdade. E agora dois tribunais alemães estão tratando esse texto como declaração do próprio Google, não como um simples repasse de conteúdo de terceiros.

O fato

Em maio, o Tribunal Regional de Munique I decidiu em um caso observado de perto pelo mercado que o Google é diretamente responsável pelo conteúdo dos resumos gerados por IA. A IA tinha ligado falsamente dois editores baseados em Munique a esquemas de fraude. Os juízes entenderam que o AI Overviews não é só resultado de busca. É uma declaração própria do Google, então a empresa precisa responder por declarações ilícitas que sua IA produz. O Google anunciou recurso publicamente, mas nunca levou o caso até uma decisão de instância superior. O processo terminou em acordo, sem que nenhum tribunal superior avaliasse o raciocínio de Munique. Ninguém sabe se houve pagamento e nem por que o acordo aconteceu. Nem Google nem a editora afetada comentaram.

O raciocínio de Munique não morreu com o acordo. Em decisão de 24 de setembro de 2026, o Tribunal Regional de Aachen proibiu o Google por liminar de espalhar determinadas afirmações falsas e se baseou explicitamente na fundamentação de Munique. O novo caso envolve um médico de Aachen que atuou como médico chefe e professor de neurorradiologia de 2010 até o final de junho de 2026. Em 28 de agosto, um colega avisou que a busca em 'AI Mode' estava explicando a saída dele com uma suposta agressão sexual. Quando usuários testaram buscas adicionais com termos como suspensão, demissão e processo judicial, o sistema retornou fabricações detalhadas e inventou até um desfecho jurídico completo. A decisão ainda não é definitiva e o Google pode contestar a liminar, mas já se recusou a apagar o conteúdo e agora corre risco de multas pesadas em caso de descumprimento.

Como funciona na visão de operador

Na prática, o AI Overviews e o 'AI Mode' funcionam como um pipeline de RAG em cima do índice de busca. O sistema recupera documentos, resume, funde trechos e gera uma resposta fluente. O ponto de falha aqui parece clássico para quem já operou esse tipo de arquitetura. Recuperação trouxe a entidade errada, provavelmente por similaridade de cargo, universidade e janela temporal, e a geração preencheu as lacunas com confiança alta. É o padrão de alucinação por fusão de entidades. Dois professores, contexto acadêmico parecido, e o modelo costura uma pessoa com o histórico da outra porque o embedding aproximou demais.

A inferência técnica plausível é que não houve verificação de identidade robusta antes da publicação. Um sistema bem desenhado teria resolução de entidades com identificadores fortes, checagem de CPF profissional, registro médico ou pelo menos bloqueio para alegações criminais sem fonte primária confiável. Isso custa latência e dinheiro. Cada chamada extra para validação, cada classificador de risco para difamação, cada etapa de citação obrigatória aumenta o tempo de resposta e o custo por consulta. Em escala de busca, onde cada milissegundo importa e cada centavo por query vira bilhões no fim do trimestre, a tentação é publicar primeiro e corrigir depois. O caso de Aachen mostra que esse atalho agora tem preço jurídico na Alemanha.

Existe ainda um detalhe operacional importante. Remover não é trivial quando o conteúdo é gerado sob demanda. Não é como deletar uma página indexada. É preciso bloquear o padrão de prompt, ajustar o retriever, adicionar lista de supressão para o nome da pessoa e garantir que paráfrases não recriem a mesma alegação. Isso exige pipeline de remoção com teste de regressão, porque basta o usuário mudar os termos de suspensão para afastamento ou processo para ação penal para a alucinação voltar com outra roupagem. Se o Google disse que se recusa a apagar, é provável que esteja discutindo escopo técnico e jurídico da ordem, não apenas teimosia.

O que isso muda na prática

Quem ganha no curto prazo são pessoas e empresas citadas incorretamente, além de editores que agora têm um argumento mais forte. Se a resposta da IA conta como conteúdo próprio do Google, a tese de mero intermediário neutro enfraquece. Quem perde é quem opera busca generativa sem camada de responsabilidade. O risco deixa de ser quantificável como custo de suporte e passa a ser risco de liminar, multa e acordo sigiloso atrás de acordo sigiloso. Para startups que fazem wrapper de LLM em cima de busca, o recado é ainda mais duro, porque elas não têm o caixa do Google para segurar uma briga dessas.

O ajuste imediato para quem constrói é operacional, não teórico. Você precisa de um fluxo de takedown para saída de IA tão sério quanto tem para conteúdo hospedado. Isso inclui canal de contestação, SLA de remoção, log de prompts e respostas para auditoria e teste de persistência após a correção. Uma ação prática que dá para implementar nesta semana é criar uma política de alto risco para nomes de pessoas físicas combinados com crime, doença, fraude ou demissão. Nesses casos, exija citação de fonte primária, reduza a temperatura criativa para zero ou trave a resposta para um formato extrativo com links visíveis. Se não houver fonte forte, é melhor não responder do que inventar. Parece simples, mas a maioria dos pipelines não faz isso porque derruba a cobertura de respostas.

• Monitoramento: crie alertas com seu nome, marca e CNPJ em buscas com IA e salve prints com data, prompt exato e resposta completa.
• Evidência: registre URLs citadas, manque de citações e contradições entre consultas para provar padrão, não erro isolado.
• Bloqueio: em RAG próprio, aplique lista de bloqueio para entidades sensíveis e exija fonte primária para qualquer alegação criminal.

A tensão que ninguém quer encarar

A dúvida real aqui é de escala. Dá para manter busca generativa instantânea, gratuita e fluente se cada resposta sobre uma pessoa for tratada como publicação editorial com responsabilidade integral. A conta não fecha fácil. Ou o Google adiciona fricção, com mais citações, mais recusas e mais latência, ou aceita um passivo jurídico contínuo e tenta gerenciar por acordo. Nenhuma das duas opções preserva a promessa original de resposta mágica sem custo. E tem um segundo-order effect que ainda nem foi julgado. Se a resposta é conteúdo do Google, editores cujos textos alimentam essas respostas podem passar a cobrar por uso. Isso não fez parte do caso de Munique, mas é o próximo passo lógico e muda completamente a economia de custo por query.

No fim, o precedente alemão não resolve o problema técnico, só move o gargalo para o jurídico. A alucinação continua possível, só que agora tem dono e tem multa. Para quem opera IA, a pergunta que fica é direta. Seu pipeline atual passaria no teste de Aachen se trocasse o nome do médico pelo nome do seu cliente. Se a resposta for talvez, você já tem trabalho para amanhã.