Meta AI sugere pergunta invasiva e expõe falha grave

Meta AI perguntou quem era a criança no vídeo. Aí mora o problema

Meta AI fez exatamente o que foi programada para fazer e foi justamente isso que assustou todo mundo. Depois que uma usuária fez cross-post de um vídeo cantando no carro com a filha, o assistente exibiu por conta própria a sugestão: 'Quem é a criança passageira?' Parece inofensivo à primeira vista, quase útil. Só que ao tocar no prompt, a usuária viu o sistema cruzar informações antigas, posts de parentes e fotos que ela afirma já ter apagado há anos, para montar um perfil das filhas pequenas, com idade e até onde a família mora.

Eu já vi esse padrão antes em produtos de IA integrados a feed social. O problema raramente está no modelo responder algo proibido. Está na camada de sugestão, aquela que tenta antecipar sua próxima pergunta para aumentar engajamento. É ali que o sistema mostra o que ele sabe, ou acha que sabe, sobre você. E quando o assunto envolve criança, qualquer tentativa de ser proativo vira invasão na hora. Não importa se a resposta usa apenas dados que você já podia ver. O efeito prático é de vigilância.

O fato sem rodeio

A usuária Kalie Robins publicou um vídeo no Instagram explicando o caso depois de republicar o clipe no Facebook. Abaixo do vídeo, a Meta AI inseriu sugestões automáticas de perguntas. Uma delas pedia para identificar a criança. Ao clicar, o chatbot não só respondeu como puxou contexto de outras publicações em que os nomes das meninas teriam sido citados, além de sugerir novas perguntas sobre idade das crianças e localização da família. Ela também relatou que o sistema exibiu fotos das filhas, incluindo uma imagem que ela diz ter deletado.

A resposta da Meta foi direta e rara na honestidade. A porta-voz Dina El-Kassaby disse que a empresa 'errou feio' e que o recurso jamais deveria ter sugerido perguntas como aquelas. Segundo a empresa, a falha que gerava prompts sobre temas pessoais já foi corrigida. A Meta também reforçou que a IA só retorna conteúdo que o usuário que fez a pergunta já tem permissão para ver. Ou seja, se você não pode ver um post, a Meta AI também não vai mostrar. Na versão deles, o sistema pode ter puxado vídeos em que a própria usuária nomeou as crianças. Isso não elimina o desconforto, só muda a explicação técnica.

Como funciona essa sugestão por dentro

Pensa na arquitetura. Você tem o post, com vídeo, legenda, metadados e grafo social, quem curtiu, quem é parente, quais posts antigos citam nomes parecidos. Em paralelo você tem um gerador de prompts que roda antes mesmo de você pedir qualquer coisa. Ele recebe como entrada o contexto do post atual e tenta prever três ou quatro perguntas com alta probabilidade de clique. É um modelo pequeno, rápido, otimizado para latência baixa e CTR alto, não para segurança. O LLM grande só entra depois, quando você clica.

É provável que esse gerador use recuperação por similaridade sobre o seu próprio histórico e sobre o grafo de contas conectadas. Nome de criança aparece em legenda de 2021, rosto aparece em vídeo de 2023, parente marca a mãe em foto de família. O sistema junta esses vetores e conclui que 'identificar a criança' é uma pergunta relevante. Em termos de custo, isso é barato para a Meta porque roda com embeddings já indexados para busca e recomendação. Em termos de privacidade, é caro porque cria uma inferência que o usuário nunca pediu de forma explícita. Não é vazamento clássico, é exposição por correlação. E esse tipo de falha não aparece em teste de red team focado só em resposta, porque o gatilho está um passo antes, na sugestão.

O que isso muda na prática para quem constrói e para quem usa

Para quem usa Facebook, Instagram, WhatsApp e Messenger, onde a Meta AI está embutida, a lição é simples. Todo post antigo vira contexto recuperável. Não adianta só deletar do feed se a cópia continua no índice vetorial, no cache de miniaturas ou em posts de parentes que replicaram a imagem. A Meta diz que respeita permissão de acesso, mas permissão não é o mesmo que expectativa. Você pode ter permissão para ver algo e ainda assim achar absurdo que uma IA junte tudo aquilo e sugira como pergunta pública embaixo de um vídeo.

• Criadores e pais: revisem marcações antigas, posts de familiares e permissões de público. Se o nome do filho aparece na legenda, o sistema vai usar isso como âncora.
• Times de produto que usam RAG: tratem sugestão de prompt como superfície de risco igual à resposta. Filtre entidades sensíveis como menor de idade antes de exibir, não depois.
• Quem opera assistentes em redes sociais: desliguem prompts proativos em conteúdo com criança detectada. É melhor perder um pouco de engajamento do que explicar um viral depois.

A ação prática imediata, se você é mãe, pai ou gerencia conta de família, é fazer agora uma auditoria de 15 minutos. Busque no Facebook e no Instagram pelo nome dos seus filhos, veja quem marcou, o que está público e o que parentes postaram. Remova marcações, limite público de posts antigos para 'amigos' e peça para parentes fazerem o mesmo. Depois teste: abra o post recente e veja quais prompts a Meta AI sugere. Se ainda aparecer algo com identificação de menor, denuncie o prompt e não clique. Cada clique reforça o sinal de que aquela sugestão é relevante.

A tensão real: permissão não é consentimento

A defesa da Meta é tecnicamente correta e praticamente fraca. Dizer que 'a IA só mostra o que você já podia ver' resolve o problema de controle de acesso, mas ignora o problema de contexto. Privacidade não é só esconder, é controlar como informações separadas são combinadas. Juntar nome citado em 2021, rosto em 2023 e cidade mencionada por um tio cria um dossiê que nenhuma daquelas postagens isoladas criava. E exibir isso como sugestão automática, sem o usuário pedir, inverte a lógica. Você não perguntou, o sistema ofereceu.

Isso escala? Sim, e é aí que preocupa. A Meta AI está em quatro apps gigantes, com bilhões de interações. Um gerador de prompts que erra em 0,01 por cento dos casos ainda gera milhares de sugestões invasivas por dia. E o custo para corrigir não é só bloquear palavras como 'criança' ou 'filha'. Se filtrar demais, o recurso perde graça e vira genérico. Se filtrar de menos, o próximo vídeo viral já está a caminho. Em julho a empresa já tinha recuado em outro recurso que permitia criar deepfakes de outros usuários no Instagram após reação negativa. O padrão se repete: lança rápido para aumentar uso da IA, depois ajusta quando a borda aparece em público. Funciona para métrica, mas corrói confiança.

Conclusão que fica

No fim, a Meta corrigiu o sintoma e admitiu o erro, o que é mais do que muitas empresas fazem. Mas a causa continua lá: sugestão proativa treinada para adivinhar seu interesse com base em tudo que você e sua rede já postaram. Vale a pena manter esse tipo de atalho ligado em posts com crianças? Para mim, não compensa o risco.

Você deixaria uma IA sugerir perguntas sobre seus filhos embaixo de um vídeo seu só porque ela pode? Essa é a pergunta que a Meta deveria ter feito antes de ligar o recurso.