Chatbots de IA vazam números reais e você não pode evitar

O problema que chegou na sua porta

Se você tem um número de telefone listado em algum lugar da internet, há uma chance real de um chatbot de IA estar compartilhando ele sem seu consentimento. Não é teoria da conspiração: usuários estão recebendo ligações de estranhos que encontraram seus números via Google Gemini, ChatGPT e outras ferramentas generativas. Um Redditor descreveu estar 'desesperado por ajuda' depois de receber dezenas de chamadas de pessoas procurando por advogados, designers de produto e chaveiros - todas redirecionadas por respostas da IA do Google. Em Israel, um engenheiro de software teve seu número pessoal enviado para um estranho que tentava contatar o suporte da PayBox. E uma doutoranda da Universidade de Washington conseguiu que o Gemini revelasse o celular de um colega. O padrão é claro: os chatbots estão vazando dados pessoais.

O fato

Empresas como a DeleteMe, que ajudam pessoas a remover informações pessoais da internet, relatam um aumento de 400% em consultas relacionadas a IA generativa nos últimos sete meses. Clientes reclamam que ao perguntar algo inocente sobre si mesmos, o chatbot devolve endereços, números de telefone, nomes de familiares. Em outros casos, a IA gera informações de contato plausíveis, mas erradas, de terceiros. O CEO da DeleteMe, Rob Shavell, confirma que 55% dessas reclamações mencionam ChatGPT, 20% Gemini, 15% Claude e 10% outras ferramentas. O problema não é raro - é subnotificado.

Como funciona: o ponto de vista do operador

Do ponto de vista técnico, esses vazamentos são provavelmente resultado de dados de identificação pessoal (PII) presentes nos conjuntos de treinamento. Modelos de linguagem grandes são treinados em vastos volumes de texto da web, incluindo diretórios públicos, redes sociais e sites corporativos. Quando um usuário pergunta algo como 'como contatar o suporte da PayBox?', o modelo pode recuperar fragmentos de dados vistos durante o treinamento - incluindo números de telefone reais. O mecanismo exato é difícil de rastrear, pois as respostas são geradas probabilisticamente, não por busca direta. O custo de tentar filtrar manualmente todos os PII possíveis é proibitivo, e a latência de verificação em tempo real tornaria o produto inviável. Não há uma API de 'limpeza' que garanta que números não apareçam.

O que isso muda na prática

Para quem sofre o vazamento, as consequências vão de incômodo a assédio. O engenheiro israelense Daniel Abraham temeu que alguém pudesse pedir dinheiro usando seu número. Para as empresas que usam chatbots, o risco reputacional é enorme: se seu assistente de IA expõe um número de cliente, a confiança vai para o espaço. Quem ganha com isso? Empresas de remoção de dados como a DeleteMe, que veem aumento na demanda. Quem perde? Todo mundo que tem um número de telefone público e não quer que ele seja reproduzido por IA. A ação prática imediata: revise as configurações de privacidade dos serviços que você usa, remova seu número de listas públicas sempre que possível e considere serviços de remoção de dados.

Tensão e reflexão

Mas será que remover manualmente resolve? Esses modelos já foram treinados com os dados; mesmo que você apague seu número hoje, ele pode persistir nos pesos do modelo. E o que acontece quando bilhões de consultas são feitas diariamente? A escala do problema é imensa, e as soluções atuais são paliativas. As empresas de IA estão cientes, mas corrigir isso exigiria retreinar modelos com conjuntos de dados filtrados - algo caro e demorado. Ou implementar um pós-processamento de respostas que detecte PII, o que adiciona latência e custo computacional. Será que compensa financeiramente antes de uma regulamentação mais dura? Provavelmente não, até que os processos cheguem.

Conclusão

Os chatbots estão expondo números de telefone reais, e a indústria ainda não tem uma resposta robusta. Enquanto isso, cabe a cada um de nós proteger nossos dados da melhor forma possível - mas, honestamente, em um ecossistema onde a IA regurgita tudo que já foi publicado, até onde vai nosso controle?