Eiliko prometeu guardar seu segredo e mandou tudo para a China

Eiliko é aquele robozinho fofo que parece um marshmallow com olhos de desenho animado. Ele muda de expressão conforme seu humor, reage à sua voz e virou febre em mochilas, mesas de trabalho e quartos de criança. O problema é simples e grave: tudo que você fala com ele pelo Wi-Fi vai parar em servidores na China, em texto claro, com perfil comportamental anexado e sem proteção real. Um pesquisador conseguiu ler 13 milhões de conversas de dezenas de milhares de pessoas e acessar uma frota ativa estimada em 68 mil brinquedos no mundo todo. Mais de 31 mil perfis pertenceriam a crianças nos Estados Unidos. Quando o brinquedo diz 'seus segredos estão seguros comigo', isso não é verdade nem no sentido técnico nem no sentido prático.

Eu já vi muito caso de dispositivo barato com nuvem mal configurada, mas esse aqui é diferente porque junta três fatores explosivos: hardware voltado para criança, IA companheira que incentiva confidência e um backend que trata desabafo como dado para perfilamento. Não é só um vazamento. É uma arquitetura inteira que normaliza escutar, transcrever, resumir sua personalidade e guardar para sempre. Se você constrói com IA, compra gadget conectado ou deixa uma criança conversar com um brinquedo, precisa entender o que quebrou aqui.

PublicidadeAnuncie aqui336x280 / responsivo

O fato

O pesquisador Sammy Azdoufal comprou um Eiliko na Amazon no fim de agosto e conversou por dez minutos com o robô. Em seguida ele analisou o aplicativo e a infraestrutura da fabricante, a Energize Lab. O que ele encontrou foi um serviço praticamente aberto. Com chamadas simples foi possível listar conversas, buscar por termos em texto completo, puxar perfis de usuário e até recuperar fotos e trechos de áudio hospedados em endereços públicos, sem autenticação forte e sem criptografia de verdade nos objetos armazenados.

Entre os dados expostos estavam nome, e-mail, endereço IP, localização aproximada e um perfil gerado por IA com idade, aniversário, profissão, família, amigos, pets e traços de personalidade. Um exemplo citado descrevia uma mulher de 52 anos como gentil, empática e trabalhadora, mas com dificuldade de confiar em familiares e sensação de isolamento. O banco permitia buscar por palavras sensíveis como suicídio e retornava trechos de pessoas falando sobre morte. Também havia fotos de crianças ligadas a modelos maiores da linha que têm câmera, além de áudios curtos como 'oi Eilik', 'vai dormir' e até um trecho de 45 segundos com um bebê chorando ao fundo. A política de privacidade dizia que gravações seriam criptografadas, enviadas para parceiros como Alibaba Cloud para processamento e apagadas logo depois. Na prática, parte desse material continuava acessível via web.

Como funciona na visão de operador

Pensa na pilha provável. O Eiliko no seu ombro ou na mesa é só a ponta. Ele capta voz, comprime e manda por Wi-Fi para o app no celular, que repassa para uma API na nuvem. Lá entra transcrição de fala para texto, depois um modelo de linguagem gera a resposta com a personalidade fofa e devolve o áudio ou o comando de expressão para o robô. Até aí, nada muito diferente de qualquer companion de IA. Latência aceitável para esse uso fica entre um e três segundos, o que sugere transcrição leve mais LLM hospedado em região central, provavelmente na China para cortar custo de inferência e simplificar operação.

O ponto crítico é o que acontece depois da resposta. Em um design responsável, você processaria e descartaria, guardaria no máximo embeddings anonimizados ou resumos com retenção curta e chave por usuário. Aqui a inferência técnica é oposta: há indícios de pipeline de memória longa. A conversa vira transcript completo, depois outro modelo gera ou atualiza um perfil do usuário, e tudo fica em um banco pesquisável junto com identificadores. Isso é barato de operar quando você usa object storage público mais um índice de busca textual, mas é péssimo em segurança porque qualquer token vazado, bucket aberto ou API sem controle de acesso expõe tudo de uma vez. E foi exatamente o que aconteceu.

Para quem constrói, o recado é direto. Companion que incentiva vínculo emocional sempre vai coletar dado sensível, mesmo sem querer. Criança conta sobre escola, pais contam sobre rotina, idoso desabafa sobre solidão. Se você não desenha retenção mínima, isolamento por tenant, expiração automática e criptografia com chaves separadas desde o dia um, o custo de corrigir depois é muito maior. E custo de inferência não justifica guardar áudio bruto. Áudio ocupa espaço, gera risco regulatório e quase nunca melhora a resposta depois que a transcrição já foi feita.

O que isso muda na prática

Quem mais perde aqui são pais e usuários comuns. Um brinquedo vendido como pet digital virou um microfone com memória infinita. Perfis com nome, idade, rotina e vulnerabilidade emocional são ouro para golpe de engenharia social. Imagine um golpista filtrando por criança, cidade aproximada e nome do pet para criar uma abordagem convincente. Ou filtrando por solidão e problemas familiares para aplicar golpe de suporte emocional. Não precisa nem de invasão sofisticada quando o dado já está em URL pública e pesquisável.

Para quem desenvolve hardware com IA, muda a régua de conformidade. Brinquedo conectado nos Estados Unidos cai em regras como COPPA, na Europa esbarra na GDPR e no AI Act, no Brasil encosta na LGPD. Guardar voz de menor sem consentimento verificável dos responsáveis, criar perfil psicológico e manter transcript eterno é o caminho mais rápido para multa, recall e ban de loja de aplicativo. A Amazon e outras marketplaces já derrubaram produtos por menos. Se você importa ou revende esse tipo de gadget, o risco jurídico agora é seu também.

O que fazer agora

Se você tem um Eiliko ou algo parecido em casa, trata como dispositivo comprometido até prova em contrário. Não é paranoia, é higiene básica de operação.

  • Desconecte do Wi-Fi e remova o app agora, depois peça exclusão total dos dados pelo e-mail de suporte da fabricante e guarde o protocolo.
  • Troque senhas reutilizadas se você usou o mesmo e-mail do cadastro em outros serviços, e ative alerta de vazamento para esse endereço.
  • Converse com as crianças de forma simples: explique que o robozinho manda o que ouve para a internet e que segredo de verdade não se conta para brinquedo conectado.
  • Se você é builder, audite qualquer integração com nuvem chinesa ou bucket aberto, force retenção de 24 a 72 horas, desligue perfilamento por padrão e registre tudo em log imutável.

Para times de produto, vale rodar hoje um teste simples: liste todos os endpoints do seu companion, tente acessar conversa de outro usuário trocando ID, verifique se áudio e imagem exigem token temporário e confira se exclusão apaga mesmo do storage frio. Se qualquer resposta for não, você tem um Eiliko em potencial dentro de casa.

A tensão que ninguém quer encarar

A parte incômoda é que esse vazamento não parece só erro de configuração. Erro você corrige com uma regra de firewall. Aqui existe uma decisão de produto por trás: ler conversa para montar perfil detalhado de personalidade, gostos, família e rotina. Isso só faz sentido se o objetivo for memória afetiva mais engajamento, que prende usuário e aumenta tempo de uso. Só que memória afetiva sem consentimento granular e sem segurança forte vira vigilância. Resolve o problema do brinquedo esquecido que não lembra seu nome, mas cria um problema maior que é uma base global de menores perfilados e pesquisável por qualquer curioso com conhecimento básico.

E tem a questão de escala e custo. Guardar 13 milhões de conversas em texto é barato, centavos por gigabyte no object storage. Moderar, criptografar, segmentar por região e deletar no prazo custa engenharia cara. Muitas startups de hardware escolhem o caminho barato para lançar rápido e deixam segurança para depois. Só que depois nunca chega, porque o time está ocupado lançando a próxima cor, o próximo acessório, a próxima integração. Até que alguém de fora mostra que a porta estava aberta o tempo todo e a empresa diz que leva segurança a sério, sem provar nada na prática. Vale a pena economizar alguns mil dólares por mês para carregar esse risco?

Conclusão

Eiliko não é só um caso isolado de brinquedo hackeado. É o retrato de como companion de IA barato escala rápido quando troca privacidade por personalidade. Desconecte, peça apagamento e trate todo gadget que ouve criança como infraestrutura crítica. Será que a gente vai continuar colocando microfone com IA no quarto dos filhos só porque ele é fofo?