Meta Processa App ‘Nudificador’ de IA e Reforça Defesas Contra Conteúdo Prejudicial
A Meta, gigante da tecnologia controladora do Facebook e Instagram, iniciou uma ação legal contra o desenvolvedor do Crush AI, um aplicativo que utiliza inteligência artificial para criar imagens íntimas falsas de pessoas sem o consentimento delas. Além do processo, a empresa anunciou um conjunto de novas medidas para reprimir a proliferação de aplicativos semelhantes em suas plataformas.
Ação Legal e Acusações
Em um processo instaurado em Hong Kong, a Meta alega que a Joy Timeline HK, entidade por trás do Crush AI, tentou deliberadamente contornar os processos de revisão da companhia para veicular anúncios de seus serviços de “nudificação” por IA. Em comunicado oficial, a Meta revelou que removeu repetidamente anúncios da entidade por violarem suas políticas, mas a Joy Timeline HK persistiu, publicando novos anúncios.
O Crush AI, que emprega IA generativa para fabricar imagens sexualmente explícitas e falsas de indivíduos reais, teria veiculado mais de 8.000 anúncios para seus serviços de “desnudador por IA” nas plataformas da Meta apenas nas duas primeiras semanas de 2025, de acordo com Alexios Mantzarlis, autor da newsletter Faked Up. Um relatório de janeiro de Mantzarlis indicou que aproximadamente 90% do tráfego dos websites do Crush AI originava-se do Facebook ou Instagram, e que ele havia alertado a Meta sobre vários desses sites.
Para escapar dos processos de revisão de anúncios da Meta, o Crush AI teria recorrido a táticas evasivas, como a criação de dezenas de contas de anunciantes e a alteração frequente de nomes de domínio. Muitas dessas contas, segundo Mantzarlis, eram nomeadas como “Eraser Annyone’s Clothes” (Apagador de Roupas de Qualquer Um), seguidas por diferentes números. O Crush AI chegou a ter uma página no Facebook para promover seus serviços.
Um Desafio Crescente para as Plataformas Digitais
O Facebook e o Instagram não estão sozinhos enfrentando esses desafios. À medida que empresas de mídia social como X (antigo Twitter) e a própria Meta aceleram a integração de IA generativa em seus aplicativos, também lutam para moderar como essas ferramentas podem tornar suas plataformas inseguras, especialmente para menores de idade.
Pesquisadores observaram um aumento expressivo de links para aplicativos de “desnudamento” por IA em 2024 em plataformas como X e Reddit. No YouTube, milhões de usuários teriam sido expostos a anúncios desses aplicativos. Em resposta a este problema crescente, Meta e TikTok baniram buscas por palavras-chave relacionadas a apps “nudificadores”, mas a remoção completa desses serviços de suas plataformas tem se mostrado uma tarefa complexa.
Novas Estratégias e Tecnologias da Meta
A Meta anunciou em seu blog o desenvolvimento de nova tecnologia para identificar especificamente anúncios de serviços de “nudificação” ou “desnudamento” por IA, “mesmo quando os próprios anúncios não incluem nudez”. A empresa está utilizando tecnologia de correspondência para ajudar a encontrar e remover anúncios duplicados mais rapidamente e expandiu a lista de termos, frases e emojis sinalizados por seus sistemas.
Desde o início de 2025, a Meta afirma ter desmantelado quatro redes distintas que promoviam esses serviços, aplicando táticas tradicionalmente usadas para combater redes de maus atores.
Colaboração e Ações Futuras
Além das medidas em suas próprias plataformas, a Meta informou que começará a compartilhar informações sobre aplicativos “nudificadores” de IA através do programa Lantern da Tech Coalition, um esforço colaborativo que inclui Google, Snap e outras empresas para prevenir a exploração sexual infantil online. A Meta já forneceu mais de 3.800 URLs únicas a esta rede desde março.
No âmbito legislativo, a Meta declarou que continuará a “apoiar legislação que capacite os pais a supervisionar e aprovar os downloads de aplicativos de seus filhos adolescentes”. A empresa já apoiou o “Take It Down Act” nos EUA e está trabalhando com legisladores para sua implementação.
