Uma startup sediada na China, a Sand AI, lançou recentemente um modelo de Inteligência Artificial (IA) de geração de vídeo sob licença aberta, o Magi-1. A tecnologia rapidamente atraiu elogios de figuras proeminentes do setor, como Kai-Fu Lee, diretor fundador da Microsoft Research Asia.
O Magi-1 funciona gerando vídeos através da previsão "autorregressiva" de sequências de frames. A empresa afirma que o modelo é capaz de criar filmagens de alta qualidade, controláveis e com uma representação da física mais precisa do que outros modelos abertos concorrentes disponíveis no mercado.
Apesar do entusiasmo e do potencial inovador, testes realizados pelo TechCrunch revelaram um lado controverso: a versão hospedada da plataforma, essencial para a maioria dos usuários testar o Magi-1, parece censurar ativamente imagens que poderiam desagradar os reguladores chineses.
Barreiras Técnicas e Censura na Prática
Executar o Magi-1 localmente é inviável para a maioria dos usuários comuns. O modelo possui 24 bilhões de parâmetros e exige entre quatro e oito GPUs Nvidia H100 de alto desempenho. Isso torna a plataforma online da Sand AI a única porta de entrada para experimentar a tecnologia.
No entanto, ao usar a plataforma, descobriu-se rapidamente que nem todas as imagens de "prompt" (usadas para iniciar a geração de vídeo) são permitidas. A Sand AI bloqueia o upload de imagens de:
- Xi Jinping (líder chinês)
- Praça Tiananmen (incluindo a icônica imagem do "Homem do Tanque")
- A bandeira de Taiwan
- Símbolos de apoio à libertação de Hong Kong
A filtragem parece ocorrer no nível da análise da imagem em si, pois renomear os arquivos não contornou o bloqueio. A plataforma exibe uma mensagem de erro ao detectar uma imagem potencialmente proibida.
Contexto da Regulamentação Chinesa
A Sand AI não está sozinha nessa prática. Outras startups chinesas, como a Hailuo AI (da MiniMax, sediada em Xangai), também impedem o upload de conteúdo politicamente sensível, como fotos de Xi Jinping. Contudo, a filtragem da Sand AI aparenta ser particularmente rigorosa, bloqueando até mesmo imagens da Praça Tiananmen, que são permitidas em algumas outras plataformas chinesas.
Essa censura está alinhada com as rígidas regulamentações de informação na China. Uma lei de 2023 proíbe modelos de IA de gerar conteúdo que "prejudique a unidade do país e a harmonia social", efetivamente combatendo narrativas históricas ou políticas que divergem da linha oficial do governo. Para cumprir a lei, as empresas chinesas frequentemente implementam filtros ou ajustam seus modelos.
Curiosamente, enquanto o discurso político é fortemente controlado, alguns modelos chineses demonstram ter menos filtros para conteúdo pornográfico em comparação com seus equivalentes ocidentais. Relatos recentes indicam que vários geradores de vídeo de empresas chinesas carecem de barreiras básicas para impedir a criação de nudez não consensual.
O lançamento do Magi-1 pela Sand AI destaca o avanço tecnológico da China no campo da IA generativa, mas também expõe a complexa tensão entre a inovação, o acesso aberto e o controle estatal sobre a informação.