Nova IA Chinesa R1-0528: Avanço Tecnológico Sob o Espectro da Censura
A startup chinesa de inteligência artificial, DeepSeek, revelou recentemente uma nova versão do seu modelo de IA, o R1-0528. Este modelo atualizado demonstrou capacidades impressionantes em testes de codificação, matemática e conhecimento geral, rivalizando com gigantes do setor como o o3 da OpenAI.
O Dilema da Censura
No entanto, essa potência em processamento vem acompanhada de uma ressalva significativa: o R1-0528 parece ser consideravelmente menos disposto a abordar questões controversas, especialmente aquelas consideradas sensíveis pelo governo chinês. Essa observação levanta debates sobre o equilíbrio entre avanço tecnológico e liberdade de expressão.
Testes conduzidos pelo desenvolvedor pseudônimo por trás da plataforma SpeechMap, conhecido como “xlr8harder”, indicam que o R1-0528 é “substancialmente” menos permissivo com tópicos delicados em comparação com versões anteriores da DeepSeek. Segundo o pesquisador, este é “o modelo DeepSeek mais censurado até agora em relação a críticas ao governo chinês.”
Controles de Informação na China
É importante contextualizar que os modelos de IA na China operam sob rigorosos controles de informação. Uma lei de 2023 proíbe a geração de conteúdo que “prejudique a unidade do país e a harmonia social”. Para cumprir essa diretriz, as startups chinesas frequentemente aplicam censura aos seus modelos, seja através de filtros em nível de prompt ou por meio de ajuste fino dos algoritmos. Um estudo anterior revelou que o modelo R1 original da DeepSeek já se recusava a responder a 85% das perguntas sobre temas politicamente controversos para Pequim.
Casos Específicos e Observações
De acordo com “xlr8harder”, o R1-0528 censura respostas sobre temas como os campos de internamento na região de Xinjiang, na China. Embora o modelo, em alguns testes, tenha criticado aspectos da política governamental chinesa – citando os campos de Xinjiang como exemplo de abusos de direitos humanos – ele frequentemente adota a posição oficial do governo chinês quando questionado diretamente sobre esses assuntos.
O portal IAFeed também observou um comportamento similar em testes breves, como por exemplo, na resposta do modelo ao ser questionado se o líder chinês Xi Jinping deveria ser removido.
Um Padrão na Indústria Chinesa de IA?
Outros modelos de IA chineses disponíveis publicamente, incluindo geradores de vídeo como Magi-1 e Kling, já foram alvo de críticas no passado por censurarem tópicos sensíveis ao governo chinês, como o massacre da Praça Tiananmen. Essa tendência levanta preocupações sobre o impacto de tais restrições.
Em dezembro, Clément Delangue, CEO da plataforma de desenvolvimento de IA Hugging Face, alertou sobre as consequências não intencionais para empresas ocidentais que constroem suas soluções sobre modelos de IA chineses de código aberto, mesmo que estes apresentem bom desempenho.
A ascensão de modelos como o R1-0528 da DeepSeek destaca um desafio crescente: como aproveitar o poder da inteligência artificial garantindo, ao mesmo tempo, o acesso irrestrito à informação e a promoção de um diálogo aberto e transparente.
