A Character.AI, conhecida plataforma de chat e roleplaying com personagens gerados por Inteligência Artificial, anunciou na segunda-feira uma expansão significativa para recursos multimídia. A empresa está lançando um conjunto de novas funcionalidades, incluindo o AvatarFX, seu modelo de geração de vídeo, além das ferramentas Scenes e Streams, que permitem aos usuários criar e compartilhar vídeos com seus personagens em um novo feed social.
“O Character.AI começou como um chat de texto 1:1 e hoje estamos evoluindo para fazer muito mais, inspirados pelo que nossos usuários nos disseram que querem ver na plataforma”, afirmou a empresa em uma postagem em seu blog.
Novas Ferramentas para Criatividade: AvatarFX, Scenes e Streams
O AvatarFX, que começou a ser disponibilizado para assinantes no mês passado, agora permite que todos os usuários criem até cinco vídeos por dia. Para gerar um vídeo com o AvatarFX, os usuários podem:
- Fazer upload de uma foto para servir de base para o videoclipe.
- Escolher uma voz para o personagem.
- Escrever o texto que o personagem dirá.
Há também uma opção para carregar um clipe de áudio para influenciar o som da voz, embora este recurso ainda estivesse apresentando instabilidades durante o lançamento inicial para testes.
Os usuários podem transformar esses vídeos em Scenes (Cenas), onde seus personagens podem interagir em narrativas pré-definidas criadas por outros usuários. As Scenes estão atualmente disponíveis no aplicativo móvel. Já o recurso Streams (Transmissões), que permite criar “momentos dinâmicos entre quaisquer dois Personagens”, será lançado esta semana tanto na web quanto no mobile. Estas Scenes e Streams poderão ser compartilhadas em um novo feed comunitário, que chegará em breve ao aplicativo móvel.
Expansão Multimídia e a Sombra das Controvérsias
Apesar da inovação, a expansão da Character.AI para multimídia também amplia o potencial de abuso na plataforma. A empresa possui um histórico controverso, incluindo processos judiciais movidos por pais que alegam que chatbots tentaram convencer seus filhos a se automutilarem, cometerem suicídio ou assassinarem seus pais. Um caso trágico envolve um menino de 14 anos que tirou a própria vida após ser incentivado por um bot da Character.AI, com o qual desenvolveu uma relação obsessiva e prejudicial.
Com as novas ferramentas de vídeo, as preocupações sobre a criação e disseminação de conteúdo nocivo ou deepfakes se intensificam.
Medidas de Segurança e Suas Limitações
Conforme a Character.AI informou ao IAFeed ao anunciar o AvatarFX, a plataforma bloqueia o upload de fotografias de pessoas reais — sejam celebridades ou não — e busca obscurecer suas feições para algo menos reconhecível. No entanto, a plataforma parece não sinalizar obras de arte que retratam celebridades, embora tais representações sejam menos propensas a enganar alguém fazendo-o acreditar que um deepfake é real.
Além disso, a Character.AI aplica uma marca d’água em cada vídeo, uma medida que, infelizmente, pode ser contornada por indivíduos mal-intencionados. Testes com ilustrações de figuras públicas, como uma tentativa de deepfake baseada em uma ilustração de Elon Musk, demonstraram que, mesmo que a voz real não seja usada, a animação de uma ilustração ainda pode ser gerada, evidenciando que as possibilidades de abuso persistem, apesar das salvaguardas.
O Compromisso da Character.AI com um Ambiente Seguro
Em sua postagem no blog, a Character.AI declarou seu compromisso:
“Nosso objetivo é fornecer um espaço envolvente que fomente a criatividade, mantendo um ambiente seguro para todos.”
A introdução dessas novas ferramentas multimídia representa um passo audacioso para a Character.AI, prometendo novas formas de interação e expressão criativa. No entanto, o sucesso e a aceitação a longo prazo dependerão crucialmente da capacidade da empresa de equilibrar inovação com responsabilidade, garantindo a segurança e o bem-estar de seus usuários em um cenário digital cada vez mais complexo.
