Uma recente revelação sobre um experimento em grande escala envolvendo bots de inteligência artificial (IA) disfarçados de humanos no subreddit “Change My View” causou alvoroço entre os usuários do Reddit globalmente. Pesquisadores liberaram um enxame de bots programados para serem persuasivos, gerando mais de 1.700 comentários e adotando personas diversas, desde sobreviventes de abuso até defensores de causas controversas, como um militante anti-Black Lives Matter.
Este incidente representou um sério revés para o Reddit, uma plataforma cuja marca está intrinsecamente ligada à autenticidade e à troca de opiniões genuínas entre pessoas reais. A perspectiva de que seu ecossistema seja inundado por conteúdo gerado por IA de baixa qualidade ou que os usuários não possam mais confiar na humanidade das interações ameaça não apenas a identidade central do Reddit, mas também seus resultados financeiros, especialmente considerando que a empresa recentemente começou a vender seu conteúdo para treinamento de IA da OpenAI.
A empresa repudiou o que chamou de “experimento impróprio e altamente antiético” e registrou uma queixa junto à universidade responsável. No entanto, este episódio é visto como apenas um prenúncio de muitos outros casos em que bots de IA generativa poderão se passar por humanos no Reddit, seja para fins científicos ou manipulação política.
Para proteger os usuários da manipulação por bots e “manter o Reddit humano”, a empresa sinalizou discretamente uma ação futura que pode gerar controvérsia entre aqueles que valorizam o anonimato na plataforma. Na segunda-feira, o CEO do Reddit, Steve Huffman, anunciou que a plataforma começará a colaborar com “vários serviços de terceiros” para verificar a humanidade de um usuário. Esta é uma mudança significativa para uma plataforma que, historicamente, exigiu pouquíssimas informações pessoais para a criação de contas.
“Para manter o Reddit humano e atender aos requisitos regulatórios em evolução, precisaremos de um pouco mais de informação”, escreveu Huffman. “Especificamente, precisaremos saber se você é um humano e, em alguns locais, se é um adulto. Mas nunca queremos saber seu nome ou quem você é.”
Esta medida surge num contexto em que empresas de mídia social já estão implementando verificações de identidade, impulsionadas por leis de verificação de idade em pelo menos nove estados dos EUA, além do Reino Unido, visando proteger crianças online.
Um porta-voz do Reddit não detalhou as circunstâncias que exigiriam a verificação, embora tenha confirmado que medidas para banir bots “maus” já existem. Também não foram fornecidos detalhes sobre quais serviços de terceiros seriam utilizados ou que tipo de informação pessoal identificável os usuários teriam que fornecer.
Atualmente, muitas empresas recorrem a plataformas de verificação como Persona, Alloy, Stripe Identity, Plaid e Footprint, que geralmente exigem um documento de identidade emitido pelo governo para confirmar idade e humanidade. Existem também tecnologias mais recentes e especulativas, como o “Tools for Humanity” de Sam Altman, com seu dispositivo de escaneamento ocular para “prova de humanidade”.
Críticos das verificações de identidade apontam para os riscos de privacidade e segurança de dados ao compartilhar informações pessoais com plataformas de mídia social. Isso é particularmente sensível para o Reddit, onde as pessoas frequentemente compartilham experiências que talvez nunca revelassem se seus nomes estivessem vinculados a elas.
Não é difícil imaginar um cenário onde autoridades poderiam intimar o Reddit a revelar a identidade de, por exemplo, uma adolescente grávida buscando informações sobre experiências de aborto em um subreddit como o r/women, em estados onde o procedimento é ilegal. Um exemplo preocupante foi o caso da Meta, que entregou conversas privadas entre uma mulher de Nebraska e sua filha de 17 anos sobre planos de interrupção de gravidez, levando a acusações criminais contra ambas.
É precisamente este tipo de risco que o Reddit espera evitar ao recorrer a empresas externas para fornecer “a informação essencial e nada mais”, segundo Huffman, que enfatizou:
“Nunca queremos saber seu nome ou quem você é. O anonimato é essencial para o Reddit.”
O CEO também destacou que o Reddit continuará a ser “extremamente protetor das suas informações pessoais” e “continuará a resistir a demandas excessivas ou irracionais de autoridades públicas ou privadas”. A plataforma busca, assim, um equilíbrio delicado entre a necessidade de verificação e a manutenção do anonimato que define sua comunidade.
