A IA está inflacionando citações acadêmicas e isso é um pesadelo

O problema das citações infladas

Quando um pesquisador descobre que seu artigo de 2017 está sendo citado centenas de vezes de repente, a reação inicial pode ser de orgulho. Mas Peter Degen, pós-doutorando na Universidade de Zurique, logo percebeu que algo estava errado. Os artigos citantes eram todos suspeitosamente similares: usavam o mesmo conjunto de dados público para gerar previsões sobre doenças variadas, de derrame a câncer colorretal. A investigação levou a um esquema de produção em massa de papers com auxílio de IA.

Esse não é um caso isolado. A academia enfrenta uma inundação de artigos gerados por inteligência artificial que são cada vez mais difíceis de detectar. Antes, os textos tinham erros grotescos, como diagramas de ratos com genitais gigantes ou frases como 'como um assistente de IA' esquecidas no texto. Agora, a IA melhorou e os papers são convincentes o bastante para passar por revisores desatentos.

O fato: IA generativa turbinando paper mills

Paper mills – empresas que vendem autoria em artigos acadêmicos – já existiam há uma década. A diferença é que o ChatGPT e similares permitem criar textos originais que escapam de detectores de plágio. O custo de produção caiu drasticamente: um tutorial no Bilibili ensina a gerar um artigo publicável em duas horas usando ferramentas de IA. O resultado é uma avalanche de estudos de baixa qualidade que poluem as bases de dados.

O editor de uma revista médica pode receber dezenas de submissões por dia, muitas escritas por IA. Revisores, voluntários sobrecarregados, não têm tempo para verificar cada detalhe. O sistema está no limite, como disse Degen: a IA não está acelerando descobertas, mas sim criando um gargalo de qualidade.

Como funciona (visão de operador)

Do ponto de vista técnico, o pipeline é simples: usa-se um modelo de linguagem (tipo GPT-4 ou Claude) para gerar o texto do artigo, com prompts que descrevem resultados falsos ou genéricos. Em paralelo, scripts em Python ou R produzem gráficos e tabelas a partir de datasets públicos, como o Global Burden of Disease. A saída é combinada em um PDF formatado para submissão.

O custo é baixíssimo: uma API de LLM custa centavos por artigo. A latência é de minutos para gerar o texto e as figuras. A arquitetura é modular – qualquer pessoa com conhecimentos básicos de programação pode montar esse fluxo. O que falta é um filtro eficaz: detectores de IA têm alta taxa de falso positivo e falseiam facilmente com paráfrases.

• Custo: < 1 dólar por artigo, considerando geração de texto e imagens.
• Latência: cerca de 5 a 10 minutos para um artigo de 3 mil palavras.
• Detecção: ferramentas como Originality.ai ou GPTZero acusam corretamente, mas papers bem polidos podem escapar.

O que isso muda na prática

Para editores e revisores, a carga de trabalho aumenta exponencialmente. Uma ação prática imediata é implementar verificações de integridade automatizadas, como checagem de dados e consistência de gráficos. Revistas podem exigir declaração de uso de IA e repositórios de código abertos. Quem ganha? As paper mills e cientistas desonestos que inflam seus currículos. Quem perde? A credibilidade da ciência e os pesquisadores sérios que competem por espaço em revistas.

Se você é um pesquisador ou editor, o ajuste agora é ser mais cético com submissões que usam dados públicos de forma padronizada. Cross-check de resultados com scripts originais pode ajudar.

Tensão e reflexão

Isso escala? Sim, enquanto custos de API continuarem baixos. O problema não é resolver se o paper é ou não gerado por IA; é que mesmo papers honestos usam ferramentas de IA para redação, tornando a linha tênue. A questão real: o sistema de recompensa acadêmica (publicar ou perecer) está movendo o gargalo da geração para a verificação. O custo de validação pode superar o benefício das descobertas genuínas. A IA resolve ou só desloca o problema? Por enquanto, desloca.

Conclusão

A IA generativa está sobrecarregando a revisão por pares e distorcendo métricas de citação. Enquanto não houver incentivos para qualidade sobre quantidade, o jogo de gato e rato continuará. Talvez a solução não seja técnica, mas cultural: repensar como avaliamos pesquisadores. Até lá, fica a pergunta: quantos artigos que você lê hoje são realmente fruto de trabalho original?