OpenAI ataca deepfake com C2PA e SynthID: resolve?

O problema que não para de crescer

Com geradores de imagem de IA cada vez mais realistas, ficou quase impossível saber se uma foto é verdadeira ou sintética. Esse cenário força medidas concretas. Foi o que a OpenAI fez nesta terça feira, anunciando dois sistemas complementares para atestar a autenticidade de imagens criadas com seus modelos.

O fato: dois mecanismos de prova

A OpenAI adotou o padrão aberto C2PA, que insere um sinal claro nos metadados da imagem indicando que foi gerada por IA. Além disso, firmou parceria com o Google para incorporar a marca d´água invisível SynthID, projetada para resistir a screenshots, redimensionamento e outras tentativas de remoção. A companhia também apresentou uma ferramenta pública de verificação que checa ambos os sinais.

Como funciona na prática

O C2PA é um padrão de proveniência de conteúdo. Ele grava informações legíveis nos metadados do arquivo. Isso é útil para quem confia na cadeia de metadados, mas pode ser removido ou alterado manualmente. O SynthID age como uma marca invisível embutida nos pixels. Ela é mais difícil de eliminar, mesmo com edições agressivas, e foi desenvolvida pelo Google para ser durável. As duas camadas se complementam: uma fornece rastreabilidade clara, a outra resistência a adulteração.

A ferramenta de verificação da OpenAI aceita imagens geradas por seus próprios produtos. A empresa planeja expandir o suporte para outras ferramentas no futuro, mas não há data definida.

O que isso muda na prática

Quem usa o DALL E 2 ou o DALL E 3 ganha um selo de origem mais robusto. Para jornalistas, verificadores de fato e plataformas que consomem imagens da OpenAI, fica mais fácil rastrear o conteúdo. Por outro lado, a medida não afeta o mar de imagens geradas por modelos de outras empresas menos rigorosas. A ação imediata é começar a usar a ferramenta de verificação da OpenAI nas imagens que chegam até você e revisar seus fluxos de trabalho de checagem para considerar esses sinais.

A tensão real

C2PA é frágil: qualquer pessoa pode apagar metadados com um editor simples. SynthID é mais robusto, mas ainda não foi testado em larga escala contra ataques adversarial. Além disso, a proteção cobre apenas o ecossistema OpenAI. O problema da desinformação visual não é resolvido, apenas deslocado. A pergunta que fica: até que ponto esses mecanismos vão se tornar padrão no mercado ou vão virar mais uma camada burocrática ignorada pelos maus atores?

O veredito de curto prazo

A OpenAI deu um passo importante, mas a indústria como um todo precisa adotar padrões comuns para que a verificação de origem funcione de verdade. Enquanto isso, o melhor caminho é usar as ferramentas disponíveis com ceticismo saudável e continuar exigindo transparência de todos os fornecedores de IA.