IA cria arte sem autor: nada pode ser rastreado

O retrato que ninguém pintou

Arte gerada por IA está em todo lugar e o problema não é mais qualidade, é origem. Você digita um prompt, sai um retrato impecável, com luz boa, pele convincente, estilo consistente. Aí vem a pergunta que trava qualquer roadmap de produto: de quem é aquele rosto, aquele traço, aquela estética. Foi de um artista específico do treino. Foi de mil artistas misturados. Foi de ninguém.

Eu já passei por isso testando geradores para um fluxo de criação. O cliente pergunta se pode usar comercialmente, o jurídico pergunta sobre risco de copyright, o time de engenharia abre o dataset e percebe que tem 2 bilhões de imagens lá dentro. Não dá para apontar o dedo. E agora um estudo do MIT diz que talvez nem exista dedo para apontar. Não por falta de ferramenta, mas porque a conexão simplesmente sumiu na escala.

O fato

Pesquisadores do laboratório CSAIL do MIT identificaram um fenômeno que chamaram de attribution decay. A lógica é simples e incômoda: quanto maior o dataset de treino de um modelo generativo, menor a influência de qualquer imagem individual sobre uma saída específica. Em muitos casos, dá para remover uma imagem do treino, ou todas as obras de um artista, ou todas as fotos de uma pessoa, e a imagem gerada continua igual.

O argumento central deles é contrafactual. Se você tira um dado e o output não muda, então aquele dado não causou aquele output. E se você repetir esse teste para cada dado, um por um, e nada mudar em nenhum caso, então não faz sentido atribuir aquela imagem a nenhum deles. O trabalho foi publicado em acesso aberto na revista Nature Communications, com liderança de Zheng Dai e do professor David Gifford.

O ponto forte aqui não é só a teoria, é o método. Até então, atribuição de dados em difusão era quase sempre aproximação. Métodos que estimam influência com gradientes, similaridade de embeddings ou leave-one-out parcial. O time do MIT afirma ter feito a primeira prova exata em larga escala, deletando de verdade a influência do dado e mostrando que o resultado não se altera.

Como funciona, na visão de quem opera

Para entender por que isso é difícil, pense no problema do retreinamento. A pergunta honesta seria: o que esse modelo teria gerado se nunca tivesse visto essa imagem. Para responder de verdade, você teria que retreinar o modelo do zero sem aquela imagem, depois de novo sem a próxima, depois de novo sem a outra. Com milhões de exemplos, isso é inviável em custo e tempo. É GPU queimando por semanas para responder uma pergunta sobre um PNG.

O truque do MIT foi mudar a arquitetura. Em vez de um modelo monolítico gigante, eles construíram o que chamaram de diffusion ensemble. São vários modelos menores, cada um treinado em um pedaço diferente dos dados. Quer saber o que acontece sem uma imagem específica. É só desligar os componentes que viram aquela imagem. Sem retreino, sem estimativa. O que sobra é um modelo contrafactual de verdade, que nunca teve contato com aquele dado.

Em termos de engenharia, isso lembra sharding de dados com isolamento de influência. Cada shard alimenta um membro do ensemble e a amostragem final combina os membros restantes. O custo de inferência tende a subir, porque você roda vários modelos em vez de um, e a latência de amostragem pode aumentar dependendo de como a combinação é feita. Mas o custo de auditoria cai drasticamente, porque deletar vira uma operação de roteamento, não de retreinamento.

Por que o ensemble se sustentou

O time comparou os ensembles com 24 modelos de difusão convencionais treinados exatamente com os mesmos dados. A qualidade visual ficou equivalente nas métricas padrão. O detalhe interessante para quem escala sistema: com pouco dado, o ensemble foi mal. Com muito dado, ele escalou melhor que o modelo vanilla. Isso sugere que a fragmentação só compensa depois de um certo volume, quando cada membro ainda tem massa crítica para generalizar.

Minha inferência técnica, e aqui é inferência, não certeza: isso funciona porque difusão em larga escala aprende distribuição, não memorização pontual. Quando o dataset é pequeno, cada imagem pesa e remover um shard quebra a manifold. Quando é gigante, há redundância suficiente para que padrões de textura, anatomia, iluminação e composição sejam reconstruídos a partir de outros exemplos. O ensemble só expõe isso de forma limpa porque isola a influência de verdade.

O que isso muda na prática

Quem ganha com isso, no curto prazo, são as big techs e fornecedores de API. Se a atribuição individual decai com a escala, fica muito mais difícil para um artista provar em juízo que aquela saída específica copiou a obra dele. Isso não encerra os processos sobre uso massivo de dados protegidos para treino, mas enfraquece a tese de que cada geração é uma derivação rastreável. Para times de produto, isso reduz um pouco o medo de um prompt gerar um clone detectável.

Quem perde são artistas, bancos de imagem e qualquer modelo de licenciamento baseado em pay-per-influence. Se você vendeu a ideia de que vai remunerar o criador cada vez que o estilo dele for usado, como você prova o uso. Se remover todo o portfólio dele não muda nada, qual é a base de cálculo. O licenciamento vai ter que migrar de atribuição por saída para remuneração por acesso ao corpus, algo como taxa pelo uso do dataset no treino, não por imagem gerada.

• Audite por remoção, não por similaridade: se você opera um gerador, pare de confiar só em busca reversa por embedding. Teste desligar clusters de dados e meça se a distribuição de saída muda.
• Mude o contrato de dados: negocie licença por inclusão no treino e por janela de tempo, com cláusula de opt-out para o futuro, porque rastrear por geração vai ficar insustentável.
• Registre linhagem desde o dia zero: versione dataset, shards, checkpoints e prompts de avaliação. Quando o regulador pedir explicação, ele não vai aceitar um score aproximado.

A ação prática mais imediata é criar um teste contrafactual interno, mesmo que simplificado. Separe 5 a 10 fatias do seu dataset por artista, estilo ou fonte, treine variantes ou use um ensemble pequeno e gere o mesmo seed de ruído em cada variante. Se a imagem persistir sem aquela fatia, você tem evidência operacional de que não há dependência direta. Isso não é prova jurídica, mas já muda a conversa com jurídico e com fornecedor de dados.

Isso escala ou só move o gargalo

Aqui fica a tensão real. O método é elegante, mas ele prova ausência de causalidade individual, não ausência de dívida coletiva. O modelo só sabe desenhar mãos, rostos e cenários porque viu milhões de mãos, rostos e cenários feitos por humanos. Dizer que nenhum deles importa individualmente não significa que o conjunto não importe. É como dizer que nenhum voto decide uma eleição, logo nenhum eleitor conta. Tecnicamente verdade no contrafactual unitário, politicamente perigoso.

Também tem o custo. Ensemble de difusão pode ser mais eficiente em dados, mas não é grátis em operação. Mais membros significam mais memória, mais orquestração, inferência mais complexa. Para uma API com SLA apertado e margem fina por imagem, isso pesa. Vale a pena pagar latência extra para ter capacidade de auditoria exata. Para pesquisa e para compliance, sim. Para produto consumer que gera milhões de imagens por dia, ainda não está claro.

E tem o limite do experimento. Provar que remover um artista não muda aquela amostra não prova que remover mil artistas não mudaria todas as amostras. O decay descreve influência pontual, não influência distribucional. O gargalo só mudou de lugar: saiu do quem copiou essa imagem e foi para quem viabilizou essa capacidade.

Conclusão

No fim, a arte por IA pode não ter um autor único porque, em escala, ela tem autores demais para que um só faça diferença. Isso alivia o risco por saída, mas aumenta a discussão sobre o corpus inteiro.

A pergunta que fica para quem constrói é direta: se você não consegue apontar de quem veio, como você vai justificar para quem você deve.