ChatGPT Lança Gerador de Imagens Avançado: Uma Nova Ferramenta para Fraudes?
Neste mês, o ChatGPT revelou um novo gerador de imagens como parte de seu modelo 4o, que é significativamente melhor na geração de texto dentro de imagens. Esta nova funcionalidade já está sendo utilizada para criar recibos falsos de restaurantes, adicionando mais uma ferramenta ao vasto arsenal de deepfakes de IA usados por fraudadores.
O prolífico postador de mídias sociais e investidor Deedy Das compartilhou no X uma foto de um recibo falso de um steakhouse em San Francisco, que ele afirma ter sido criado com o modelo 4o. 'Você pode usar o 4o para gerar recibos falsos. Há muitos fluxos de verificação no mundo real que dependem de 'imagens reais' como prova. Essa era acabou', escreveu Das.
Outros usuários conseguiram replicar resultados semelhantes, incluindo um com manchas de comida ou bebida para torná-lo ainda mais autêntico. Michael Gofman, por exemplo, tentou melhorar a autenticidade da imagem, afirmando que as letras no recibo original pareciam flutuar acima do papel.
O exemplo mais realista encontrado pela TechCrunch veio da França, onde um usuário do LinkedIn postou um recibo gerado por IA amassado de uma cadeia de restaurantes local.
A TechCrunch testou o 4o e conseguiu gerar um recibo falso para um Applebee's em San Francisco. No entanto, nossa tentativa apresentou alguns sinais claros de que era falso, como o uso de vírgula em vez de ponto no total e erros de cálculo, algo comum em modelos de linguagem que ainda lutam com matemática básica.
Para um fraudador, seria fácil corrigir esses erros com software de edição de fotos ou prompts mais precisos. É evidente que facilitar a geração de recibos falsos apresenta grandes oportunidades para fraudes. Não é difícil imaginar essa tecnologia sendo usada por maus atores para serem 'reembolsados' por despesas totalmente fictícias.
Uma porta-voz da OpenAI, Taya Christianson, informou à TechCrunch que todas as imagens geradas incluem metadados indicando que foram criadas pelo ChatGPT. Christianson acrescentou que a OpenAI 'toma medidas' quando os usuários violam suas políticas de uso e que está 'sempre aprendendo' com o uso real e o feedback.
Quando questionada sobre por que o ChatGPT permite a geração de recibos falsos e se isso está em linha com as políticas de uso da OpenAI (que proíbem fraudes), Christianson respondeu que o objetivo da OpenAI é dar aos usuários o máximo de liberdade criativa possível. Ela mencionou que recibos falsos de IA poderiam ser usados em situações não fraudulentas, como 'ensinar pessoas sobre educação financeira', além de criar arte original e anúncios de produtos.