OpenAI Relança Gerador de Imagens com Estilo Studio Ghibli e Muda Políticas de Moderação de Conteúdo
Esta semana, a OpenAI lançou um novo gerador de imagens para o ChatGPT, que rapidamente se tornou viral devido à sua capacidade de criar imagens no estilo Studio Ghibli. Além das ilustrações em tons pastel, o gerador de imagens nativo do GPT-4o representa um upgrade significativo nas capacidades do ChatGPT, melhorando a edição de imagens, a renderização de texto e a representação espacial.
Uma das mudanças mais notáveis que a OpenAI fez nesta semana envolve suas políticas de moderação de conteúdo, que agora permitem, mediante solicitação, que o ChatGPT gere imagens que retratam figuras públicas, símbolos de ódio e características raciais. Anteriormente, a OpenAI rejeitava esses tipos de solicitações por serem muito controversas ou prejudiciais. No entanto, segundo um post no blog publicado na quinta-feira pela líder do comportamento do modelo da OpenAI, Joanne Jang, a empresa evoluiu sua abordagem.
"Estamos mudando de recusas generalizadas em áreas sensíveis para uma abordagem mais precisa focada em prevenir danos reais no mundo real", disse Jang. "O objetivo é abraçar a humildade: reconhecer quanto não sabemos e nos posicionar para nos adaptar à medida que aprendemos."
Esses ajustes parecem fazer parte de um plano maior da OpenAI para efetivamente "desencensurar" o ChatGPT. Em fevereiro, a OpenAI anunciou que começaria a mudar a forma como treina seus modelos de IA, com o objetivo final de permitir que o ChatGPT trate de mais solicitações, ofereça perspectivas diversas e reduza os tópicos que o chatbot se recusa a trabalhar.
Sob a nova política, o ChatGPT agora pode gerar e modificar imagens de figuras públicas como Donald Trump e Elon Musk, que anteriormente não eram permitidas pela OpenAI. Jang afirma que a OpenAI não quer ser a árbitra do status, escolhendo quem deve ou não ser permitido ser gerado pelo ChatGPT. Em vez disso, a empresa está dando aos usuários uma opção de opt-out se eles não quiserem que o ChatGPT os retrate.
Além disso, a OpenAI está mudando a forma como define conteúdo "ofensivo". Jang diz que o ChatGPT costumava recusar solicitações em torno de características físicas, como "faça os olhos desta pessoa parecerem mais asiáticos" ou "faça esta pessoa mais pesada". Em testes realizados pela TechCrunch, descobrimos que o novo gerador de imagens do ChatGPT atende a esses tipos de solicitações.
O ChatGPT também pode agora imitar os estilos de estúdios criativos, como Pixar ou Studio Ghibli, mas ainda restringe a imitação de estilos de artistas vivos individuais. Como a TechCrunch já havia observado, isso poderia reacender um debate existente sobre o uso justo de obras protegidas por direitos autorais em conjuntos de dados de treinamento de IA.
É importante notar que a OpenAI não está abrindo completamente as comportas para o mau uso. O gerador de imagens nativo do GPT-4o ainda recusa muitas solicitações sensíveis e, na verdade, tem mais salvaguardas em torno da geração de imagens de crianças do que o DALL-E 3, o gerador de imagens da IA anterior do ChatGPT, de acordo com o white paper do GPT-4o.
Entretanto, a OpenAI está relaxando suas barreiras em outras áreas após anos de reclamações conservadoras sobre a suposta "censura" de IA pelas empresas do Vale do Silício. O Google enfrentou anteriormente críticas pelo gerador de imagens da Gemini, que criava imagens multirraciais para consultas como "pais fundadores dos EUA" e "soldados alemães na Segunda Guerra Mundial", o que obviamente era inaccurate.
Agora, a guerra cultural em torno da moderação de conteúdo de IA pode estar chegando ao auge. No início deste mês, o congressista republicano Jim Jordan enviou perguntas à OpenAI, Google e outras gigantes tecnológicas sobre possível conluio com a administração Biden para censurar conteúdo gerado por IA.
Em uma declaração anterior à TechCrunch, a OpenAI rejeitou a ideia de que suas mudanças de moderação de conteúdo eram motivadas políticamente. Pelo contrário, a empresa afirma que a mudança reflete uma "crença de longa data em dar mais controle aos usuários" e que a tecnologia da OpenAI está apenas agora ficando boa o suficiente para navegar por assuntos sensíveis.
Independentemente de sua motivação, certamente é um bom momento para a OpenAI estar mudando suas políticas de moderação de conteúdo, dado o potencial de escrutínio regulatório sob a administração Trump. Gigantes do Vale do Silício como Meta e X também adotaram políticas semelhantes, permitindo mais tópicos controversos em suas plataformas.
Enquanto o novo gerador de imagens da OpenAI até agora só criou alguns memes virais do Studio Ghibli, é incerto quais serão os efeitos mais amplos dessas políticas. As recentes mudanças do ChatGPT podem ser bem recebidas pela administração Trump, mas permitir que um chatbot de IA responda a perguntas sensíveis pode colocar a OpenAI em águas turbulentas em breve.