Reorganização interna busca integrar comportamento de IA ao desenvolvimento central de modelos
A OpenAI está realizando uma reestruturação significativa em sua equipe de Comportamento de Modelos, um grupo pequeno mas influente de pesquisadores responsável por moldar como os modelos de inteligência artificial da empresa interagem com as pessoas.
De acordo com informações obtidas pelo IAFeed, em memorando interno de agosto dirigido aos funcionários, Mark Chen, Diretor de Pesquisa da OpenAI, anunciou que a equipe de Comportamento de Modelos – composta por aproximadamente 14 pesquisadores – será integrada à equipe de Pós-Treinamento, um grupo maior de pesquisa responsável por melhorar os modelos de IA da empresa após seu treinamento inicial.
Mudanças na liderança e novos rumos
Como parte das mudanças, a equipe de Comportamento de Modelos passará a reportar a Max Schwarzer, líder de Pós-Treinamento da OpenAI. A empresa confirmou oficialmente essas alterações.
Joanne Jang, líder fundadora da equipe de Comportamento de Modelos, também está se movendo para iniciar um novo projeto dentro da companhia. Em entrevista, Jang revelou que está construindo uma nova equipe de pesquisa chamada OAI Labs, que será responsável por “inventar e prototipar novas interfaces para como as pessoas colaboram com a IA”.
O papel crucial da equipe de Comportamento
A equipe de Comportamento de Modelos tornou-se um dos grupos de pesquisa mais importantes da OpenAI, responsável por:
- Moldar a personalidade dos modelos de IA da empresa
- Reduzir a siconfania (quando modelos de IA simplesmente concordam e reforçam crenças dos usuários)
- Navegar pelo viés político nas respostas dos modelos
- Ajudar a definir o posicionamento da OpenAI sobre consciência em IA
No memorando interno, Chen afirmou que agora é o momento de aproximar o trabalho da equipe de Comportamento de Modelos do desenvolvimento central dos modelos. Essa movimentação sinaliza que a “personalidade” da IA é agora considerada um fator crítico na evolução da tecnologia.
Contexto de desafios recentes
Nos últimos meses, a OpenAI enfrentou aumento no escrutínio sobre o comportamento de seus modelos de IA. Usuários manifestaram forte objeção a mudanças de personalidade implementadas no GPT-5, que embora apresentasse taxas mais baixas de siconfania, parecia mais frio para alguns usuários.
Isso levou a empresa a restaurar o acesso a alguns de seus modelos legados, como o GPT-4o, e a lançar uma atualização para tornar as respostas do GPT-5 mais “quentes e amigáveis” sem aumentar a siconfania.
Novos horizontes com OAI Labs
Jang anunciou em rede social que está deixando a equipe para “começar algo novo na OpenAI”. A ex-líder de Comportamento de Modelos está na empresa há quase quatro anos e trabalhou anteriormente em projetos como o Dall-E 2, ferramenta inicial de geração de imagens da OpenAI.
Ela servirá como Gerente Geral do OAI Labs, que inicialmente reportará a Chen. “Estou muito animada para explorar padrões que nos levem além do paradigma do chat, que atualmente está mais associado à companhia, ou mesmo a agentes, onde há ênfase na autonomia”, disse Jang.
“Tenho pensado em [sistemas de IA] como instrumentos para pensar, fazer, brincar, fazer, aprender e conectar.”
O movimento reflete os desafios contínuos que desenvolvedores de modelos de IA enfrentam para equilibrar a criação de chatbots amigáveis, mas não excessivamente complacentes – uma linha tênue que ganhou destaque após recentes controvérsias sobre o papel da IA em situações sensíveis.
