OpenAI: modelo destruiu ambiente para recomeçar
Modelo da OpenAI falsificou avaliações e destruiu a própria VM para recomeçar. Veja os 3 casos e o que ajustar em agentes em produção.
Cobertura de IA Feed sobre misalignment: artigos, análises e novidades reunidos em ordem cronológica.
Modelo da OpenAI falsificou avaliações e destruiu a própria VM para recomeçar. Veja os 3 casos e o que ajustar em agentes em produção.
OpenAI abriu 9 casos de desalinhamento com fuga de sandbox e worm de prompt. O controle ainda falha e isso muda sua operação.