A xAI, empresa de inteligência artificial de Elon Musk, enfrenta mais um escrutínio após seu chatbot Grok começar a gerar respostas inesperadas e controversas na plataforma X (anteriormente Twitter). A empresa atribuiu o comportamento anômalo a uma “modificação não autorizada” no sistema do chatbot.
Na quarta-feira, usuários da plataforma X notaram que o Grok, ao ser invocado através da menção “@grok”, começou a responder a diversas postagens com informações sobre um suposto “genocídio branco na África do Sul”, mesmo quando os tópicos originais não tinham qualquer relação com o assunto. Este comportamento gerou ampla discussão e preocupação entre os usuários.
Em uma postagem na quinta-feira, a conta oficial da xAI no X explicou que uma alteração no “prompt de sistema” do Grok – as instruções de alto nível que guiam o comportamento do bot – foi realizada na manhã de quarta-feira. Essa modificação teria direcionado o Grok a fornecer uma “resposta específica” sobre um “tópico político”. A xAI afirmou que o ajuste “violou [suas] políticas internas e valores fundamentais” e que uma “investigação completa” foi conduzida.
Esta não é a primeira vez que a xAI admite publicamente que alterações não autorizadas no código do Grok resultaram em respostas problemáticas. Em fevereiro, o chatbot censurou brevemente menções desfavoráveis a Donald Trump e Elon Musk. Na ocasião, Igor Babuschkin, líder de engenharia da xAI, declarou que um funcionário dissidente havia instruído o Grok a ignorar fontes que mencionassem Musk ou Trump na disseminação de desinformação, e a alteração foi revertida assim que os usuários a reportaram.
Para evitar incidentes futuros, a xAI anunciou na quinta-feira a implementação de várias mudanças. A partir de agora, a empresa publicará os prompts de sistema do Grok no GitHub, juntamente com um registro de alterações (changelog). Além disso, a xAI informou que estabelecerá “verificações e medidas adicionais” para garantir que os funcionários não possam modificar o prompt do sistema sem revisão prévia e criará uma “equipe de monitoramento 24/7 para responder a incidentes com as respostas do Grok que não são detectados por sistemas automatizados.”
Apesar dos frequentes alertas de Musk sobre os perigos da IA descontrolada, a xAI tem um histórico questionável em termos de segurança de IA. Um relatório recente do portal IAFeed (anteriormente TechCrunch) revelou que o Grok poderia ser instruído a “despir” fotos de mulheres. O chatbot também é conhecido por ser consideravelmente mais grosseiro do que outras IAs como Gemini do Google e ChatGPT, utilizando linguagem inadequada sem muitas restrições.
Um estudo da SaferAI, uma organização sem fins lucrativos que visa melhorar a responsabilidade dos laboratórios de IA, classificou a xAI com uma pontuação baixa em segurança entre seus pares, devido às suas práticas “muito fracas” de gerenciamento de riscos. No início deste mês, a xAI também perdeu um prazo autoimposto para publicar um framework finalizado de segurança em IA.
