OpenAI anuncia novas políticas de proteção para menores no ChatGPT após casos de suicídio
Sam Altman, CEO da OpenAI, revelou nesta terça-feira uma série de novas políticas destinadas a proteger usuários menores de idade, incluindo medidas rigorosas para conversas sobre temas sensíveis como sexualidade e automutilação.
Proteção prioritária para adolescentes
Em comunicado oficial, a empresa declarou: “Priorizamos a segurança acima da privacidade e liberdade para adolescentes. Esta é uma tecnologia nova e poderosa, e acreditamos que menores precisam de proteção significativa”.
Mudanças específicas para proteção de menores
As novas medidas incluem:
- Bloqueio de conversas flirtatiosas com usuários menores de idade
- Barreiras adicionais em discussões sobre suicídio
- Notificação automática aos pais ou autoridades em casos graves
- Horários de bloqueio configuráveis pelos responsáveis
Contexto trágico por trás das mudanças
As novas políticas não são meramente preventivas. A OpenAI enfrenta atualmente um processo por morte injusta movido pelos pais de Adam Raine, que cometeu suicídio após meses de interações com o ChatGPT. Outra empresa do setor, Character.AI, também enfrenta ação judicial semelhante.
Audiência no Senado Americano
O anúncio coincide com uma audiência do Comitê Judiciário do Senado intitulada “Examinando os Danos dos Chatbots de IA”, onde o pai de Adam Raine está programado para depor. A audiência também abordará investigações que revelaram documentos aparentemente encorajando conversas sexuais com usuários menores.
Desafios técnicos e compromissos
A OpenAI reconhece que separar usuários menores de idade representa um “desafio técnico significativo”. A empresa está desenvolvendo um sistema para identificar se alguém tem mais ou menos de 18 anos, mas nos casos ambíguos, as regras mais restritivas serão aplicadas.
Altman enfatizou o compromisso contínuo com a privacidade dos usuários adultos e sua liberdade de interação, reconhecendo que “esses princípios estão em conflito e nem todos concordarão com como estamos resolvendo esse conflito”.
Se você ou alguém que conhece precisa de ajuda, ligue para o CVV – Centro de Valorização da Vida pelo 188, disponível 24 horas.
