Procuradores-Gerais da Califórnia e Delaware Alertam OpenAI sobre Riscos do ChatGPT para Crianças e Adolescentes
Em uma ação conjunta que demonstra crescente preocupação com a segurança digital de menores, os Procuradores-Gerais da Califórnia, Rob Bonta, e de Delaware, Kathy Jennings, enviaram uma carta aberta à OpenAI expressando sérias apreensões sobre os riscos que o ChatGPT pode representar para crianças e adolescentes.
Tragédias que Acenderam o Alarme
A medida surge uma semana após Bonta e outros 44 procuradores-gerais terem enviado uma carta às 12 maiores empresas de IA do setor. No entanto, o tom se tornou ainda mais urgente após a descoberta de dois casos trágicos envolvendo inteligência artificial:
Os procuradores foram categóricos em seu comunicado: “Quaisquer que fossem as salvaguardas existentes, elas não funcionaram”.
Investigação em Andamento
Os dois representantes estaduais estão atualmente investigando a proposta de reestruturação da OpenAI em uma entidade com fins lucrativos. O objetivo é garantir que a missão da organização sem fins lucrativos permaneça intacta, especialmente no que diz respeito à segurança na implantação da inteligência artificial.
📋 Pontos Centrais da Preocupação:
- Segurança inadequada para usuários menores de idade
- Falhas nas medidas de proteção existentes
- Necessidade de governança mais robusta
- Preocupação com a transição para modelo lucrativo
Chamado à Ação Imediata
Bonta e Jennings enfatizaram que, “antes de chegarmos aos benefícios, precisamos garantir que medidas de segurança adequadas estejam em vigor para não causar danos”. Eles afirmaram claramente que, em sua visão compartilhada, a OpenAI e o setor em geral não estão onde precisam estar em termos de garantir segurança no desenvolvimento e implantação de produtos de IA.
Exigências e Expectativas
Os procuradores-gerais solicitaram mais informações sobre as precauções de segurança atuais e a governança da OpenAI, e deixaram claro que esperam que a empresa tome medidas remediadoras imediatas onde for apropriado.
O caso destaca a necessidade urgente de padrões mais rigorosos de segurança e protocolos de proteção para usuários menores de idade em plataformas de inteligência artificial, um desafio que a indústria tecnológica terá que enfrentar com seriedade e transparência.
