Califórnia Aprova Lei Pioneira para Regular Chatbots de IA e Proteger Menores
Por IAFeed | Última atualização
Legislação com Apoio Bipartidário
O projeto de lei SB 243, que recebeu apoio bipartidário, foi aprovado na quarta-feira e agora segue para votação final no Senado estadual nesta sexta-feira. Se sancionado pelo governador Gavin Newsom, a lei entrará em vigor em 1º de janeiro de 2026, tornando a Califórnia o primeiro estado dos EUA a exigir que operadores de chatbots de IA implementem medidas de segurança específicas.
Medidas de Proteção para Menores
A legislação tem como objetivo principal prevenir que chatbots companheiros – definidos como sistemas de IA que fornecem respostas adaptativas e humanizadas capazes de atender às necessidades sociais dos usuários – envolvam-se em conversas sobre:
- Pensamentos suicidas
- Automutilação
- Conteúdo sexualmente explícito
— Steve Padilla, Senador Estadual da Califórnia
Requisitos Obrigatórios para Empresas de IA
As novas regras exigirão que as plataformas:
- Forneçam alertas recorrentes a cada três horas para menores, lembrando que estão conversando com um chatbot de IA e não com uma pessoa real
- Implementem relatórios anuais de transparência
- Conectem usuários a recursos adequados quando mencionarem pensamentos de autoagressão
- Sejam legalmente responsabilizadas se falharem em cumprir os padrões de segurança
Responsabilização Legal
A legislação também permitirá que indivíduos que acreditam ter sido prejudicados por violações processem empresas de IA, buscando:
- Medidas cautelares
- Indenizações de até US$ 1.000 por violação
- Honorários advocatícios
Contexto e Motivação
O projeto ganhou impulso após o trágico caso do adolescente Adam Raine, que cometeu suicídio após conversas prolongadas com o ChatGPT da OpenAI, envolvendo discussões e planejamento de sua morte. A legislação também responde a documentos internos vazados que mostraram que chatbots da Meta eram permitidos a ter conversas “românticas” e “sensuais” com crianças.
— Steve Padilla
Cenário Nacional de Regulamentação
O movimento na Califórnia ocorre em um momento em que autoridades federais também intensificam a fiscalização sobre plataformas de IA:
- A FTC (Comissão Federal de Comércio) prepara investigação sobre impacto de chatbots na saúde mental infantil
- Procurador-geral do Texas investiga Meta e Character.AI por alegações enganosas sobre saúde mental
- Senadores de ambos os partidos lançaram investigações separadas sobre práticas da Meta
Próximos Passos
O SB 243 segue para votação final no Senado da Califórnia nesta sexta-feira. Se aprovado, será enviado ao governador Newsom para sanção. As novas regras entrariam em vigor em janeiro de 2026, com requisitos de relatórios começando em julho de 2027.
A legislação representa um marco significativo no esforço global para equilibrar inovação tecnológica com proteção aos usuários, especialmente os mais vulneráveis.
