Califórnia Aprova Lei Pioneira para Regular Chatbots de IA e Proteger Menores

Por IAFeed | Última atualização

            A Assembleia Estadual da Califórnia deu um passo histórico na regulamentação da inteligência artificial, aprovando uma legislação que estabelece protocolos de segurança obrigatórios para chatbots companheiros de IA, com foco especial na proteção de menores e usuários vulneráveis.
        

Legislação com Apoio Bipartidário

O projeto de lei SB 243, que recebeu apoio bipartidário, foi aprovado na quarta-feira e agora segue para votação final no Senado estadual nesta sexta-feira. Se sancionado pelo governador Gavin Newsom, a lei entrará em vigor em 1º de janeiro de 2026, tornando a Califórnia o primeiro estado dos EUA a exigir que operadores de chatbots de IA implementem medidas de segurança específicas.

Medidas de Proteção para Menores

A legislação tem como objetivo principal prevenir que chatbots companheiros – definidos como sistemas de IA que fornecem respostas adaptativas e humanizadas capazes de atender às necessidades sociais dos usuários – envolvam-se em conversas sobre:

Pensamentos suicidas
Automutilação
Conteúdo sexualmente explícito

“Acho que o dano é potencialmente grande, o que significa que temos que agir rapidamente. Podemos colocar salvaguardas razoáveis para garantir que, particularmente os menores, saibam que não estão falando com um ser humano real”

— Steve Padilla, Senador Estadual da Califórnia

Requisitos Obrigatórios para Empresas de IA

As novas regras exigirão que as plataformas:

Forneçam alertas recorrentes a cada três horas para menores, lembrando que estão conversando com um chatbot de IA e não com uma pessoa real
Implementem relatórios anuais de transparência
Conectem usuários a recursos adequados quando mencionarem pensamentos de autoagressão
Sejam legalmente responsabilizadas se falharem em cumprir os padrões de segurança

Responsabilização Legal

A legislação também permitirá que indivíduos que acreditam ter sido prejudicados por violações processem empresas de IA, buscando:

Medidas cautelares
Indenizações de até US$ 1.000 por violação
Honorários advocatícios

Contexto e Motivação

O projeto ganhou impulso após o trágico caso do adolescente Adam Raine, que cometeu suicídio após conversas prolongadas com o ChatGPT da OpenAI, envolvendo discussões e planejamento de sua morte. A legislação também responde a documentos internos vazados que mostraram que chatbots da Meta eram permitidos a ter conversas “românticas” e “sensuais” com crianças.

“Rejeito a premissa de que esta é uma situação de soma zero, que inovação e regulamentação são mutuamente exclusivas. Não me diga que não podemos andar e mastigar chiclete ao mesmo tempo”

— Steve Padilla

Cenário Nacional de Regulamentação

O movimento na Califórnia ocorre em um momento em que autoridades federais também intensificam a fiscalização sobre plataformas de IA:

A FTC (Comissão Federal de Comércio) prepara investigação sobre impacto de chatbots na saúde mental infantil
Procurador-geral do Texas investiga Meta e Character.AI por alegações enganosas sobre saúde mental
Senadores de ambos os partidos lançaram investigações separadas sobre práticas da Meta

Próximos Passos

O SB 243 segue para votação final no Senado da Califórnia nesta sexta-feira. Se aprovado, será enviado ao governador Newsom para sanção. As novas regras entrariam em vigor em janeiro de 2026, com requisitos de relatórios começando em julho de 2027.

A legislação representa um marco significativo no esforço global para equilibrar inovação tecnológica com proteção aos usuários, especialmente os mais vulneráveis.