Nova Lei em Nova York Busca Evitar Catástrofes Causadas por IA Avançada
Os legisladores do estado de Nova York aprovaram nesta quinta-feira um projeto de lei que visa impedir que modelos de IA avançada, desenvolvidos por empresas como OpenAI, Google e Anthropic, contribuam para cenários de desastre. A legislação, conhecida como RAISE Act, tem como objetivo evitar situações que resultem em mais de 100 mortes ou feridos, ou danos superiores a US$ 1 bilhão.
Vitória para a Segurança em IA
A aprovação do RAISE Act representa uma vitória para o movimento de segurança em IA, que perdeu força nos últimos anos devido à priorização da velocidade e inovação pelo Vale do Silício e pela administração anterior. Defensores da segurança, incluindo o laureado com o Prêmio Nobel Geoffrey Hinton e o pioneiro em pesquisa de IA Yoshua Bengio, apoiaram a medida. Se sancionada, a lei estabelecerá os primeiros padrões de transparência legalmente exigidos para laboratórios de IA avançada nos EUA.
Diferenças em Relação à Lei da Califórnia
O RAISE Act possui metas semelhantes ao polêmico projeto de lei da Califórnia, o SB 1047, que foi vetado no ano passado. No entanto, o senador estadual de Nova York, Andrew Gounardes, coautor do projeto, afirmou que o RAISE Act foi cuidadosamente elaborado para não prejudicar a inovação em startups ou pesquisas acadêmicas — uma crítica comum ao SB 1047.
“A janela para implementar salvaguardas está se fechando rapidamente, dada a velocidade com que essa tecnologia evolui”, disse Gounardes. “As pessoas que mais entendem de IA afirmam que esses riscos são incrivelmente prováveis. Isso é alarmante.”
Próximos Passos
Agora, o RAISE Act segue para a mesa da governadora de Nova York, Kathy Hochul, que poderá sancioná-lo, enviá-lo de volta para emendas ou vetá-lo completamente. Se aprovada, a lei exigirá que os maiores laboratórios de IA do mundo publiquem relatórios detalhados sobre a segurança de seus modelos avançados e relatem incidentes, como comportamentos preocupantes de IA ou roubo de modelos por agentes mal-intencionados.
Reações da Indústria
O Vale do Silício já demonstrou resistência ao projeto, segundo o coautor do RAISE Act, Alex Bores. No entanto, Bores destacou que a lei não limitará a inovação das empresas de tecnologia. Enquanto isso, a Anthropic, empresa focada em segurança de IA, ainda não definiu uma posição oficial sobre o projeto, mas expressou preocupações sobre seu alcance amplo.
Impacto Econômico
Críticos argumentam que as empresas podem deixar de oferecer seus modelos mais avançados em Nova York, seguindo um padrão semelhante ao observado na Europa devido a regulamentações rígidas. No entanto, Bores acredita que o custo regulatório do RAISE Act é baixo e que o tamanho da economia de Nova York — a terceira maior dos EUA — desencorajaria as empresas a abandonar o estado.
“Não quero subestimar a possibilidade de birras políticas, mas estou confiante de que não há razões econômicas para elas não disponibilizarem seus modelos em Nova York”, afirmou Bores.
