2b1r5v
Legisladores do estado de Nova York aprovaram um projeto de lei na quinta-feira que visa impedir que modelos de IA avançados da OpenAI, Google e Anthropic contribuam para cenários de desastre, incluindo a morte ou ferimentos de mais de 100 pessoas, ou mais de US$ 1 bilhão em danos.
A aprovação do Raise Act representa uma vitória para o movimento de segurança em IA, que perdeu terreno nos últimos anos enquanto o Vale do Silício e o governo Trump priorizaram velocidade e inovação. Defensores da segurança, incluindo o Prêmio Nobel Geoffrey Hinton e o pioneiro da IA Yoshua Bengio, apoiaram o Raise Act. Se sancionado, o projeto estabeleceria o primeiro conjunto de padrões de transparência legalmente obrigatórios dos EUA para laboratórios de IA avançada.
O Raise Act tem algumas disposições e objetivos semelhantes ao polêmico projeto de segurança em IA da Califórnia, SB 1047, que foi vetado. No entanto, o coautor do projeto, o senador estadual Andrew Gounardes, disse ao TechCrunch em entrevista que o Raise Act foi propositalmente desenhado para não inibir a inovação em startups ou pesquisadores acadêmicos—uma crítica comum ao SB 1047.
"A janela para estabelecer salvaguardas está se fechando rapidamente, dada a velocidade com que essa tecnologia evolui", disse o senador Gounardes. "As pessoas que mais entendem de IA dizem que esses riscos são incrivelmente prováveis […] Isso é alarmante."
O Raise Act agora segue para a mesa da governadora de Nova York, Kathy Hochul, que pode sancioná-lo, enviá-lo de volta para revisões ou vetá-lo completamente.
Se aprovado, o projeto exigiria que os maiores laboratórios de IA do mundo divulgassem relatórios detalhados de segurança sobre seus modelos avançados. Também obrigaria essas empresas a reportar incidentes, como comportamentos perigosos de modelos ou roubo por agentes maliciosos. Em caso de descumprimento, o Raise Act permite que o procurador-geral do estado imponha multas de até US$ 30 milhões.
A lei visa regular principalmente as maiores empresas globais—sejam da Califórnia (como OpenAI e Google) ou da China (como Deepseek e Alibaba). Os requisitos de transparência se aplicam a empresas cujos modelos foram treinados com mais de US$ 100 milhões em recursos computacionais (mais do que qualquer modelo disponível atualmente) e que são oferecidos a residentes de Nova York.
Embora semelhante ao SB 1047 em alguns aspectos, o Raise Act foi projetado para lidar com críticas a propostas anteriores, segundo Nathan Calvin, vice-presidente de assuntos estaduais da Encodes, que trabalhou nos dois projetos. Diferentemente do SB 1047, o Raise Act não exige que desenvolvedores incluam um "interruptor de emergência" em seus modelos nem onera empresas menores.
Mesmo assim, o Vale do Silício reagiu fortemente contra o projeto, segundo o membro da Assembleia de Nova York e coautor Alex Bores. Bores considerou a resistência da indústria previsível, mas afirmou que o Raise Act não limitaria a inovação.
"O Raise Act de NY é mais uma lei estúpida estadual que só prejudicará os EUA enquanto nossos adversários avançam", disse Andreessen Horowitz Partner, Anjney Midha, em um post no X. Andreessen Horowitz e a incubadora Y Combinator foram alguns dos maiores opositores do SB 1047.
Anthropic, o laboratório de IA focado em segurança que defendeu padrões federais de transparência neste mês, não adotou uma posição oficial sobre o projeto, segundo o cofundador Jack Clark em um post no X. Ele, porém, criticou o projeto por ser amplo demais e potencialmente arriscado para empresas menores.
Questionado sobre as críticas da Anthropic, o senador Gounardes afirmou ao TechCrunch que elas "erraram o alvo", destacando que o projeto foi feito para não atingir pequenas empresas.
OpenAI, Google e Meta não responderam aos pedidos de comentário do TechCrunch.
Outra crítica comum é que desenvolvedores poderiam deixar de oferecer seus modelos mais avançados em Nova York—uma objeção semelhante ao SB 1047 e que já ocorreu na Europa devido a regulamentações rígidas.
O membro da Assembleia Bores disse ao TechCrunch que as exigências do Raise Act são leves e não deveriam levar empresas a saírem do estado. Considerando que Nova York tem o terceiro maior PIB dos EUA, abandonar o mercado local não seria uma decisão fácil.
"Não quero subestimar politicagens, mas estou confiante de que não há motivos econômicos para eles não operarem em Nova York", disse Bores.
Fonte: Techcrunch