Senado de Nova York avança com lei para frear IA e evitar desastres catastróficos

Legisladores de Nova York estão travando uma batalha regulatória contra os riscos da inteligência artificial. O projeto de lei, que acaba de avançar no Senado estadual, mira conter possíveis cenários apocalípticos gerados por máquinas.

O que está em jogo?

Com a velocidade exponencial do desenvolvimento de IA, autoridades querem evitar que algoritmos descontrolados causem colapsos financeiros, falhas em infraestrutura crítica ou até decisões autônomas com consequências irreversíveis. A medida chega num momento em que grandes players de tech continuam bombeando bilhões em desenvolvimento - enquanto investidores especulam freneticamente sobre qual startup vai quebrar o mercado primeiro.

O lado cínico da força

Claro, nenhuma lei vai impedir que fundos de hedge continuem alavancando modelos de IA para extrair cada centavo dos mercados - até que o próximo flash crash algorítmico aconteça. Mas pelo menos agora Nova York está tentando colocar alguns guardrails antes que Skynet decida shortear o S&P 500.

Nova York considera o levantamento da Lei para limitar os desastres alimentados pela IA

A Lei Raise tem algumas das mesmas provisões e objetivos que o controverso projeto de segurança da IA SB 1047 na Califórnia, que acabou sendo vetado.

No entanto, um co-patrocinador da Lei Raise, o senador do estado de Nova York, Andrew Gounardes, mencionou em uma entrevista que ele projetou o projeto de maneira a não sufocar a inovação entre startups ou pesquisadores acadêmicos, uma crítica comum que o SB 1047 enfrentou. "A janela para colocar em lugar o Guardrails está diminuindo rapidamente, dada a rapidez com que essa tecnologia está evoluindo", disse o senador Gounardes.

O senador também disse que a maioria das pessoas bem versadas no setor de IA também reconheceu esses riscos, um desenvolvimento que ele chamou de "alarmante". Enquanto isso, a Lei Raise está agora a caminho da mesa da governadora de Nova York, Kathy Hochul, onde ela poderia assinar isso em lei ou enviá -la de volta para alteração. Outra opção seria para ela vetar a conta, o que é provável.

Se for finalmente assinado, a Lei Raise exigirá que alguns dos maiores laboratórios de IA do mundo publiquem relatórios de segurança e segurança em seus modelos de IA de fronteira. O projeto de lei também exige os laboratórios de IA a relatardentde segurança sobre o comportamento do modelo de IA ou maus atores roubando um modelo de IA, se isso acontecer.

Se as empresas de tecnologia não cumprirem esses padrões, o Raise Act capacita o procurador -geral de Nova York a trazer multas civis de até US $ 30 milhões contra elas.

Raise Act procura regular os laboratórios de IA

A Lei Raise foi projetada para regular as maiores empresas de IA em todo o mundo, incluindo aquelas com sede na Califórnia como Openai e Google e aquelas com sede na China, como Deepseek e Alibaba. Os requisitos do projeto incluem uma cláusula obrigatória que se aplica a empresas que usaram mais de US $ 100 milhões em recursos de computação para treinar seus modelos de IA e estão disponíveis para residir dent Nova York.

Embora semelhante ao SB 1047, de certa forma, a Lei Raise aborda algumas das contas de segurança anteriores da IA.

Por exemplo, nenhuma cláusula exige que os desenvolvedores de modelos de IA tenham uma mudança de matança em seus modelos, nem responsabiliza as empresas que pós-trep seus modelos responsáveis por danos críticos. No entanto, houve uma reação no projeto de lei de Nova York, de acordo com o co-patrocinador da Lei Raise, o membro da Assembléia do Estado de Nova York, Alex Bores. Ele chamou a resistência não surpreendente, mas acrescentou que a Lei Raise não limitará as proezas do desenvolvimento das empresas de tecnologia de forma alguma.

"O ato de Raise de NY é mais um estúpido e estúpido projeto de lei de AI em nível estadual que só prejudicará os EUA em um momento em que nossos adversários estão avançando", disse Andreessen Horowitz, parceiro geral Anjney Midha, em um post de sexta-feira no X.

Andreessen Horowitz e a incubadora de startups Y Combinator estavam em oposição feroz ao SB 1047. Além disso, o co-fundador antrópico Jack Clark também compartilhou suas queixas sobre o quão ampla é a Lei Raise, observando que poderia apresentar riscos a firmas menores.

Suas notícias criptográficas merecem atenção - o fio de diferença -chave coloca você em mais de 250 sites superiores