O autor do SB 1047 da Califórnia, o projeto de lei de segurança de IA mais controverso do país em 2024, está de volta com um novo projeto de lei de IA que poderia abalar o Vale do Silício.
O senador estadual da Califórnia, Scott Wiener, apresentou um novo projeto de lei na sexta-feira que protegeria os funcionários dos principais laboratórios de IA, permitindo-lhes se manifestar se acharem que os sistemas de IA de suas empresas poderiam representar um “risco crítico” para a sociedade. O novo projeto de lei, SB 53, também criaria um cluster público de computação em nuvem, chamado CalCompute, para fornecer aos pesquisadores e startups os recursos computacionais necessários para desenvolver IA que beneficie o público.
O último projeto de lei de IA de Wiener, o SB 1047 da Califórnia, provocou um acalorado debate em todo o país sobre como lidar com sistemas de IA massivos que poderiam causar desastres. O SB 1047 visava prevenir a possibilidade de modelos de IA muito grandes criarem eventos catastróficos, como causar perda de vidas ou ciberataques que custariam mais de US$ 500 milhões em danos. No entanto, o governador Gavin Newsom acabou vetando o projeto de lei em setembro, dizendo que o SB 1047 não era a melhor abordagem.
Mas o debate sobre o SB 1047 rapidamente se tornou acalorado. Alguns líderes do Vale do Silício afirmaram que o SB 1047 prejudicaria a vantagem competitiva da América na corrida global de IA e afirmaram que o projeto de lei foi inspirado por medos irreais de que sistemas de IA pudessem trazer cenários apocalípticos dignos de ficção científica. Enquanto isso, o senador Wiener alegou que alguns capitalistas de risco estavam envolvidos em uma "campanha de propaganda" contra seu projeto de lei, apontando em parte para a alegação da Y Combinator de que o SB 1047 enviaria os fundadores de startups para a cadeia, alegação que especialistas argumentaram ser enganosa.
O SB 53 basicamente pega as partes menos controversas do SB 1047 - como proteções para denunciantes e o estabelecimento de um cluster CalCompute - e as reempacota em um novo projeto de lei de IA.
É importante destacar que Wiener não está evitando o risco existencial de IA no SB 53. O novo projeto de lei protege especificamente os denunciantes que acreditam que seus empregadores estão criando sistemas de IA que representam um "risco crítico". O projeto de lei define risco crítico como um “risco previsível ou material de que o desenvolvimento, armazenamento ou implantação de um modelo fundamental de um desenvolvedor, conforme definido, resultará na morte ou ferimento grave de mais de 100 pessoas, ou em danos acima de US$ 1 bilhão a direitos de dinheiro ou propriedade”.
O SB 53 limita os desenvolvedores de modelos de IA de ponta - provavelmente incluindo OpenAI, Anthropic e xAI, entre outros - de retaliar contra os funcionários que divulgam informações preocupantes ao Procurador-Geral da Califórnia, autoridades federais ou outros funcionários. Segundo o projeto de lei, esses desenvolvedores seriam obrigados a fornecer informações sobre determinados processos internos que os denunciantes consideram preocupantes.
Quanto ao CalCompute, o SB 53 estabeleceria um grupo para desenvolver um cluster público de computação em nuvem. O grupo seria composto por representantes da Universidade da Califórnia, bem como por outros pesquisadores públicos e privados. Ele faria recomendações sobre como construir o CalCompute, qual seria o tamanho ideal do cluster e quais usuários e organizações teriam acesso a ele.
É claro que ainda está muito cedo no processo legislativo para o SB 53. O projeto de lei precisa ser revisado e aprovado pelos corpos legislativos da Califórnia antes de chegar à mesa do governador Newsom. Os legisladores estaduais certamente estarão esperando pela reação do Vale do Silício ao SB 53.
No entanto, 2025 pode ser um ano mais difícil para aprovar projetos de lei de segurança de IA em comparação com 2024. A Califórnia aprovou 18 projetos de lei relacionados à IA em 2024, mas agora parece que o movimento de condenação da IA perdeu terreno.
O vice-presidente J.D. Vance sinalizou na Cúpula de Ação de IA de Paris que a América não está interessada na segurança de IA, mas sim prioriza a inovação em IA. Embora o cluster CalCompute estabelecido pelo SB 53 certamente possa ser visto como um avanço no progresso da IA, não está claro como os esforços legislativos em torno do risco existencial de IA se sairão em 2025.
