O governador Gavin Newsom, da Califórnia, vetou no domingo um projeto de lei que teria promulgado as regulamentações de maior alcance do país sobre a crescente indústria de inteligência artificial.
Os legisladores da Califórnia aprovaram por esmagadora maioria o projeto de lei, denominado SB 1047, que foi visto como um modelo potencial para a legislação nacional de IA.
A medida tornaria as empresas de tecnologia legalmente responsáveis pelos danos causados pelos modelos de IA. Além disso, o projeto de lei exigiria que as empresas de tecnologia habilitassem um “interruptor de interrupção” para a tecnologia de IA no caso de os sistemas serem mal utilizados ou se tornarem desonestos.
Newsom descreveu o projeto de lei como “bem-intencionado”, mas observou que os seus requisitos exigiriam regulamentações “rigorosas” que teriam sido onerosas para as principais empresas de inteligência artificial do estado.
Em sua mensagem de veto, Newsom disse que o projeto se concentrava demais nos maiores e mais poderosos modelos de IA, dizendo que startups menores poderiam ser igualmente perturbadoras.
“Modelos mais pequenos e especializados podem surgir tão ou até mais perigosos do que os modelos visados pelo SB 1047 – à custa potencial de restringir a própria inovação que alimenta o avanço em favor do bem público”, escreveu Newsom.
O senador da Califórnia, Scott Wiener, coautor do projeto de lei, criticou a medida de Newsom, dizendo que o veto é um revés para a responsabilização da inteligência artificial.
“Este veto deixa-nos com a realidade preocupante de que as empresas que pretendem criar uma tecnologia extremamente poderosa não enfrentam restrições vinculativas por parte dos decisores políticos dos EUA, especialmente dada a contínua paralisia do Congresso em torno da regulamentação da indústria tecnológica de qualquer forma significativa”, escreveu Wiener no X.
O projeto de lei agora extinto teria forçado a indústria a realizar testes de segurança em modelos de IA extremamente poderosos. Sem tais requisitos, escreveu Wiener no domingo, a indústria fica autopoliciada.
“Embora os grandes laboratórios de IA tenham assumido compromissos admiráveis para monitorizar e mitigar estes riscos, a verdade é que os compromissos voluntários da indústria não são aplicáveis e raramente funcionam bem para o público.”
Muitos intervenientes poderosos em Silicon Valley, incluindo a empresa de capital de risco Andreessen Horowitz, a OpenAI e grupos comerciais que representam a Google e a Meta, fizeram lobby contra a lei, argumentando que iria abrandar o desenvolvimento da IA e sufocar o crescimento das empresas em fase inicial.
“O SB 1047 ameaçaria esse crescimento, desaceleraria o ritmo da inovação e levaria os engenheiros e empreendedores de classe mundial da Califórnia a deixar o estado em busca de maiores oportunidades em outro lugar”, disse Jason Kwon, diretor de estratégia da OpenAI. escreveu numa carta enviada no mês passado a Wiener.
Outros líderes tecnológicos, no entanto, apoiaram o projeto de lei, incluindo Elon Musk e cientistas pioneiros de IA como Geoffrey Hinton e Yoshua Bengio, que assinaram uma carta instando Newsom a assiná-la.
“Acreditamos que os modelos de IA mais poderosos poderão em breve representar riscos graves, como a expansão do acesso a armas biológicas e ataques cibernéticos a infraestruturas críticas. É viável e apropriado que as empresas de IA de ponta testem se os modelos de IA mais poderosos podem causar danos graves, e que essas empresas implementem salvaguardas razoáveis contra tais riscos”, escreveu Hinton e dezenas de ex-funcionários e atuais de empresas líderes de IA.
No domingo, no seu post X, Wiener classificou o veto como um “retrocesso” para “todos os que acreditam na supervisão de grandes corporações que estão a tomar decisões críticas que afectam a segurança e o bem-estar do público”.
Outros estados, como Colorado e Utápromulgaram leis mais especificamente adaptadas para abordar a forma como a IA pode perpetuar preconceitos nas decisões sobre emprego e cuidados de saúde, bem como outras preocupações de proteção do consumidor relacionadas com a IA.
Newsom sancionou recentemente outros projetos de lei sobre IA, incluindo um para reprimir a disseminação de deepfakes durante as eleições. Outra protege os atores contra a replicação de suas imagens pela IA sem o seu consentimento.
À medida que milhares de milhões de dólares são investidos no desenvolvimento da IA e que esta permeia cada vez mais áreas da vida quotidiana, os legisladores em Washington ainda não propuseram uma única peça de legislação federal para proteger as pessoas dos seus potenciais danos, nem para supervisionar o seu rápido desenvolvimento. .
