Senado da Califórnia aprova SB 53, projeto que impõe relatórios de segurança às grandes empresas de IA

O Senado do Estado da Califórnia aprovou o projeto de lei SB 53, que estabelece novas obrigações de transparência e comunicação de incidentes para desenvolvedores de inteligência artificial com faturamento anual superior a US$ 500 milhões. A proposta, de autoria do senador estadual Scott Wiener, segue agora para o governador Gavin Newsom, que poderá sancioná-la ou vetá-la.

A matéria é uma versão mais restrita do SB 1047, vetoado por Newsom em 2023. Enquanto o antecessor abrangia praticamente todo o setor de IA, o texto atual concentra-se em grandes laboratórios, como OpenAI, Google DeepMind e Anthropic, deixando a maioria das startups de fora das exigências mais rígidas. O objetivo principal, segundo os defensores, é criar uma barreira regulatória voltada aos agentes com maior impacto potencial, sem comprometer o ecossistema de inovação emergente no estado.

Entre as obrigações previstas, o SB 53 exige a publicação periódica de relatórios de segurança detalhando riscos conhecidos, métodos de mitigação e testes realizados antes do lançamento de novos modelos. Caso ocorram falhas ou incidentes que coloquem em risco usuários ou sistemas críticos, as empresas deverão notificar imediatamente uma autoridade estadual designada. A medida também cria um canal formal para que empregados denunciem problemas internos sem sofrer retaliações, ainda que tenham assinado acordos de confidencialidade.

A possibilidade de uma legislação estadual voltada à IA ganhou relevância diante da expansão rápida dessa tecnologia em setores como finanças, saúde e serviços. Parlamentares destacam que, como sede de grande parte das empresas do ramo, a Califórnia tem responsabilidade especial na definição de parâmetros de segurança. A concentração de laboratórios avançados e de investimentos no Vale do Silício faz do estado um centro estratégico para a produção e a aplicação de sistemas de IA em escala global.

A chancela obtida no Senado ocorre em um contexto regulatório incerto nos Estados Unidos. No plano federal, a atual administração sinalizou preferência por um ambiente mais flexível, chegando a propor dispositivos em projetos de financiamento que proibiriam estados de criar regras próprias para a IA. Embora tais restrições ainda não tenham sido aprovadas pelo Congresso, analistas veem possibilidade de disputa jurídica caso a Casa Branca tente limitar iniciativas como a californiana.

Para o senador Wiener, o foco em empresas que faturam mais de US$ 500 milhões responde às críticas recebidas no ano passado, quando associações do setor argumentaram que o SB 1047 poderia sufocar startups sem capacidade operacional para cumprir exigências extensivas. Ao concentrar as obrigações nos laboratórios de maior porte, o novo texto busca atender a preocupações econômicas e, ao mesmo tempo, estabelecer mecanismos de responsabilização proporcionais ao alcance dos modelos mais complexos.

O projeto conquistou apoio público da Anthropic, desenvolvedora do modelo Claude, que considera os requisitos compatíveis com suas práticas internas de governança. A adesão de uma empresa do próprio setor foi interpretada por observadores como um sinal de viabilidade política, reduzindo a resistência enfrentada anteriormente. Ainda assim, o posicionamento de outras grandes empresas, como a OpenAI e a Alphabet, pode influenciar a decisão final de Newsom.

Se sancionada, a lei entrará em vigor gradualmente. Em uma primeira fase, as companhias deverão apresentar planos de conformidade, descrevendo como pretendem cumprir as exigências de reporte e fiscalização. Falhas na prestação de informações poderão resultar em multas e outras sanções administrativas, cujo formato será definido por regulamentação complementar.

Embora limitado territorialmente, o SB 53 pode servir de modelo para outras unidades federativas interessadas em regular a IA. Experiências anteriores demonstram que políticas aprovadas na Califórnia tendem a influenciar normas de consumo, privacidade e meio ambiente em todo o país, dada a relevância econômica do estado e a necessidade de empresas padronizarem procedimentos.

A decisão de Gavin Newsom é aguardada nas próximas semanas. Caso ele ratifique a proposta, a Califórnia criará o primeiro conjunto de obrigações formais específicas para grandes desenvolvedores de IA nos Estados Unidos, estabelecendo requisitos de transparência e sistemas de alerta que podem redefinir a relação entre poder público e indústria tecnológica. Se optar pelo veto, o debate sobre controles de segurança continuará em aberto, mantendo a discussão sobre responsabilidades e riscos em torno da inteligência artificial no centro da agenda legislativa.