加利福尼亚提议的里程碑式人工智能法规

监管AI的风险

加利福尼亚提议的法案将对大型AI模型在发布之前进行更严格的审查，要求州政府官员对产品进行测试。它还要求包含应急断电开关，并实施防止恶意行为者攻击的保护措施，以使AI更不易受攻击。为了执行这些法规，该法案在加利福尼亚技术部门内设立了前沿模型部门。然而，该立法不适用于小规模的AI产品。此外，该法案旨在通过创建CalCompute来促进AI的发展，CalCompute是一个公共拥有的计算资源共享计划，面向企业、研究人员和社区团体。

对全国AI立法的影响

加利福尼亚提出的旨在应对极端AI风险的法案正值全国各州立法机构提出大量与AI相关的法案之际。作为许多主要AI公司的所在地，加利福尼亚在制定AI法规标准方面具有重要影响力。尽管国会在全面的AI立法方面进展甚微，但州级法规起着至关重要的作用。一个行业游说团体的执行主任强调了美国基于AI的监管对塑造全球规则的重要性。加利福尼亚的法案受到了美国总统乔·拜登发布的一项行政命令的启发，但该法案的发起人对联邦立法在近期的可能性持怀疑态度。