加州SB 1047人工智能安全法案解析

与欧洲首部全面的人工智能立法——欧盟的《人工智能法案》一样，该法案旨在强制要求人工智能的使用和开发的安全。本周，这项备受争议的人工智能法案将在加州进行表决，硅谷领导人对它的支持和反对意见出现分歧。

加州立法者即将对一项法案进行投票，该法案可能会从根本上重塑人工智能发展中心地区的人工智能发展格局。

参议院第 1047 号法案即将成为美国第一部此类立法。但它的先例并不是唯一引人关注的事情。

作为美国人工智能创新中心的硅谷对该法案的技术要求感到困惑，对该法案既有支持意见，也有反对意见。

SB 1047 的主要条款

与欧洲第一部全面的人工智能立法——欧盟的《人工智能法案》非常相似，该法案旨在强制要求人工智能的使用和开发的安全，要求对大规模人工智能模型进行测试。

一旦该法案获得通过，训练成本超过 1 亿美元的人工智能模型将要求开发人员实施安全措施，包括：

SB 1047 的主要内容

针对潜在不安全模型的“完全关闭”功能
解决安全风险的技术计划
每年接受第三方合规审核
合规性及安全事故报告文件
违法行为可能受到民事处罚

起草该法案的议员维纳参议员为这些条款辩护，称其是一种“合理、轻松”的方式，不会阻碍创新，但将有助于解决与强大的人工智能技术相关的风险。

如果人工智能技术造成“严重损害”，则可能面临罚款，首次违法最高罚款 5 万美元，后续违法最高罚款 10 万美元。

硅谷的分裂反应

尽管该法案遭到强烈反对是意料之中的事，但令人意外的是，行业领袖对此的意见分歧很大。

X 的所有者和 Gen AI 系统 Grok 的领导者 Elon Musk 公开支持该法案。

“这是一个艰难的决定，会让一些人感到不安，但综合考虑，我认为加州应该通过 SB 1047 人工智能安全法案，”他周一下午在 X 上写道。“20 多年来，我一直是人工智能监管的倡导者，就像我们监管任何有潜在风险的产品/技术一样。”

埃隆·马斯克全力支持该法案

Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 也表示支持该法案，并称该法案对于保护公众安全并提高行业透明度是必要的。

然而，Google Meta、微软和 OpenAI 都表示反对，后者暗示，如果该法案获得通过，企业可能会离开加州。

然而有趣的是，OpenAI 在反对 SB 1047 的同时，却支持加州的另一项法案 AB 3211。该法案要求科技公司对人工智能生成的内容进行标记，以解决人们对深度伪造和错误信息的担忧，尤其是在选举背景下。

AI 初创公司 Notion 的联合创始人 Simon Last 以及知名 AI 研究人员 Yoshua Bengio 和 Geoffrey Hinton 均表示赞同。Bengio 称该法案是朝着更安全的 AI 开发迈出的“积极而合理的一步”。

支持和反对的理由

硅谷赞成和反对的论点都是基于抑制风险和抑制创新。

反对者认为，在人工智能发展过程中设置障碍不仅会阻止企业使用人工智能，还会阻止企业开发人工智能——这可能会损害美国在人工智能领域的世界领先地位。

正是出于这个原因，美国国会的八名议员敦促州长加文·纽瑟姆否决SB-1047，众议员南希·佩洛西称该法案“意图良好但缺乏了解”。

OpenAI 还认为，加州实施这项法案可能会导致州一级立法的混乱，而这应该留给联邦政府来决定。

但两位前 OpenAI 研究员 Daniel Kokotajlo 和 William Saunders 却对 OpenAI 反对该法案的决定嗤之以鼻。他们在上周写给州长纽森的一封信中写道：“我们的前老板 Sam Altman 曾多次呼吁对人工智能进行监管。现在，当实际监管摆上台面时，他却反对。”

OpenAI 举报人 Daniel Kokotajlo 和 William Saunders 的重要信件：

他们强调了人工智能发展的极端危险性，以及 Sam Altman 和 OpenAI 的矛盾之处，他们公开呼吁制定监管规定，但在制定监管规定时却表示反对。

以下是完整内容……https://t.co/reILUDOP9q pic.twitter.com/sabclXsrwi

— ControlAI (@ai_ctrl) 2024 年 8 月 23 日

然而，支持者认为，如果没有这样的措施，不受控制的人工智能发展可能会带来生存威胁，包括对关键基础设施的风险和可能被滥用于制造大规模杀伤性武器。

Anthropic 公司的 Dario 最初反对该法案，但在立法修改后，他转而支持该法案，并表示该法案“有了实质性的改进，我们认为其收益可能超过其成本”。

修订后的法案取消了设立“边境模型部门”来监管边境模型的规定。法案还取消了对模型撒谎的刑事伪证罪，而是依据现有法律。