2024 年 9 月 30 日 下午 4:32
图片来源：icedmocha / Shutterstock
订阅我们的每日和每周新闻简报，获取有关行业领先的 AI 报道的最新更新和独家内容。了解更多
加州州长加文·纽森否决了 SB 1047 法案，该法案被许多人认为将改变加州乃至全美 AI 开发的格局。周日发布的否决决定可能赋予 AI 公司展示其主动保护用户免受 AI 风险的能力。
SB 1047 法案原本要求 AI 公司在开始训练模型之前，必须为模型配备“终止开关”，实施书面安全协议，并获得第三方安全审计员的认证。该法案还赋予加州总检察长查看审计员报告的权利，并有权起诉 AI 开发商。
一些 AI 行业资深人士认为，该法案可能会对 AI 开发产生寒蝉效应。许多业内人士对纽森否决该法案表示感谢，并指出否决决定可能在未来保护开源开发。Meta 首席 AI 科学家、SB 1047 的坚决反对者扬·勒昆在 X（前身为 Twitter）上发帖称，纽森的决定“明智”。
著名的 AI 投资者、安德森·霍洛维茨基金的总经理马克·安德森表示，纽森站在了“加州活力、经济增长和计算自由”一边。
感谢 @gavinnewsom 否决 SB1047——你站在了加州活力、经济增长和计算自由一边，而不是安全主义、末日论和衰退一边。 ??✨
其他行业参与者也发表了看法，他们表示，虽然他们认为 AI 领域需要监管，但监管不应阻碍小型开发商和小型 AI 模型的蓬勃发展。
“核心问题不在于 AI 模型本身，而在于这些模型的应用，”数据集成平台 Qlik 的首席执行官迈克·卡波内在一份发给 VentureBeat 的声明中表示。“正如纽森指出的那样，较小的模型有时被部署在关键的决策角色中，而较大的模型则处理更多低风险的任务。这就是为什么我们需要关注 AI 的应用场景和用例，而不是技术本身。”
他补充说，监管框架应该侧重于“确保安全和合乎道德的使用”，并支持最佳的 AI 实践。
Coursera 的联合创始人吴恩达也表示，否决决定是“支持创新的”，并将保护开源开发。
感谢州长 @GavinNewsom 否决 SB-1047——我们非常感谢你支持创新的领导力！还要感谢许多反对 SB-1047 的人。恭喜大家——我们赢了！?
展望未来，让我们继续保护 AI…
不仅是企业对否决决定表示欢迎。乔治·梅森大学 Mercatus 中心 AI 和科技政策专家迪安·鲍尔表示，否决决定“对加州乃至整个美国来说都是正确的举措”。鲍尔指出，该法案针对的模型规模阈值正在过时，无法涵盖 OpenAI 的 o1 等最新模型。
伊利诺伊大学格莱纳工程学院电气与计算机工程副教授拉夫·瓦什尼指出，该法案惩罚了原始开发商，因为他们使用了该技术。
“由于 SB 1047 对 AI 模型的下游使用和修改做出了规定，一旦它离开原始开发商的手中，就会很难以开源的方式继续创新，”瓦什尼告诉 VentureBeat。“在原始开发商和那些对 AI 进行微调以使其超出原始开发商的知识（甚至想象力）范围的人之间，共享责任似乎更合适。”
然而，否决决定可能允许 AI 模型开发商加强其 AI 安全策略和防护措施。
Domino Data Lab 的 AI 战略主管凯尔·卡尔森表示，这为 AI 公司提供了一个机会，可以仔细审查其治理实践，并将这些实践嵌入其工作流程中。
“企业领导者应该抓住这个机会，主动应对 AI 风险，并立即保护其 AI 项目。企业不应等待监管来规定安全措施，而应该在整个 AI 生命周期中实施强大的 AI 治理实践：建立对数据、基础设施和模型的访问控制，进行严格的模型测试和验证，并确保输出的可审计性和可重复性，”卡尔森说。
AI 治理平台 Credo AI 的创始人纳夫丽娜·辛格在接受 VentureBeat 采访时表示，虽然 SB 1047 在审计规则和风险分析方面有其优点，但它表明我们仍然需要了解围绕 AI 需要监管哪些方面。
“我们希望治理成为 AI 创新中心的中心，但我们也相信，那些希望在 AI 领域取得成功的人希望以信任和透明度为先，因为这是客户对他们的要求，”辛格说。她补充说，虽然尚不清楚 SB 1047 的否决决定是否会改变开发商的行为，但市场已经在推动公司将自己呈现为值得信赖的。
然而，并非所有人都对纽森的决定表示欢迎，科技政策和安全组织谴责了这一决定。
非营利组织 Accountable Tech 的联合创始人兼执行董事妮可·吉尔在一份声明中表示，纽森的决定“是对大型科技公司的巨大让步，是对所有目前作为 AI 行业无争议的试验品的人的侮辱”。
“这项否决决定不会‘促进创新’——它只会进一步巩固现状，即大型科技公司垄断被允许在不考虑我们安全的情况下获取利润，即使他们的 AI 工具已经对民主、民权和环境构成威胁，并且可能造成其他灾难性的危害，”吉尔说。
AI 政策研究所也表达了类似的观点，该研究所执行董事丹尼尔·科尔森表示，否决决定“是错误的、鲁莽的，并且与他负责治理的人民脱节”。
这些组织表示，加州是美国大多数 AI 公司的所在地，将允许 AI 开发不受约束，尽管公众要求限制 AI 的某些功能。
美国目前还没有关于生成式 AI 的联邦法规。虽然一些州制定了关于 AI 使用的政策，但没有法律对该技术施加规则。美国最接近的联邦政府政策是乔·拜登总统的一项行政命令。该行政命令制定了机构使用 AI 系统的计划，并要求 AI 公司在公开发布模型之前自愿提交模型以供评估。 OpenAI 和 Anthropic 同意让政府测试其模型。
拜登政府还表示，计划监测开放权重模型的潜在风险。
