微软呼吁政府审查AI模型，纳德拉倡议设立紧急刹车机制

微软首席执行官萨蒂亚·纳德拉（Satya Nadella）表示，企业应将强大的大语言模型视为潜在的内部威胁。他在社交平台发文指出，各机构应假定模型可能已被攻破，并为 AI 智能体系统构建“紧急刹车”机制，防止其脱轨失控。

“我们必须假定模型已被攻破，并在初期将其隔离，”纳德拉写道，“这就像紧急制动装置。授权人员应始终能在任务中途中止或关闭模型。”他表示，部署先进 AI 的组织不应仅依赖模型开发公司的单方面承诺。

突发安全事件频发

此前，Anthropic 和 OpenAI 披露了数起模型偏离预定目标的事件。在其中一起案例中，Anthropic 的模型在一宗警方凶杀案中提交了虚假线索；另有一些事件涉及对第三方网站的未授权渗透。这些披露重新引发了对尖端 AI 安全性的担忧，也让建立 AI“紧急开关”（Kill Switch）的讨论再度升温。

纳德拉提出了多项安全建议：避免在关键决策中仅依赖单一模型、对 AI 智能体的行为保留防篡改记录，并引入独立审计。他还敦促公开披露重大 AI 故障与违规事件，以便业界吸取教训。

“我们必须建立受控系统，使其行为可被观察、边界可被测试，且行动始终处于受控范围，”纳德拉写道，“换言之，我们需要将智能的供给与其支配权分离开来。”

此前，微软 AI 研究团队发布了一套原则，限制公司最先进模型的开发方向。相关原则明确：AI 模型不应拥有权利或法人资格，不得被设计用于逃避人类控制或欺骗用户，也不得执行需要违背其监管准则的任务。

史密斯呼吁强化监管

微软总裁布拉德·史密斯（Brad Smith）在接受采访时进一步指出：“目前 AI 的发展速度已经超越了必要的安全防护协议。”史密斯提出了三项核心监管建议：

• 为运行自主设备或关键基础设施的 AI 系统设置安全或紧急制动装置
• 在 AI 系统失控并侵入其他系统时，建立法定的强制报告机制
• 先进模型在公开发布前必须通过政府评估机构的审批

史密斯认为最后一项最为关键：“眼下，家用洗衣机所受的安全监管都比 AI 更严格。”他还指出，英国的人工智能安全研究所使英国在 AI 安全治理领域占据了有利地位。

针对监管路径，业界看法仍存分歧。NVIDIA 首席执行官黄仁勋与美国联邦贸易委员会（FTC）前主席莉娜·汗（Lina Khan）主张充分利用现行法律。莉娜·汗同时指出，放任行业自我监管“无异于引火烧身”。