纳德拉称AI智能体存在“内部人风险”

微软首席执行官萨蒂亚·纳德拉（Satya Nadella）希望 AI 智能体在个人电脑中承担更多工作，但他同时表示，人们不应该轻易信任它们。

在近日接受采访时，纳德拉指出，尽管 AI 智能体伴随着潜在风险，Windows 仍应成为运行这些智能体最安全、最强大的操作系统。

纳德拉此前在社交平台发文，呼吁为前沿人工智能建立安全隔离机制、独立控制权限以及“紧急制动器”，以便授权人员在任务执行中途暂停或终止模型。

对模型采取“零信任”策略

“将前沿闭源和开源模型视作‘内部人风险’（insider risk），是构建此类安全系统的一种方式，”纳德拉写道。他认为，与传统软件不同，企业无法将模型的具体行为追溯到某一行特定代码上，“然而我们正在部署这些拥有最敏感数据访问权限的复杂智能体系统和模型。”

纳德拉强调，业界必须默认模型存在被攻破的可能，并从一开始就对其进行隔离。更先进的模型需要标准化隔离技术，企业不能仅依赖模型开发商的口头承诺。模型可以访问和执行哪些操作，相关控制机制必须部署在模型外部。

他提出的安全框架包括：

• 采用多模型协同架构
• 保留人类可读的操作日志
• 对系统进行持续测试与独立审计
• 实施容器隔离与安全事件披露

将 Windows 打造为安全的智能体平台

微软正在将面向 AI 智能体的安全工具深度整合进 Windows。在旧金山举行的 Windows 和 Surface 活动上，微软推出了 Microsoft Execution Containers（微软执行容器），将其定义为“针对 AI 智能体的策略驱动型隔离环境”。

微软总裁布拉德·史密斯（Brad Smith）也表达了类似观点，认为当前 AI 领域的监管力度甚至不如普通家用电器，并重申了设立紧急制动机制的必要性。一系列涉及前沿模型的网络安全事件，让业界对这类防护手段的呼声日益增高。

纳德拉总结道：“最值得信赖的超级智能系统，绝不是建立在我们最信任的模型之上，而是建立在一个能让我们对模型‘保持最低信任’的体系之中。”