AI安全进入深水区：谁该对失控的模型负责？

公众对 AI 的关注已经发生了质的变化。

过去，讨论的核心始终围绕生产力工具、商业回报或是工作岗位替代。这类讨论通常停留在经济效益层面。现在的风险完全不同：网络安全威胁放大、自主 Agent 的潜在失控，已经成为现实风险。哪怕前沿技术存在不确定性，潜在危害的量级也足以要求行业立刻采取行动。

面对这种复杂局面，AI 治理不能靠单打独斗，必须多方全员就位（All Hands on Deck）。然而，目前行业普遍存在分工模糊与权责脱节的问题。

厘清五方责任链条

AI 生态由不同角色构成，不同环节面对的风险完全不同：

1. 前沿实验室（Labs）

研发前沿基础模型的团队（如 OpenAI、Anthropic、DeepSeek 等）掌握着能力上限。他们不能只做能力对齐（Alignment），更要对模型的极端能力进行严密测试，并向行业透明公开模型的能力边界与失控风险边界，而不是只发布经过精心包装的宣传基准。

2. 场景部署方（Deployers）

直接把大模型接入业务系统、企业工作流或消费级应用的公司。许多严重事故并非源于模型本身的底层恶意，而是源于不设防的系统接入。部署方必须对输入输出过滤、上下文注入权限、系统工具调用（Function Calling）设立硬性物理隔离。

3. 第三方评测机构（Evaluators）

既当运动员又当裁判员是无法建立信任的。行业急需独立于巨头之外的客观评测机构，建立针对越狱、提示词注入、恶意行为泛化的标准化测试基线。没有统一的度量衡，安全防御就是各自为战。

4. 监管机构与立法者（Regulators）

监管不能一刀切，也不应限制底层算法探索。监管的核心是根据风险分级建立追责框架：发生重大安全事故或数据泄露时，责任究竟在底层模型厂商、微调服务商，还是最终的应用落地企业？界定责任归属是立法机构的首要任务。

5. 政府与国家安全部门（Governments）

在国家层面，政府需要关注基础设施安全，包括关键算力中心物理防护、供应链安全以及利用 AI 发动的大规模网络攻击防范，提供公共安全底线支撑。

最易被忽视的盲区：部署鸿沟（Deployment Gap）

绝大多数治理框架都忽略了一个关键漏洞——部署鸿沟。

实验室在受控沙盒环境下测试一个模型，可能显示其对齐良好、拒绝有害指令。但是，当该模型被企业通过 API 调用，结合私有数据库，接入邮件发送、数据库修改、自动化代码执行等外部工具时，原有的安全对齐会被迅速击穿。

这种从“静态评测”到“动态部署”之间的巨大落差，就是部署鸿沟。很多企业误以为使用了大厂的安全模型，业务就是绝对安全的，却忽视了系统集成的权限分配漏洞。最终让恶意利用得逞的，往往不是模型本身，而是过度宽松的 Agent 权限体系。

安全不是延缓创新的刹车

把安全当成创新的对立面是一种认知误区。汽车因为有了可靠的制动系统，才能在高速路上以 120 码的速度狂奔。

面对越发复杂的自主系统，从基础模型研发、业务集成、独立评测到法律监管，产业链的每一个环节都需要认领责任。只有补齐“部署鸿沟”，才能真正驾驭新一代智能技术的爆发力。