AI进入业务深水区：八成应用落地单位未配专职安全团队

前沿人工智能评测机构 METR 的研究显示，AI 模型胜任复杂任务的能力正在快速跃升：以人类专家完成任务所需的时间衡量，模型在 50% 成功率下可独立完成任务的时长，大约每 7 个月就会翻上一番。

当大模型与 AI 智能体能够访问的数据更深、系统权限更高、独立运行时间更长，如何防范恶意指令操控、遏制越权失控风险？在第一届中国网络空间安全大会上，由北京航空航天大学、中国科学技术大学、永信至诚科技集团等多家机构联合编制的《网络安全人才实战能力报告—AI赋能篇》（以下简称《报告》）正式发布，全面剖析了 AI 时代网络安全人才的现状与挑战。

从回答问题走向执行任务，安全边界发生重塑

大语言模型与核心业务深度绑定后，安全防御的对象发生了质的转变。过去的安全防御侧重于传统网络、主机系统与静态数据；而现在，模型权重、算法逻辑、训练数据、Prompt（提示词）、AI 智能体权限以及复杂的工具调用链，均演变为全新的安全边界。

《报告》指出，AI 时代的网络安全实战任务可划分为三大板块：

1. 模型安全：聚焦模型底层、训练数据集和核心算法本身的安全性；
2. AI 应用安全：防范模型与智能体切入业务系统后引发的连锁风险；
3. AI 赋能网络安全：运用 AI 技术提升漏洞挖掘、威胁情报、攻防对抗及安全运营的自动化效率。

这要求安全人员既要能识别并防御 AI 带来的新型攻击手段，又要懂得将 AI 转化为提升防御效能的工具。

专职团队脱节，八成落地单位存在防御真空

尽管 AI 技术在各行业的应用速度不断加快，但配套的专业防御力量明显滞后。

《报告》调研数据显示，目前 AI 安全领域的人才呈现工作年限偏短、地域与行业集中度高等特征。在模型安全从业者中，65% 的人工作年限不足 5 年；广东、北京、浙江、上海和江苏五省市汇聚了 46% 的应用安全人才；在关键信息基础设施领域，75% 的相关安全力量集中在电力、金融与通信三大行业。

更严峻的现实在于团队建设的脱节。在大模型落地单位中，64% 仍由传统网络安全团队或研发人员兼管模型安全，仅 23% 的机构建立了专门的 AI 安全研究团队；而在将 AI 应用于业务系统的机构中，高达 81% 尚未设立专职的 AI 安全队伍。

防御不仅看模型，接口权限与业务逻辑成薄弱点

AI 应用的安全风险绝不仅存在于模型参数本身。一旦大语言模型接入内部数据库、调用外部 API 并深度参与业务逻辑，潜在风险就会顺着接口权限和调用链向全系统蔓延。

调研反映出从业人员在实战能力上的显著短板：在提示词安全、内容合规、接口安全以及业务逻辑安全四个关键维度，尚未达到熟练水准的人员占比分别达到 54%、64%、60% 和 65%。

这意味着，懂算法的模型研究人员往往缺乏工程安全经验，而传统攻防人员又缺乏对大模型调用机制与业务逻辑的理解。兼具算法机理认知、接口攻防技术和业务风险敏锐度的复合型人才，已成为企业最稀缺的资源。

AI 可辅助提效，但资深专家的研判不可替代

在安全防御环节，大语言模型和 AI 智能体正被广泛引入安全运营、威胁分析和辅助漏洞挖掘之中。但实战表明，AI 提效无法替代人类的专业研判。

《报告》指出，在所有从业者群体中，工作 10 年以上的资深专家对 AI 辅助漏洞挖掘效率的满意度最低，仅为 58.3%。

这反映出在面对复杂对抗与严苛要求时，AI 输出的准确率、稳定性和可验证性仍显不足。AI 可以承担海量线索初筛与常规流程自动化，但针对漏洞深层成因、完整攻击链构建以及业务影响定级等关键决策，仍必须依赖资深专家的经验与判断。

实战化评价转型：打破学历束缚，注重真实场景防御

面对产业界的迫切需求，高校正在加速推进 AI 安全教育。统计显示，68% 的高校已将 AI 安全相关课程设为必修或选修课。然而，实战能力的培养受到硬件算力与教学案例的严重制约。仅 10% 的受访高校教师认为本校建立了相对完备的 AI 安全实训体系，80% 的教学资源需求集中在实操案例与真实攻击攻防演练指导。

传统基于学历、证书和知识背诵的评价体系，已难以客观衡量人员在复杂动态环境下的实战能力。《报告》提出推行基于任务完成效果的实战评价标准，未来应以实际防御任务定义能力基准，依托真实攻防场景检验技能，推动高校、科研机构与企业深度协同，构筑应对新型 AI 威胁的实战人才底座。