IAPS：开发者内部AI 模型风险报告

随着前沿人工智能模型越来越多地先在企业内部部署，再进入公开市场，内部模型已成为AI安全治理的新焦点。报告指出，这类模型通常拥有更强能力、更高权限以及更少外部监督，其风险可能高于公开版本，因此建议企业在每次重大能力升级或高风险内部部署时建立专门风险报告机制，并形成持续更新的安全论证体系。

报告构建了以能力、动机和机会三项风险因子为核心的分析框架，并将自主AI异常行为与内部人员威胁作为两条主要风险路径。其中，自主模型可能出现能力隐藏、评测规避、模型权重外泄或研发破坏等行为，而内部人员则可能借助高能力模型实施网络攻击、生物安全滥用或模型泄露。报告认为，三类风险因子相互叠加后，将显著放大系统性安全风险。

在数据指标设计上，报告建议围绕高级能力评测、AI研发贡献率、真实研发任务完成比例、危险能力测试、安全事件记录、访问权限管理、监控覆盖率及越权检测成功率等指标持续披露，通过定量评估模型能力提升与安全控制能力变化之间的动态关系。同时建议采用季度报告与重大能力变化即时更新相结合的方式，形成持续监管机制，以降低快速迭代带来的风险累积效应。

从全球监管趋势观察，美国加州SB53、纽约RAISE法案以及欧盟通用AI行为准则均开始关注内部模型使用风险，显示监管重点正由模型公开发布延伸至研发和内部部署阶段。未来，随着AI自动化研发程度持续提高，企业内部模型与公开模型之间的能力差距可能进一步扩大，内部治理、透明披露和标准化风险报告体系将成为AI产业竞争与监管协同发展的关键基础设施。