OpenAI 宣布更新《使用政策》,要求提供其模型访问的第三方伙伴及 AI 网关统一执行安全标准,并须通过前置审核。同时推出隐私保护机制 SafetyIDs,在不获取用户真实身份的前提下精准打击滥用行为。
随着大语言模型能力不断拓展,OpenAI 宣布全面更新《使用政策》,旨在确保开发者与企业无论通过何种渠道调用模型,都能获得一致且有效的安全防护。
在模型正式部署前,OpenAI 会对其能力与潜在风险进行全面评估,训练模型严格遵守安全规范,并开展红队测试以检验防护机制在遭遇恶意绕过时的稳固性。正如 OpenAI 在安全与对齐方法中所阐述的,多重安全防线相互补充,协同发挥作用。
部署上线后,OpenAI 会持续监控滥用迹象并深入调查异常。例如,在防范网络攻击与恶意利用方面,OpenAI 训练模型主动拒绝危害性请求,并利用多轮交互模式识别系统评估风险。此外,受信任访问计划也为获取最强模型能力设立了准入门槛与审核条件。
部分安全防护内嵌于模型本身,另一些则依托外围系统与人工审核。无论是直接调用还是通过合作伙伴接入,这些防护措施都必须保持一致的效果。
OpenAI 认为,开发者和企业应有权自由选择模型接入平台,但各平台必须具备统一的安全底线。新政策明确要求,所有托管或分销 OpenAI 模型的合作伙伴,都必须建立与官方同等水平的安全机制,协助调查违规行为,并协同执行处置措施,避免安全策略出现漏洞。
这一标准的落地需要兼顾不同架构的特性与客户需求。例如,OpenAI 与伙伴联合推进的私有安全处理方案,就是在严格落实防护的同时,为客户敏感数据提供自主可控空间。
根据更新后的政策,提供 OpenAI 模型直接访问的服务(如模型路由器或 AI 网关),必须在接入前获得官方审核与批准。
随着模型能力提升,滥用行为的识别与溯源也面临新挑战。滥用可能源自最终用户恶意操作、凭证泄露或 API 密钥被盗。为此,OpenAI 正式引入 SafetyIDs 机制。
通过 SafetyIDs,开发者可以在不向 OpenAI 暴露终端用户具体身份的前提下,辅助区分不同的最终调用者。这使 OpenAI 能够在发生安全调查时实施更精准的拦截与处置,避免因个别恶意账号牵连整个系统的正常业务。
所有处置决定均基于明确的行为记录与风险事实,遵循比例原则。若涉事方在后续改进中修复了安全漏洞并健全合规体系,限制措施也将视情况予以解除。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断