OpenAI 发布社区安全报告，并升级青少年防护机制

作为全球应用最广的 AI 产品之一，ChatGPT 始终将安全性视为核心底线。为进一步完善安全生态，OpenAI 近日宣布了两项关键举措：正式发布《社区安全报告》，并针对未成年人用户收紧有关枪支武器内容的访问权限。

社区安全与警务合作

维护社区安全是 OpenAI 的首要任务。公司通过 AI 系统识别潜在危害、审查违规行为，并针对可信度高的威胁及时采取行动。在 2026 年第三季度，OpenAI 向执法部门提交了超过 200 起举报，有效协助打击了暴力策划。OpenAI 表示，将继续与心理健康专家及行为分析师合作，评估复杂的安全案例。

《社区安全报告》：透明度的飞跃

为向用户展示透明度，OpenAI 承诺自 2027 年初起，每半年发布一次《社区安全报告》。该报告将详述 AI 系统如何侦测并响应暴力风险，分享匿名案例、缓解措施及最新政策变动，并提供相关数据支持。

强化 AI 政策边界

OpenAI 正在收紧 ChatGPT 对大规模暴力袭击事件的响应策略。即便相关信息在互联网上公开可得，ChatGPT 也将减少对袭击细节（如所用武器、装备获取方式及伤亡规模对比）的复现，旨在避免对施暴者及其暴行的不当渲染。这一限制适用于所有用户，无论其年龄或提问动机如何。

动态干预与预警机制

针对聊天记录中出现的暴力预警，ChatGPT 正在升级响应模式：

• 智能干预：当系统检测到用户表现出沉迷暴力或针对他人的伤害意图时，ChatGPT 可自动终止对话。
• 账号限制：对于多次因暴力倾向导致对话被切断的用户，系统将实施临时账号封禁。
• 情境关联：利用此前对话的概括信息，ChatGPT 在后续交互中将采取更谨慎的回答策略，即便是被系统识别为 18 岁以下的用户，即便其当前对话未显示明显暴力意图，也会被施加更严格的安全限制。

青少年专属保护升级

ChatGPT for Teens 进一步加码：

• 武器限制：即便询问看似无害，系统也会严格屏蔽有关武器和安全系统的实用信息，防止其被误用于暴力活动。
• 年龄识别：通过行为模式等多维度信号，系统将自动将用户归入未成年人保护模式。若误判，用户可通过合作伙伴 Persona 完成隐私化身份验证。
• 家长协作：OpenAI 正在优化家长监护功能。除了已有的自残及进食障碍预警外，未来若青少年账号因反复讨论暴力内容被暂停，系统也将及时通知已关联的家长账号。

面对复杂的人类行为，OpenAI 强调，安全防护并非一蹴而就。公司将持续迭代技术，通过多层防护与跨界协作，不断降低 AI 系统可能带来的现实风险。