前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
政策/11.18 · 07:02/3 MIN/1 阅读

OpenAI 推出新型 CSAM 图像分类器,免费向机构开放

OpenAI 推出全新儿童性虐待材料(CSAM)图像分类器,可精准识别包括 AI 生成在内的有害内容,并通过 API 免费向审核机构开放。同时,ChatGPT 上线劝阻警告机制并向执法部门提供技术支持,全面强化儿童保护生态。

为了进一步打击网络儿童性虐待,OpenAI 宣布推出一套综合举措,包括用于检测儿童性虐待材料(CSAM)的新分类器、ChatGPT 产品内干预措施,以及面向开发者和执法调查人员的专项支持工具。

推出首款可识别 AI 生成内容的 CSAM 分类器

在现有防护措施的基础上,OpenAI 开发了一款全新的图像分类器。该工具通过识别侵害行为的视觉特征,帮助安全团队发现从未在哈希库中出现过的新型图像。值得注意的是,这是业界首款广泛开放、且能专门提示内容是否可能由 AI 生成的 CSAM 分类器。

该分类器在美国国家失踪与受剥削儿童中心(NCMEC)的协助下完成训练和评估,目前已通过 OpenAI API 免费向经过审核的合格组织开放。

评估数据显示,新分类器能显著提升审核效率:

  • 减少审核量:在检出同等数量侵害图像的前提下,误报标记总量减少了 48%。
  • 准确率翻倍:被系统标记的图像中,包含实际侵害内容的概率约为现有工具的两倍。
  • 第三方验证:在平台 fal 的实际生产测试中,高置信度标记内容有 72% 属于此前未收录的 CSAM;在 SafetyKit 针对涉及儿童的动漫测试中,检出率达 90%,对合法成人内容的误报率则低于 1%。

ChatGPT 上线实时劝阻与账号封禁机制

除了后端拦截,OpenAI 在 ChatGPT 中加入了直接干预机制。当用户尝试检索或生成侵害材料时,系统将阻断操作并弹出警告,明确指出相关行为的危害与违法风险。

ChatGPT 警告用户账号将被暂停使用 24 小时并提供专业支持

触发警告后,相关对话将被删除,用户账号将被封禁 24 小时,界面同时提供当地专业求助渠道。屡次违规者将面临永久封号或被移交司法机关。该干预方案由 OpenAI 联合 Protect Children、Lucy Faithfull 基金会等多家心理学与预防研究机构共同设计。

赋能开发者与执法调查机构

在开发者生态层面,OpenAI 联合行业组织发布了 CSAM 指南,为不同阶段的企业提供违规追溯、举报与审核流程参考。此外,OpenAI 还与 Anthropic、Google 共同委托科技联盟发布了应对 AI 系统中儿童侵害披露的处置规范。

针对一线执法人员,OpenAI 正在提供专属分析工具与技术培训,帮助调查人员高效梳理海量聊天记录、构建案件时间线,并在减少直接接触敏感图像的前提下加快办案进度。

标签:OpenAI儿童安全ChatGPT

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

自己动手做模型:ML Intern 低成本定制小模型实战
置顶

自己动手做模型:ML Intern 低成本定制小模型实战

微软和Meta收紧Claude:被削掉的是入口,不是模型
置顶

微软和Meta收紧Claude:被削掉的是入口,不是模型

前途科技前途科技
服务关于快讯技术商业报告
微信咨询二维码

咨询微信

扫码添加微信咨询

前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费
置顶

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费

//

24小时热榜

材料科学智能体系统MatOS开源,支持科研资产持续进化
TOP1

材料科学智能体系统MatOS开源,支持科研资产持续进化

0p3n41联手四家独立机构 启动首阶段嵌入式安全评估
TOP2

0p3n41联手四家独立机构 启动首阶段嵌入式安全评估

3

OpenAI 推出销售专用版 ChatGPT,整合超 30 款第三方插件

4小时前
OpenAI 推出销售专用版 ChatGPT,整合超 30 款第三方插件
4

OpenAI报告:ChatGPT助科研提速近两倍

11小时前
OpenAI报告:ChatGPT助科研提速近两倍
5

OpenAI发布新版Astra for Law法律专用模型

4小时前
OpenAI发布新版Astra for Law法律专用模型
6

LVMH 媒体部门与 OpenAI 达成战略合作

4小时前
LVMH 媒体部门与 OpenAI 达成战略合作
7

OpenAI 推出新型 CSAM 图像分类器,免费向机构开放

4小时前
OpenAI 推出新型 CSAM 图像分类器,免费向机构开放
8

0p3n41 发布 GPT-6.2:主打复杂专业工作与低成本

4小时前
0p3n41 发布 GPT-6.2:主打复杂专业工作与低成本
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断