网信办征求意见：可能影响未成年人认知的 AI 服务须走未成年人模式，禁向未成年人提供虚拟伴侣

9 月 18 日，国家互联网信息办公室公开了《国务院关于保障未成年人健康安全使用网络的规定（征求意见稿）》，面向社会征求意见。据 IT之家转载的全文，草案依据《未成年人保护法》《网络安全法》《个人信息保护法》起草，共 25 条。

哪些服务不能向未成年人提供

草案第四条列出五类禁止提供的服务：陌生人网络社交（十六周岁以上、以自己的劳动收入为主要生活来源的未成年人除外）；虚拟亲属、虚拟伴侣等虚拟亲密关系服务；诱导沉迷等危害或可能严重影响身心健康的服务；向未满十六周岁的未成年人提供网络直播发布服务；以及法律、行政法规明确的其他服务。

第八条要求平台建立算法机制机理审核、科技伦理审查等制度，且不得设置诱导未成年人用户情感依赖、沉迷以及过度消费等的算法模型。

哪些服务必须走“未成年人模式”

第五条规定，向未满十六周岁的未成年人提供下列服务，应当通过未成年人模式提供：音视频、直播发布服务之外的其他网络直播服务，以及网络游戏服务；网络社交服务，包括微博客、论坛社区、群组、朋友圈、私信、跟帖评论等；“可能影响未成年人认知的人工智能服务”；其他可能对未成年人有重要影响的网络服务。草案没有对“可能影响未成年人认知的人工智能服务”作进一步界定。

平台需要具备未成年人用户识别能力，可综合使用法定身份证件、国家网络身份认证公共服务、非存储式一次性人脸核验、行为特征识别等方式（第六条）。发现未成年人用户出现自残自杀等威胁生命健康的极端情境，应采取必要措施干预，并及时联络监护人或紧急联系人（第七条）。

终端、备案与罚则

智能终端制造者要设置未成年人模式联动、一键切换、退出核验、防绕过等功能；应用分发平台要从严审核未成年人模式下上架和更新的应用（第十条）。提供未成年人模式的终端制造者和网络服务提供者，需向省级网信部门备案；用户数量巨大、影响显著的平台，要通过省级网信部门向国家网信部门备案并提交使用情况报告，备案材料每年核验。移动智能终端的未成年人模式还将纳入电信设备进网许可检测（第十二条）。

罚则方面，违反第四条、第五条等规定的，由有关部门责令改正、给予警告、没收违法所得；违法所得 100 万元以上的，并处一至十倍罚款，没有违法所得或不足 100 万元的，并处 10 万至 100 万元罚款，拒不改正或情节严重的可责令停业整顿、关闭应用、吊销许可证（第十八条）。按草案文本，第十八条至第二十条列明的罚则条款里没有第八条（算法要求）；第二十一条另有兜底规定，其他违规情形依照相关法律处理。

接下来看什么

IT之家转载的内容没有写明意见反馈的截止时间，草案第二十五条的施行日期也留空。第二十四条提到，网信部门可会同有关部门适时调整第四条、第五条所列的服务类型，最终文本如何界定“人工智能服务”，是后续需要看的细节。