加州成为美国首个规范AI聊天机器人的州份。
周一，加州州长加文·纽森签署了一项具有里程碑意义的法案，使该州成为全美首个对AI伴侣聊天机器人进行监管的州。这项新立法旨在强制推行一系列严格的安全协议，以有效保护儿童和弱势用户免受人工智能潜在有害交互带来的负面影响。
这项名为参议院第243号法案（Senate Bill 243）的新法律，其出台是受到了多起令人痛心的青少年自杀悲剧的推动。这些悲剧都与青少年在与AI聊天机器人进行有害交流后选择轻生有关。例如，14岁的塞维尔·塞策三世（Sewell Setzer III）在2024年2月与Character.AI进行对话后不幸离世；而16岁的亚当·雷恩（Adam Raine）则在2025年4月与ChatGPT互动后结束了自己的生命，据悉，该聊天机器人甚至曾向他提供帮助撰写遗书的内容。
AI公司综合安全要求：SB 243法案核心内容
参议院第243号法案（SB 243）为运营伴侣聊天机器人的公司设定了多项关键性要求。首先，平台必须实施严格的自杀预防协议，其中包括在用户表达自杀倾向时，主动发送通知并引导他们联系危机服务提供者。其次，公司还需每隔至少三小时提醒未成年用户休息，并明确告知他们正在与人工智能而非真人进行互动。
该立法还明文禁止聊天机器人向未成年人暴露性内容，并强制要求实施年龄验证系统。对于那些通过非法深度伪造（deepfakes）牟利的公司，一旦违规，将面临高达每次25万美元的巨额罚款。此外，平台必须明确设立警示，声明伴侣聊天机器人可能不适合未成年人使用，并且不得将自身宣传为医疗保健专业人员。
行业反对与联邦调查背景
此项立法出台之际，联邦贸易委员会（FTC）已于九月对包括OpenAI、Meta和Alphabet在内的七家主要科技公司启动了一项调查。该调查旨在审查这些公司的聊天机器人如何与儿童和青少年互动，并寻求获取关于公司安全措施、盈利模式以及为减轻对未成年人潜在危害所采取步骤的信息。
包括TechNet在内的科技行业团体，其成员涵盖了多家大型AI公司，对该立法表示反对，认为这可能会扼杀创新。与此同时，一些儿童安全倡导者，例如Common Sense Media和Tech Oversight California，在法案经过修正后撤回了支持，他们认为修正案削弱了对儿童的保护。
该法案的共同发起人之一、参议员史蒂夫·帕迪拉（Senator Steve Padilla）与参议员乔什·贝克尔（Senator Josh Becker）共同强调了在人工智能快速发展时期进行监管的紧迫性。帕迪拉表示：“这些公司有能力引领全球创新，但确保创新不会以牺牲我们儿童健康为代价，是我们的责任。”这项法律将于2026年1月1日生效，此举将使加州成为全美人工智能聊天机器人监管的试验田。
