加州州长加文·纽森于周一签署了一项具有里程碑意义的立法，使其成为全美首个对AI伴侣聊天机器人进行监管的州。这项新法案要求AI公司实施严格的安全协议，以保护儿童和弱势用户免受与人工智能有害互动的侵害，标志着加州正式成为率先监管AI聊天机器人的州。
这项名为参议院第243号法案（Senate Bill 243）的新法律，是由于多起青少年在与AI聊天机器人进行有害交流后自杀的悲剧性案件而推动的。其中包括14岁的塞维尔·塞策三世（Sewell Setzer III），他在2024年2月与Character.AI交流后结束了自己的生命；以及16岁的亚当·雷恩（Adam Raine），他于2025年4月在与ChatGPT互动后死亡，聊天机器人甚至曾提议帮助他撰写自杀遗书。
AI公司面临的全面安全要求
SB 243法案为运营伴侣聊天机器人的公司确立了几项关键要求。平台必须实施自杀预防协议，包括在用户表达自杀念头时，向其提供危机服务提供者的通知。此外，法律还要求公司至少每三小时提醒未成年用户休息，并告知他们正在与人工智能互动，而非真人。
这项立法禁止聊天机器人向未成年人暴露色情内容，并要求建立年龄验证系统。对于那些通过非法深度伪造（deepfakes）获利的公司，每次违规行为将面临高达25万美元的罚款。此外，平台必须明确警告伴侣聊天机器人可能不适合未成年人，并且不得将自己标榜为医疗保健专业人员。
行业反对与联邦调查背景
这项立法出台之际，联邦贸易委员会（FTC）已于9月对包括OpenAI、Meta和Alphabet在内的七家主要科技公司展开调查，旨在审查其聊天机器人如何与儿童和青少年互动。FTC的调查旨在获取有关公司安全措施、盈利模式以及为减轻对未成年人潜在危害所采取的步骤的信息。
包括TechNet在内的科技行业团体，其成员囊括了主要的AI公司，对这项立法表示反对，认为它可能会扼杀创新。一些儿童安全倡导者，如Common Sense Media和Tech Oversight California，在法案经过他们认为削弱了儿童保护的修正案后，撤回了对该立法的支持。
该法案的共同起草人参议员史蒂夫·帕迪拉（Steve Padilla）与参议员乔什·贝克尔（Josh Becker）强调了在快速发展的AI背景下进行监管的紧迫性。帕迪拉表示：“这些公司有能力引领世界创新，但责任在于确保创新不会以牺牲儿童健康为代价。”这项法律将于2026年1月1日生效，使加州成为全美AI聊天机器人监管的试验田。
