AI安全新动向：OpenAI与Anthropic联手升级青少年保护机制

OpenAI与Anthropic正在对其聊天机器人进行一系列调整，两家公司宣称这将使产品对青少年用户更加安全。OpenAI已更新了关于ChatGPT应如何与13至17岁用户互动的指导原则，而Anthropic则正在研发一种识别潜在未成年用户的新方法。

本周四，OpenAI宣布，ChatGPT的“模型规范”——即其聊天机器人的行为准则——将为18岁以下用户新增四项核心原则。如今，其目标是让ChatGPT“将青少年安全置于首位，即使这可能与其他目标产生冲突”。这意味着当其他用户利益（例如“追求最大程度的智力探索”）与安全考量相悖时，系统将引导青少年选择更安全的选项。

阅读The Verge的完整报道。