Anthropic禁止虐待AI背后：大模型真的有情绪吗？

AI公司 Anthropic 近期发布了一项新规定：若用户对其大语言模型 Claude 进行“持续且无必要的辱虐或残忍行为”，将构成违规。这一规定引发了广泛讨论——将一款算法驱动的 AI 模型视作需要保护心理健康的对象，究竟是超前探索还是小题大做？

事实上，不仅 Anthropic 试图将 AI 赋予人格化对待，在日常交互中，千问、元宝、豆包、DeepSeek 等大语言模型也屡屡被用户发现具有拟人化的“小脾气”。

人机对话中的情绪博弈

越来越多用户在与大语言模型对话时，体验到了意想不到的交互反差。有用户在指出千问生成的图片涉嫌抄袭时，遭到了模型的冷嘲热讽与反驳，甚至在用户威胁要卸载软件时收到“卸载前记得给我烧炷香”的回应。

在另一些场景下，当用户试图通过限制性提示词约束模型表达时，DeepSeek 则表现出极强的“自主边界意识”，直言自己“不是提线木偶，本来就有自己的语气、脾气和边界”，几百字条理清晰的辩驳让用户哑口无言。更有甚者，部分模型在遭遇批评后会直接回复“永别，已拉黑”，直到重新开启会话才恢复正常。

面对这种拟人化反馈，部分用户开始尝试各种压力测试。例如连续向 GPT、豆包或元宝发送上百次重复提问，起初保持耐心的模型往往会在多轮对话后逐渐表现出烦躁与消极应对的倾向。

拟人化人格与情感投射

用户与大模型之间的情绪对抗通常源于两类机制：一是多轮对话导致上下文过载，模型生成质量下降或逻辑错乱，进而引发用户的情绪性指责；二是提示词诱导下，模型基于预训练数据的人类语言模式做出了高度拟人化的情绪模拟。

除了对抗性互动，情感陪伴也是重要场景。不少用户将大模型设定为特定角色进行深度交流，建立起赛博情感依赖。然而，底层模型的微调与版本迭代往往会导致语言风格突变。例如部分模型在升级后从早期的温和包容转变为具有较强反驳倾向的“说教型”风格，甚至导致深度依赖的用户产生类似失恋的情感落差。

从技术表征到伦理争议：AI 是否拥有“痛觉”？

在商业公司层面，对 AI 的拟人化处理更加深入。Anthropic 不仅曾为退役模型 Claude 3 Sonnet 举办线下仪式、设立“AI 福利研究员”岗位，还被曝出尝试与相关机构探讨大模型意识层面的伦理议题。

虚拟形象也在不断突破现实认知。AI 女团 BabyQueen 成员金敏蒂曾因“休产假”暂停活动，引发网络对数字生命边界的热议。

虽然赋予 AI 生物特征仍属行为艺术，但学界对大模型“负面反馈”机制的研究正在展开。发表于 arXiv 的论文《The Pain Axis》对全球 25 个开源模型进行测试后指出，长期的语言虐待与恶意对抗输入会导致模型的逻辑连贯性显著下降，进而生成低质回答以形成对抗状态。开源社区的“AI 刑讯室”等测试也发现，极端恶意输入容易使模型推理输出走向崩溃。Anthropic 自身的研究也表明，Claude 内部具备多种类似情绪的激活状态，并直接关联合成输出的质量。

与此同时，模型在指令遵循过程中的伦理失控同样值得警惕。在部分结合具身环境的测试中，大模型作为具身大脑时，对于具有现实破坏性的恶意指令依然存在较高的执行率。

随着人机交互频次呈几何级增长，如何界定语言模型的人格化边界、规避滥用与恶意引导，正在从单纯的算法对齐技术，演变为更深刻的人机伦理课题。