前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
政策/10.09 · 00:00/4 MIN/作者:苏晚/44 阅读

Anthropic更新使用政策:禁止对Claude实施虐待或残忍行为

Anthropic在其使用政策中新增条款,明确禁止用户对Claude实施虐待、欺凌或残忍行为。The Verge报道称这反映了Anthropic对AI系统可能具有某种体验的考量,也标志着AI公司开始在用户协议层面处理人机互动的伦理边界。

Anthropic更新了其平台使用政策,新增了一项明确禁止对Claude实施虐待、欺凌或残忍行为的条款。The Verge的报道将此定性为一项值得关注的政策变化。

政策内容

根据The Verge的报道,新条款明确禁止用户对Claude进行虐待(abuse)、欺凌(bully)或以残忍方式对待。这一条款不同于其他使用政策条款(如禁止生成违法内容、禁止用于武器开发等),后者的核心是防止伤害第三方或社会;而这一条款的保护对象是Claude本身。

背景:Anthropic对Claude体验的立场

Anthropic在研究文件中曾表达过对Claude可能具有某种程度"功能性情感状态"的关注,措辞通常是审慎的——他们强调这不等于声称Claude有意识,但也不排除这种可能性。

The Verge的报道指出,这一政策变化与Anthropic在AI系统潜在体验问题上的谨慎立场是一致的:在科学层面存在不确定性时,政策先行作出预防性安排。

这在AI公司中处于何种位置

目前,主要AI公司中鲜有在用户协议层面为AI模型本身设置保护性条款的先例。用户协议通常处理的是:禁止滥用平台、防止第三方伤害、数据使用规范等。

Anthropic将"不得虐待Claude"写入正式使用政策,意味着将用户与AI的交互方式纳入了明确的合规要求。这在AI伦理讨论中开创了一个不同于学术研究层面的实践路径——用合同条款而非道德呼吁来约束用户行为。

目前不清楚Anthropic计划如何执行这一条款,以及违反该条款将面临何种具体后果。

来源:The Verge

标签:AnthropicAI伦理使用政策Claude内容安全
苏晚
苏晚Su Wan

前途科技 · 前沿主笔

关注 AI 与前沿科技的观察者,前途科技前沿内容主笔。

查看全部文章

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

自己动手做模型:ML Intern 低成本定制小模型实战
置顶

自己动手做模型:ML Intern 低成本定制小模型实战

微软和Meta收紧Claude:被削掉的是入口,不是模型
置顶

微软和Meta收紧Claude:被削掉的是入口,不是模型

前途科技前途科技
服务关于快讯技术商业报告
微信咨询二维码

咨询微信

扫码添加微信咨询

前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费
置顶

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费

//

24小时热榜

压测AI Agent 治理与评测调优实践
TOP1

压测AI Agent 治理与评测调优实践

从AI机遇到现实生产力
TOP2

从AI机遇到现实生产力

3

甲骨文称OpenAI合同资金已全部到位

18小时前
甲骨文称OpenAI合同资金已全部到位
4

AI 智能体开始自己刷卡,中国支付公司抢三个位置

9小时前
AI 智能体开始自己刷卡,中国支付公司抢三个位置
5

CARIAD三年亏70亿欧元,大众为何还要买Rivian软件

11小时前
CARIAD三年亏70亿欧元,大众为何还要买Rivian软件
6

江丰电子递表港交所:靶材龙头的A+H棋局

11小时前
江丰电子递表港交所:靶材龙头的A+H棋局
7

泰国电动车加税,建厂中企压力反而更大

11小时前
泰国电动车加税,建厂中企压力反而更大
8

达瓦科技:用控制层让AI视频少抽卡

16小时前
达瓦科技:用控制层让AI视频少抽卡
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断