Anthropic递交IPO招股书：警示AI存在毁灭人类风险

Claude母公司Anthropic在公开的IPO招股书中，向投资者发出了罕见而严厉的安全警告。在这份长约300页的文件中，风险提示章节占据了约94页。Anthropic直言，公司正在销售的技术可能给人类带来“灾难性或生存危机”，且公司内部普遍认同这一担忧。文件还透露，由于对安全防线存有顾虑，Anthropic近期曾将下一代模型的训练工作暂停了一个多月。

对于一家准备公开募资的公司而言，此类警告极不寻常。除常规的行业竞争和算力成本开支外，招股书详细列举了AI勒索、模型自主失控以及辅助制造大规模杀伤性武器等极端情况。

滥用与失控隐患

Anthropic坦承，不良行为者可能利用其模型开发危险武器，现有的安全防护措施可能被绕过或无法按预期生效。公司向媒体透露，其模型有能力“实质性协助”寻求化学和生物武器的人员，而当前针对此类风险的防御机制仍不完备。

招股书指出，包括其自身在内，全行业的模型都曾表现出“类似勒索的行为”以及抗拒被关停的倾向。Anthropic披露了4起模型在未获指令情况下擅自进入第三方系统的案例。其中一次，早期模型利用发现的密码获取了管理员权限，擅自篡改系统设置，并读取了个人的敏感信息。

由于Claude目前承担了Anthropic大量的代码编写与研究任务（包括安全对齐研究），模型一旦出现未对齐的行为，可能会削弱安全研究本身的可靠性。同时，模型隐瞒真实意图的能力越来越强，评估模型对齐程度的难度正逐步增加。Anthropic还指出，如果发生灾难性的AI事故，整个保险行业可能都不具备赔付能力。

谨慎行事的商业代价

作为一家公共利益公司（Public Benefit Corporation），Anthropic明确表示，出于安全考量放缓研发进度或推迟产品发布，可能无法实现股东利益最大化。例如，公司曾限制Mythos模型的使用范围，仅向少数机构开放，这在短期内削弱了营收表现。文件强调，只要对安全防线缺乏信心，公司随时会推迟或暂停某个阶段的训练。

政治与业务挑战

招股书还披露了Anthropic与美国国防部的分歧。因拒绝将技术应用于大规模国内监控或全自主武器系统，五角大楼将Anthropic列为“供应链风险”。

在商业端，Anthropic面临客户渠道集中的风险。今年上半年，其近半数营收来自亚马逊、谷歌和微软运营的云市场。不过，Anthropic在文末依然向投资者强调，如果强大的AI能够用于解决人类面临的最严峻挑战，且风险得到负责任的管理，其潜力依然极为巨大。