五角大楼因AI安全分歧考虑终止与Anthropic合同

五角大楼正在考虑终止与AI开发商Anthropic的合作关系，原因是双方在该公司Claude模型的军事使用问题上存在分歧。上个月在抓捕委内瑞拉领导人尼古拉斯·马杜罗的行动中部署了该技术的消息曝光后，这一争议更加凸显。

据路透社报道，国防部正在考虑终止与Anthropic的关系，因为该公司要求限制美国军方如何使用其AI技术。这份去年夏天授予的合同价值高达2亿美元，目前面临终止风险，双方在自主武器瞄准和国内监控等安全保障措施上仍然僵持不下。

据《华尔街日报》报道，在美国军方于1月从加拉加斯抓捕马杜罗及其妻子的行动中使用了Claude，这标志着AI模型开发者的技术首次被应用于五角大楼的机密行动。该AI是通过Anthropic与Palantir Technologies的合作伙伴关系部署的，Palantir的平台被国防部和联邦执法机构广泛使用。

Anthropic拒绝确认Claude是否被用于该行动，并表示其技术的任何部署“必须遵守他们的使用政策”，该政策明确禁止助长暴力、开发武器或实施监控。

在国防部长皮特·赫格塞斯提出在军事行动中全面整合人工智能的激进愿景后，争议愈演愈烈。在1月于得克萨斯州发表的演讲中，赫格塞斯宣布五角大楼将打造一支“人工智能优先的作战部队”，并表示：“我们不会采用那些不允许你打仗的人工智能模型”。

赫格塞斯批评了他所谓的对军用人工智能的“觉醒主义”限制，称国防部将采用“没有意识形态限制、不妨碍合法军事应用”的技术。他发表这番言论之际，五角大楼正在推动包括OpenAI和Anthropic在内的人工智能公司，要求它们在限制更少的情况下，在机密网络上提供其工具。

Anthropic首席执行官Dario Amodei公开表达了对AI被用于自主致命行动和国内监控的担忧，这正是合同谈判中的两个核心症结所在。该公司一直寻求合同保证，确保其技术不会被部署用于在没有人类监督的情况下选择和打击目标的武器系统，也不会被用于监控美国公民。

Anthropic在一份声明中表示，其AI“被美国政府广泛用于国家安全任务”，并且该公司“正在与国防部就继续这项工作的方式进行富有成效的讨论”。