Meta 开放人工智能模型用于美军

Meta 的开源大型语言模型家族 Llama，并非传统意义上的“开源”，但它可以免费下载和构建，而国防机构正是其中之一。

路透社最近的一篇报道详细介绍了中国研究人员如何利用 Llama 模型对军事记录进行微调，以创建用于分析军事情报的工具。Meta 的公共政策主管称这种使用方式“未经授权”。但三天后，Meta 的公共事务总裁尼克·克莱格宣布，Meta 将允许 Llama 用于美国国家安全。

哈佛大学伯克曼·克莱因互联网与社会中心研究员本·布鲁克斯表示：“这表明，围绕这些模型设置的许多安全措施都是灵活的。”

Meta 并非唯一一家急于支持美国国防的企业

路透社的调查发现，中国军事科学院的研究人员使用了 Meta 的 Llama 大型语言模型的 130 亿参数版本来开发 ChatBIT，这是一种用于军事情报分析和决策的 AI 工具。这是解放军将开源 AI 模型用于国防目的的第一个明确证据。

Meta 告诉路透社，ChatBIT 违反了该公司的可接受使用政策，该政策禁止将 Llama 用于（除其他事项外）军事、战争、间谍活动以及核工业或应用。然而，三天后，克莱格却吹嘘 Meta 对美国国防工业的支持。

这是一个奇怪的转变，因为任何军方使用 Llama 似乎都违反了 Llama 的可接受使用政策。虽然 Meta 无法执行其政策——其模型不需要授权或身份验证即可使用——但该公司对军事使用的立场一直是反对的。

今天仍然如此，但仅限于美国以外的军队。Meta 发言人告诉《IEEE Spectrum》，Llama 的条款没有改变；相反，该公司“正在为美国政府及其支持其工作的公司放弃军事使用政策”。

Meta 并非唯一一家突然需要支持美国国防的企业。Anthropic 的 Claude 3 和 Claude 3.5 模型将被国防承包商 Palantir 用于筛选秘密政府数据。与此同时，OpenAI 最近聘请了前 Palantir 首席信息安全官 Dane Stuckey，并任命了美国退役陆军上将 Paul M. Nakasone 为其董事会成员。

布鲁克斯说：“所有 [主要 AI 公司] 都热切地表明他们对美国国家安全的承诺，因此 Meta 的反应并不令人惊讶。我认为，如果开放的 AI 模型可供潜在对手使用，而 [国内] 却对国家安全或国防有严格的限制，那将是一个奇怪的结果。”

AI、国防和监管的未来是什么？

虽然 Meta 决定将 Llama 提供给美国政府可能有助于批准的军事承包商采用它，但这并没有将开放的 AI 精灵放回模型中。正如路透社的报道所示，Llama 模型已经被军队使用——无论是否授权。现在的问题是：监管机构会对此做些什么？

“通过选择不保护其尖端技术，Meta 正在单方面地助长全球 AI 军备竞赛。” —加州科技与民主倡议高级政策顾问大卫·埃文·哈里斯

加州科技与民主倡议高级政策顾问大卫·埃文·哈里斯敦促对开放模型采取更强硬的立场。2023 年，《IEEE Spectrum》发表了哈里斯关于开放 AI 危险的文章。

哈里斯说：“通过选择不保护其尖端技术，Meta 正在单方面地助长全球 AI 军备竞赛。这不仅仅是来自 Meta 的顶级未经保护的模型。而是前三名。”他说，Meta 决定免费提供其模型类似于洛克希德·马丁公司将复杂的军事技术赠送给美国对手的想法。

布鲁克斯持相反观点。他说，开放模型更透明，更容易评估机会或漏洞。布鲁克斯将 Llama 与其他流行的开源软件（如 Linux）进行了比较，许多公司和政府机构都在此基础上构建定制应用程序。“我认为开源社区期望开放是敏感和受监管的 AI 应用程序的未来方向，”他说。

埃隆·马斯克加入战局

虽然哈里斯和布鲁克斯对监管开放 AI 持相反观点，但他们在一件事上达成一致：特朗普的当选胜利是一个未知数。

当选总统特朗普对 AI 的立场尚不清楚，但埃隆·马斯克——他在特朗普总统竞选期间多次与特朗普同台亮相，据报道对特朗普有很大影响力——是围绕新政府立场的不确定性的象征。

“选举结果可能会以不同寻常的方式重置对话。” —伯克曼·克莱因互联网与社会中心研究员本·布鲁克斯

马斯克拥有 AI 公司 Grok，他认为 AI 在本世纪末将比人类更聪明，但他支持加州的《前沿人工智能模型安全与创新法案》，该法案试图对 AI 研究进行广泛限制（但最终被州长加文·纽森否决）。如果这还不够混乱：虽然马斯克支持 AI 监管，但他更喜欢开放的 AI 模型，并且正在起诉 OpenAI，理由是（除其他事项外）该公司决定关闭对其模型的访问权限。

布鲁克斯说：“选举结果可能会以不同寻常的方式重置对话。加速主义文化将与反 AI 文化在新政府中发生冲突，这将非常有趣。”