IR Zen

(SeaPRwire) –   AI公司Anthropic表示，无法接受五角大楼提出的“最佳且最终”提议，以解决该公司针对美国军方使用其AI模型所设定的相关问题。在周五截止日期仅剩数小时之际，若不遵守五角大楼的要求，Anthropic可能会被禁止与任何和美国军方有业务往来的公司开展业务，这场争端变得愈发丑陋。

五角大楼官员公开质疑Anthropic首席执行官Dario Amodei的品格。与此同时，竞争对手AI实验室的员工签署了公开信支持Anthropic的立场。据Axios报道，OpenAI首席执行官Sam Altman在周四的一份备忘录中告诉员工，OpenAI在谈判将ChatGPT的使用范围从目前军方的非敏感用例扩展到更多机密领域时，将推动与Anthropic相同的对自主武器和大规模监控的限制。

Anthropic与五角大楼的冲突现在可能演变成AI公司技术人员对其构建的AI系统如何被军方使用的全行业反抗。据报道，周四，Google的100多名员工致信公司首席科学家Jeff Dean，要求对Google的Gemini AI模型在美国军方的使用施加类似限制。

周四，Amodei发表了一份声明，解释为何公司认为应对其AI技术在自主武器和大规模监控方面的使用施加限制。这是Anthropic目前在合同条款和直接内置到Claude模型的安全措施中限制军方使用其模型的两个领域。五角大楼希望取消这些限制，并要求Anthropic同意美国军方可以“出于任何合法目的”使用其模型。

Amodei在声明中写道，前沿AI系统“不足以可靠地为完全自主武器提供动力”，且在没有适当监督的情况下，它们“无法像我们训练有素的专业士兵每天所展现的那样，做出关键判断”。关于监控，他认为，强大的AI现在可以将单独看似无害的公共数据（如位置记录、浏览历史和社交关系）拼接成任何美国公民生活的全面画像。

美国战争副部长Emil Michael在社交媒体平台上发帖回应称，Amodei是“骗子”，有“上帝情结”，并指责这位首席执行官想要“亲自控制美国军方”。在另一条帖子中，Michael还将Anthropic的Claude Constitution（一份概述公司内置到AI中的价值观和原则的内部文件）描述为一项企业阴谋，旨在“将其公司法律强加给美国人”。

五角大楼要求Anthropic在周五下午5:01前移除其反对的合同限制，否则将面临与美国军方的2亿美元合同被取消，或更极端的措施——被贴上“供应链风险”标签，这将有效禁止任何与军方有业务往来的公司使用Anthropic的技术。

这种措施通常是针对外国对手的公司，如中国的或俄罗斯网络安全公司Kaspersky。

“因国内公司不愿在这类原则问题上让步而对其采取这种措施，确实是相当升级且前所未有的，”剑桥存在风险研究中心执行董事Seán Ó hÉigeartaigh告诉。

战争部还威胁要援引冷战时期的《国防生产法》，以政府认为Claude对国家安全至关重要为由，迫使Anthropic交出不受限制的Claude版本。如果五角大楼真的这样做，它将使用仅用于紧急情况的权力来解决和平时期的合同纠纷。这方面有一些先例：拜登政府在2023年也曾援引DPA，迫使前沿AI实验室提交其AI模型的安全信息。但强迫公司生产产品（而非仅仅提供信息）更接近于对领先科技公司的国有化。

“如果他们被有效胁迫，允许其技术以他们自己都认为在战场等生死攸关的高风险情况下不可靠的方式使用，那将树立一个非常危险的先例，”Ó hÉigeartaigh说。

战争部公开表示，无意进行大规模监控或从武器瞄准决策中移除人类，但争端可能取决于双方在实践中如何定义“自主”或“监控”。该部门代表未立即回应的置评请求。

Anthropic的一位发言人告诉，公司正继续“真诚地”与战争部接触。然而，该发言人表示，隔夜收到的合同条款在核心问题上“几乎没有进展”。被“描述为妥协”的新条款“附带了可以随意无视这些安全措施的法律术语”。Amodei称战争部的威胁“本质上是矛盾的”，因为“一方面将我们贴上安全风险标签；另一方面又将Claude列为国家安全的必需品”。

Anthropic因愿意坚持立场而赢得了一些方面的赞扬。哈佛法学院教授Lawrence Lessig称赞该公司的声明是“正直和原则的美好体现”，并称之为“我们这个时代极为罕见的”。

竞争对手OpenAI和xAI已同意五角大楼的合同，允许其模型用于所有合法目的，xAI更进一步，同意在一些机密环境中部署其系统。但竞争对手实验室DeepMind和OpenAI的330多名现任员工也发表了支持Anthropic的公开信，敦促各自的领导层效仿该公司。“他们试图用对方会屈服的恐惧来分裂每家公司。这种策略只有在我们不知道其他人立场的情况下才会奏效，”信中写道。签署者包括两家公司的资深研究科学家以及知名和匿名研究人员。

Ó hÉigeartaigh表示，这场争端的结果可能远远超出Anthropic本身。“如果五角大楼在这场争端中占上风，将树立对这些公司的独立性或其坚持道德标准的能力不利的先例，”他说。