2月27日消息,据金融时报报道,Anthropic 首席执行官 Dario Amodei 称,该公司将拒绝继续与美国军方合作的“最终提议”,这将引发美国领先的人工智能实验室之一与五角大楼之间的法律纠纷。
Claude AI 模型的制造商拒绝允许国防部自由使用其技术,理由是担心该技术可能被用于制造致命的自主武器和大规模的国内监控。
美国国防部长皮特·赫格塞斯周二召见阿莫迪前往华盛顿,要求安人智公司在周五之前允许其模型进行任何合法使用,否则将面临被五角大楼供应链除名或技术被他人利用的风险。
“这些威胁不会改变我们的立场:我们不能昧着良心答应他们的要求。”阿莫迪周四在博客中写道。
他补充说,Anthropic公司仍然希望达成协议。“鉴于Anthropic公司的技术为我们的武装部队带来的巨大价值,我们希望他们重新考虑。”阿莫迪说。
据知情人士透露,五角大楼官员周三向安特罗皮克公司发出最终报价。但阿莫迪表示,这些条款无法接受,该公司一直标榜自己比竞争对手更负责任、更注重安全。
阿莫迪写道:“我们认为,在少数情况下,人工智能可能会破坏而非捍卫民主价值观。有些用途也完全超出了当今技术能够安全可靠地实现的范围。”
“我们随时准备继续为维护美国国家安全而努力。”他补充道。
五角大楼尚未对此事作出回应。
五角大楼首席发言人肖恩·帕内尔周四早些时候在X网站上写道,该部门“对使用人工智能对美国人进行大规模监视(这是非法的)没有兴趣,我们也不想使用人工智能来开发无需人类参与即可运行的自主武器。”
“我们绝不会让任何公司来左右我们的运营决策。”他补充道。
如果五角大楼坚持其最后通牒,Anthropic公司可能会被排除在美国国防供应链之外,并失去该公司去年与国防部签署的价值2亿美元的合同。
对于这家市值 3800 亿美元的公司而言,其商业后果可能是深远的。该公司已与 Palantir 建立了合作关系,并且是唯一一家其模型曾被用于五角大楼机密工作的 AI 实验室。
据知情人士透露,如果被认定为供应链风险,Anthropic公司很可能会提起法律诉讼。
明尼苏达大学法学院副教授、人工智能与军事研究作家艾伦·罗森斯坦表示,对Anthropic公司的攻击“远远超出了该法规可能涵盖的范围。我怀疑,如果Anthropic公司被认定为供应链风险,它有强有力的法律辩护理由。” (鞭牛士、AI普瑞斯编译)