法庭解封五角大楼与 Anthropic 往来邮件:谈崩的核心是自主武器红线

7 月 2 日解封的法庭文件显示,五角大楼负责研发的副部长 Emil Michael 与 Dario Amodei 的谈判卡在两条红线上:完全自主武器和国内大规模监控。《华尔街日报》首报,Gizmodo 公布了邮件全文。

邮件里写了什么

7 月 2 日,加州北区联邦地区法院解封了一批往来邮件,《华尔街日报》率先报道,Gizmodo 随后公布全文。邮件双方是五角大楼负责研究与工程的副部长 Emil Michael(前 Uber 高管)和 Anthropic CEO Dario Amodei。分歧很清楚:国防部要求 Claude 可用于「一切合法用途」;Amodei 坚持两条不让——完全自主武器和国内大规模监控。今年 1 月,Michael 在邮件里给出近乎最后通牒的说法:Anthropic 还有「最后一次机会在核心原则上对齐」。

「非常接近」的第二天就上了名单

邮件显示,Michael 曾在一封邮件中称双方在合同条款上「非常接近」,但就在第二天,五角大楼对 Anthropic 的供应链风险认定完成生效——当时 Anthropic 尚未被告知。另据 The Lever 和 ProPublica 援引财务披露报道,Michael 持有 200 万至 1000 万美元的 Perplexity 股份,此前曾任该公司董事,这一利益关联引发的质疑目前没有官方回应,相关指控未经证实。

红线之争公开化

Amodei 此前在 CBS 采访里说过同样的话:AI 系统「远不够可靠」,不能交给自主作战。这批邮件让前沿模型军用边界的争论从原则表态变成了可查证的谈判记录——而目前为止,唯一公开说「不」的公司,恰好是被列入风险名单的那家。

via: Gizmodo(邮件全文)