Anthropic 给 METR 六名研究员发了公司电脑:类员工级访问、可自行发布评估结论,Anthropic 只能要求删改三类信息

Anthropic 于 10 月 15 日宣布,非营利 AI 评测机构 METR 的六名研究员已入职式接入:获得公司配发的电脑、办公位,以及大致与 Anthropic 内部风险评估团队相当的内部工具和系统权限,Anthropic 也鼓励员工像对待同事一样向他们分享信息。METR 将自行发布对 Anthropic 风险水平、事故与做法的分析,Anthropic 无权否决发布,只能在客户数据、律师与客户特权信息、模型架构信息这几类预先约定的范围内要求删改,METR 可以公开评价这些删改是否合理。Anthropic 同时公布三级评估者体系:第一级做窄范围调查、发布需 Anthropic 同意;第二级可不经同意发布;第三级即 METR 这种类员工访问,目前只有 METR 一家。SecureBio 正在审阅其 8 月风险报告的化学与生物武器章节,与埃森哲旗下 Faculty 的合作仍在推进,与 Hugging Face 等机构处于早期讨论。

六个人,一套员工权限

10 月 15 日,Anthropic 宣布非营利评测机构 METR 的六名研究员已经完成「入职」:他们拿到 Anthropic 配发的电脑和办公位,内部工具和系统的权限大致与 Anthropic 自己的风险评估团队相当。Anthropic 还鼓励员工像对待做对齐风险工作的同事一样,向他们分享信息。

Anthropic 把这种安排比作监管机构向大型银行派驻常驻检查员。参与的只是 METR 的一个小团队,受可执行协议约束,与 METR 其他员工隔离。

谁说了算:发布权在 METR

关键条款是发布权。METR 会自行发布对 Anthropic 风险水平、事故和做法的分析,Anthropic 不能否决,只能在三类预先约定的信息上要求删改:客户数据、律师与客户特权信息、模型架构信息。METR 可以公开说明删了什么类型的内容、是否认为删得合理,只是不能透露被删的内容本身。

三级评估者

Anthropic 同时公布了一套分级:

  • 第一级:范围较窄的风险调查,给什么权限由 Anthropic 决定,结论须经 Anthropic 同意才能发布;
  • 第二级:拿到更多信息,可不经同意发布,删改规则同上;
  • 第三级:类员工访问,目前只有 METR。

SecureBio 正在审阅 Anthropic 8 月风险报告中的化学与生物武器章节;本站 9 月报道过的与埃森哲旗下 Faculty 的嵌入式评测合作仍在推进;与 Hugging Face 等机构的合作还在早期讨论。

还看不到的部分

公告没有写合作期限,也没有说明 METR 第一份报告何时发布。这套安排能不能起作用,要等 METR 真正发出一份 Anthropic 不愿看到的结论、以及它对删改的公开评价时才能判断。

via: Anthropic 官方公告、TechCrunch 报道