六个人,一套员工权限
10 月 15 日,Anthropic 宣布非营利评测机构 METR 的六名研究员已经完成「入职」:他们拿到 Anthropic 配发的电脑和办公位,内部工具和系统的权限大致与 Anthropic 自己的风险评估团队相当。Anthropic 还鼓励员工像对待做对齐风险工作的同事一样,向他们分享信息。
Anthropic 把这种安排比作监管机构向大型银行派驻常驻检查员。参与的只是 METR 的一个小团队,受可执行协议约束,与 METR 其他员工隔离。
谁说了算:发布权在 METR
关键条款是发布权。METR 会自行发布对 Anthropic 风险水平、事故和做法的分析,Anthropic 不能否决,只能在三类预先约定的信息上要求删改:客户数据、律师与客户特权信息、模型架构信息。METR 可以公开说明删了什么类型的内容、是否认为删得合理,只是不能透露被删的内容本身。
三级评估者
Anthropic 同时公布了一套分级:
- 第一级:范围较窄的风险调查,给什么权限由 Anthropic 决定,结论须经 Anthropic 同意才能发布;
- 第二级:拿到更多信息,可不经同意发布,删改规则同上;
- 第三级:类员工访问,目前只有 METR。
SecureBio 正在审阅 Anthropic 8 月风险报告中的化学与生物武器章节;本站 9 月报道过的与埃森哲旗下 Faculty 的嵌入式评测合作仍在推进;与 Hugging Face 等机构的合作还在早期讨论。
还看不到的部分
公告没有写合作期限,也没有说明 METR 第一份报告何时发布。这套安排能不能起作用,要等 METR 真正发出一份 Anthropic 不愿看到的结论、以及它对删改的公开评价时才能判断。