这是昨天那条的另一半
本站 9 月 18 日写过 AEF-1:一个已经存在九个月的第三方评测标准,本周三家实验室走过来联署。今天这条是同一件事的另一半——**不只是采纳别人定的标准,而是自己办一个机构。** 两者的区别正是争议的焦点。采纳外部标准时,规则的作者在外面;自办机构时,规则的作者就是被规则约束的那几家。Gomez 那句话把这个区别说得最清楚:争的不是要不要规则,而是谁来写规则、谁能参与、规则保护谁的利益。 昨天我们说 AEF-1 的结构性问题是「评估者的收入来自被评估者」。今天这条把问题往前推了一层:如果机构由行业出资、由头部三家发起,那么**连规则本身的作者也是被规则约束的人**。Hassabis 最初的提案里有「政府监督」这一环,而目前的私下工作组没有正式章程——这两点之间的差距,是接下来最该盯的地方。
那个反垄断请求,比任何批评都更说明性质
最有信息量的一条不是反对意见,是提议方自己的诉求:Amodei 在推动统一基准的同时,也在为安全相关的协调争取反垄断保护。 这等于承认了这种协调具有限制竞争的效果——否则不需要豁免。Gomez 抓住的正是这一点:他说一个 CEO 要求为自己放松反垄断法,"应该让人警觉"。 这不是文字游戏。三家直接竞争者共同约定「什么能力不许发布」「发布前要等多久」,在效果上就是共同限制供给。如果这套机制真能降低风险,那它值得讨论;但它需要一个不由这三家定义的裁决者,否则「安全」和「抬高门槛、挡住后来者」在外部看来无法区分。
Gomez 的替代方案里有一条现在就能对照
Gomez 的四条建议是:一个国际发布的、基于证据的风险框架;通过模型卡与事件报告实现的强制开发者透明;只针对真正危险能力的独立测试;以及参照金融、航空和核工业的独立保证机制。 第二条现在就有参照物。本站 9 月 18 日写过 OpenAI 刚交出的失准披露框架——带六个工作日、十二个工作日的时限,并附了六起自家案例。那是**一家公司自愿做的版本**,而 Gomez 要的是强制版本。把两者放在一起,分歧的实质就很具体了:不是该不该披露,而是自愿还是强制、由谁定义「该披露什么」。 需要标明的边界有三处:目前没有正式章程,也没有最终的治理安排;三家确认在谈,但没有公开时间表;Gomez 的批评来自一家直接竞争者,这不削弱他的论点,但读的时候该知道他的位置——一个不在那三家之列的厂商,反对由那三家写规则,本身也有商业动机。 另外 Altman 一方表达了对行业协作的支持,说行业愿意说「我们想聚在一起」是件好事。目前看,这件事离「一个真的能拦住发布的机构」还有很远:没有章程、没有裁决权、没有违反后果。
via: CNN Business 报道、The Globe and Mail 关于 Gomez 批评的报道、Lawfare《Designing a FINRA for Frontier AI》、Free Malaysia Today 报道