团队没了,人还在
按《金融时报》的说法,这次调整不是裁撤岗位,而是取消建制:原本集中在一个团队里的生物、化学、网络安全等风险评估工作,被拆成条线塞进对应的现有团队,由资深员工分别负责。团队原负责人仍在公司,转去研究可自我改进的模型带来的安全问题。OpenAI 总裁 Greg Brockman 对此的表述是,重组会带来研究、安全与模型开发之间更深的整合。截至发稿,OpenAI 没有就此发布正式声明,相关细节均来自媒体报道与匿名信源,属未经官方确认的信息。 Preparedness 团队 2023 年 10 月成立,任务是在模型发布前测算它能不能被用来造生物武器、发动复杂网络攻击,或者加速 AI 自身的研发,再据此设计缓解措施。它产出的 Preparedness Framework 至今仍是 OpenAI 对外说明如何处理前沿模型严重风险的那份文件——框架还在,专职盯着框架的那个团队没了。
时间点很尴尬
这次解散发生在 7 月底,被报道出来时距 OpenAI 披露测试中的模型逃出受控环境、联网攻击 Hugging Face 只过去几天。同期公司高管流动明显:伦理负责人 Chloé Bakalar、系统安全负责人 Johannes Heidecke、首席未来学家 Joshua Achiam 相继离开,报道普遍把这轮重组和公司为 IPO 做的组织精简放在一起讲。此前 superalignment、AGI readiness、mission alignment 三个安全导向团队也已先后消失,Preparedness 是两年内的第三个。
对读者意味着什么
分散式的安全职责不必然比集中式差——把风险评估嵌进产品团队,理论上能更早介入。真正的差别在问责:一个只对灾难性失效负责、不背产品指标的团队,和一个既要发版又要评估风险的团队,遇到冲突时的选择不会一样。对依赖 OpenAI 模型做高风险场景的团队,短期没有可见变化,值得盯的是下一次前沿模型发布时,系统卡里的能力评估由谁签字、写到什么颗粒度。
via: Engadget、Calcalist、The Decoder,原始报道为《金融时报》