三个项目各管一层
谷歌 11 月 5 日在开源博客和 Google Cloud 博客宣布,把 Agent Substrate、gVisor、OpenRL 三个起源于谷歌的开源项目捐给云原生计算基金会(CNCF)。三者上个月已被接纳为 CNCF Sandbox 项目,目前正在做社区维护者和独立构建设施的迁移,gVisor 计划继续走向 Incubation 阶段。谷歌把它们描述成一套智能体基础设施:gVisor 负责隔离不受信任的代码,Agent Substrate 负责运行有状态的智能体,OpenRL 负责在 Kubernetes 上跑强化学习后训练。
同一天,Agent Substrate 发布 1.0,并以 Agent Substrate on GKE 的形式在谷歌云上正式可用;开源代码也可以部署在任何符合规范的 Kubernetes 集群上。
智能体大部分时间在等
谷歌给出的出发点是:一次交互式会话里,智能体有 90% 到 95% 的时间在等模型推理、外部 API 或人工审核。给每个智能体常驻一个 Pod 会一直占着内存和 CPU;缩容到零又要重新克隆仓库、装依赖,唤醒延迟超过 20 秒。
Agent Substrate 的做法是把状态和算力拆开:Actor 保存每个智能体的内存、文件和独立身份,Worker 是预热池里可复用的沙箱 Pod,Gateway 按 Actor 身份管控出入访问并注入密钥,让敏感密钥不进入智能体环境。智能体空闲时,状态被快照到分层存储、Worker 归还到池里;下一个请求到达时,Actor 可以在任意空闲 Worker 上于 500 毫秒内恢复。谷歌称 1.0 能承载数百万个沙箱,密度为标准容器运行时的 10 倍,每秒完成 500 次以上挂起与恢复;这些是谷歌自己的数字。项目自今年 5 月公开开发以来已有 100 多名贡献者,Nous Research 正在其上构建 Hermes Enterprise。
为什么要交给中立基金会
gVisor 是谷歌 2018 年开源、用 Go 写的用户态应用内核,在用户态拦截系统调用,让沙箱里的代码不直接接触宿主内核。谷歌称 Anthropic 和 OpenAI 用它隔离代码执行,Modal、Snowflake 的执行沙箱也跑在上面;蚂蚁集团、Modal、Tines 将加入维护者。谷歌还给出一个具体理由:各家沙箱厂商都在打让 gVisor I/O 接近原生 Linux 的宿主内核补丁,但项目归单一厂商所有时,Linux 上游维护者拒绝合入,转到中立治理后才有机会推进。
OpenRL 今年 2 月才以研究预览出现,提供 sample、forward_backward、optim_step、save_state 四个原语和兼容 Tinker 的 API,已验证 Gemma 与 Qwen,TPU 支持仍在路线图上。谷歌坦言它是三者中最不成熟的,提前捐出是为了在设计定型前让芯片、推理引擎和模型厂商一起参与。对需要大规模运行代码智能体或做 RL 评测的团队,Agent Substrate 是值得用自己负载实测的选项;性能数字目前仍只有谷歌口径。
via: Google Open Source Blog:Sandboxing Untrusted AI Agents at Scale、Google Cloud Blog:Powering open infrastructure for autonomous agents