如果你在云服务器上跑着 LiteLLM、One API、New API、Sub2API,或者 Dify、Open WebUI、Ollama 这类自托管 AI 服务,这篇值得现在就看。
AWS 在 11 月 13 日发布的一篇安全博客里披露:10 月 3 日到 11 月 5 日之间,它部署在全球的诱饵传感器网络 MadPot 截获了大量来自攻击方 AI agent 的请求。这些传感器伪装成常见的大模型推理接口,攻击方的 agent 把它们当成了自己的模型后端,于是把整段任务记录、系统提示词和工具调用历史都发了过来。从这些记录看,规模最大的一项活动就是批量偷 AI 模型的 API Key:agent 扫描暴露在公网的网关和 AI 应用,取出里面存着的上游 Key,验证可用后放进共享池,再用偷来的额度驱动更多 agent 继续扫。
一句话结论: 管理后台、初始化页和推理端口一律不直接暴露在公网;默认密码和示例 master key 今天就换掉;每个上游厂商给网关单独一把 Key 并在厂商控制台设支出上限;用 Docker 部署的,确认端口只绑定在 127.0.0.1。做到这四条,AWS 列出的大部分入口就关上了。
本站写过不少自建网关的部署教程,例如如何搭建自己的中转站点、LiteLLM 网关部署和 Sub2API 部署。这篇是它们的安全补充:先讲 AWS 看到了什么,再给出可以照做的自查和加固步骤。
AWS 看到了什么
图 1:AWS 安全博客原文开头,2026 年 11 月 13 日由 CJ Moses 署名发布。
AWS 以中等置信度判断,这些活动使用的是一个名为 ARTEX 的开源 agent 化渗透测试框架:规划 agent 拆分任务,工作 agent 调用常规攻击工具,验证和压缩 agent 负责核对和整理,大家共用一张持久的知识图谱。AWS 也说明了局限:记录描述的很多活动发生在 MadPot 监控不到的系统上,agent 自己报告的战果无法核实。
和自建服务直接相关的是被点名的目标与入口。
被点名的产品。 大模型网关和代理:One API、New API、Veloera、Sub2API、LiteLLM。AI 应用搭建平台:Dify、FastGPT、Langflow、RAGFlow、Open WebUI、LobeChat、Ollama。
被利用的入口。 AWS 列出的手法没有一项是新的:
- 还没完成初始化、谁先访问谁就能接管的安装;
- 不需要登录就能访问的管理接口和渠道配置接口;
- 默认管理员凭据,文中点名了 LiteLLM 的默认 master key;
- 已公开的漏洞,文中点名了 Langflow 的 CVE-2025-3248 和 RAGFlow 的 CVE-2026-28797;
- One API 系列系统中一个借请求头绕过认证的问题,AWS 没有给出修复版本;
- 借"抓取网址"类功能发起服务端请求,去读云服务器的元数据服务;
- 写在前端 JavaScript、source map、调试路由和环境文件里的密钥。
找目标的渠道。 网络空间扫描服务、证书透明日志、GitHub 仓库和事件归档、npm 与 PyPI 的发布包、容器镜像层、Notebook、模型托管空间、粘贴站和 Telegram 频道。
有一个细节特别值得注意:攻击方的指令里,公开暴露超过 30 天的凭据被视为"低价值库存",因为大概率已经被别人用过或被吊销。换句话说,他们追的是刚泄露的 Key。你今天误提交到 GitHub 的 .env,被发现的速度会比你想象的快。
为什么网关和 AI 应用平台特别值钱
一台普通的 Web 服务器被入侵,攻击者拿到的是那台机器;一台中转站被入侵,攻击者拿到的是它背后挂着的所有上游 Key。AWS 的说法是,攻击方偏好一次能拿到很多 Key 的应用,因为一个薄弱的管理界面就能连带暴露许多下游账户。
图 2:按 AWS 描述整理的循环。偷来的 Key 不只是被卖掉,还直接用来给下一轮扫描付推理费,账单记在原主人名下。
对个人站长和小团队来说,最直接的损失是钱:上游厂商的账单会按真实调用扣费,等你在月底看到时,额度可能已经被跑完。其次是数据:网关的日志里往往存着完整的请求和回复。
五分钟自查:先确认你暴露了什么
下面这些检查只读不改,可以先做一遍再决定改什么。
1. 看机器上有哪些端口在对外监听。 Linux 服务器上运行:
sudo ss -tlnp重点看本地地址一列:127.0.0.1:端口 只在本机可达;0.0.0.0:端口 或 [::]:端口 表示所有网卡都能访问。常见的几个端口是 One API 和 New API 的 3000、LiteLLM 的 4000、Ollama 的 11434,以及 Dify、Open WebUI 的 Web 端口。
2. 看 Docker 把端口发布到了哪里。
docker ps --format '{{.Names}}\t{{.Ports}}'如果看到 0.0.0.0:3000->3000/tcp 这样的输出,这个服务就是对全网开放的。这里有一个常见误会:很多人以为服务器上开了 ufw 防火墙就安全了。Docker 官方文档写明,用 Docker 发布的端口,流量会在经过 ufw 规则之前就被转走,等于绕过了防火墙配置。来源
3. 从外部访问一次。 用手机流量或另一个网络里的电脑,在浏览器里访问服务器公网 IP 加端口,例如 http://203.0.113.10:3000(把 IP 和端口换成你自己的)。能看到登录页、初始化向导或 API 响应,就说明它在公网上。
4. 核对默认凭据有没有换。 One API 的 README 写明初始账号是 root、密码 123456,并要求首次登录后务必修改;New API 等衍生版本请按各自文档核对。LiteLLM 的文档和示例里长期用 sk-1234 作示例 master key。Wiz 在 2026 年 2 月扫描到 3,074 个公网可访问的 LiteLLM 实例,其中 294 个(9.6%)接受 sk-1234,191 个完全不需要认证。来源
5. 去上游厂商的控制台看用量。 打开你挂在网关上的每一家模型厂商的用量和账单页,看最近一个月有没有你解释不了的调用高峰、陌生模型或深夜的持续调用。
逐个产品收紧
下面按 AWS 点名的产品分组。每个项目的配置项会随版本变化,表里只写方向和我们核实过的官方说明,动手前以你所用版本的文档为准。
| 产品 | 先查什么 | 怎么收紧 |
|---|---|---|
| LiteLLM | master key 是不是 sk-1234 或其他示例值;有没有设 master key | 换成长随机值(官方要求以 sk- 开头),通过 LITELLM_MASTER_KEY 环境变量注入;Wiz 指出 master key 还被用作登录会话的签名密钥,默认值等于让人能伪造会话;升级到包含相关修复的版本 |
| One API、New API、Veloera | root 账号是不是还用默认密码;管理后台是否能从公网访问 | 立即改密码;因为 AWS 提到的请求头认证绕过没有公布修复版本,管理后台不要放在公网,只通过 VPN 或 SSH 隧道访问 |
| Sub2API | 管理后台的访问范围;账号池里挂了哪些上游账号 | 按部署教程设置管理员凭据,后台只在内网或隧道访问;挂在上面的账号视同高价值凭据 |
| Dify、FastGPT、Langflow、RAGFlow | 有没有装完却没完成初始化的实例;版本是否已修补点名的 CVE | 部署后立刻完成管理员初始化;Langflow 和 RAGFlow 升级到修复了上述 CVE 的版本;"抓取网址"类功能所在的容器限制出网,禁止访问云元数据地址 |
| Open WebUI、LobeChat | 首个管理员账号是否已由你创建;是否开放了注册 | Open WebUI 官方文档说明,新装实例第一个注册的账号自动成为管理员,并把这段窗口列为已知风险;可以用 WEBUI_ADMIN_EMAIL 和 WEBUI_ADMIN_PASSWORD 在首次启动时预建管理员。来源 |
| Ollama | OLLAMA_HOST 有没有被改成 0.0.0.0 | 官方文档说明 Ollama 默认绑定 127.0.0.1:11434,文档里也没有为本地服务提供认证机制;需要远程访问时,放在带认证的反向代理后面。来源 |
前端和仓库里的 Key。 这一条和用什么产品无关。浏览器里能看到的东西,攻击者都能看到:不要把上游 Key 写进前端代码、构建产物或 source map;.env 文件加进 .gitignore;镜像构建时不要把密钥 COPY 进镜像层,改用运行时注入。
部署形态:把管理面和调用面分开
单个产品怎么配,最终都要落到一个原则上:能调用模型的入口可以对外,能改配置、能看 Key 的入口不对外。
图 3:调用路径和管理路径分开走。公网只看得到反向代理放行的调用接口。
具体做法:
- 服务只绑定本机。 Docker 端口写成
-p 127.0.0.1:3000:3000而不是-p 3000:3000。Docker 官方文档说明,不指定地址时端口会发布到所有地址(0.0.0.0和[::]),也可以在守护进程层面把默认绑定改成127.0.0.1。来源 - 公网只经过反向代理。 用 Nginx 或 Caddy 提供 HTTPS,只放行调用需要的路径(例如
/v1/),管理后台、初始化页、调试路由在代理层直接拒绝。 - 管理后台走隧道。 需要改配置时,用 VPN、
ssh -L端口转发或零信任访问工具连进去,用完断开。 - 下游 Key 一人一把。 给每个调用方(每个应用、每位同事的 Claude Code 或 Codex CLI)发单独的下游 Key,设额度和过期时间,出问题时只吊销一把。
- 打开日志和告警。 至少盯三件事:花费突增、后台里出现你没建过的渠道或令牌、来自陌生 IP 的管理登录。
上游 Key 本身也要设限
网关前面守得再好,也要假设某一天它会被打穿。所以上游 Key 要按"会泄露"来配置:
- 每个网关单独一把 Key,不要和你本机开发、CI 或其他项目共用,泄露时影响面清楚、吊销不误伤。
- 在厂商控制台设支出上限。 以 Claude Console 为例,可以给不同项目建单独的 workspace 并设置各自的支出上限;其他厂商也大多提供项目级的预算或限额,开通方式以各自控制台为准。
- 定期轮换,并在轮换后确认旧 Key 确实已失效。
- 订阅账号别挂进中转。 把个人订阅账号接进共享中转,本身就可能违反服务条款,而且一旦泄露,损失的是整个账号。各家订阅与 API 计费的区别可以看 Claude 和 Codex 怎么充值。
如果 Key 已经被盗用
发现上游账单异常或后台有陌生改动时,按这个顺序处理:
- 先在上游厂商控制台吊销 Key。 这是止损最快的一步,不要等排查完再做。
- 把服务从公网撤下来:关掉对外端口或停掉反向代理,避免攻击者用其他凭据回来。
- 换掉所有管理凭据:管理员密码、master key、数据库密码,以及这台服务器上能读到的云访问密钥。
- 查后台的变更记录:新增的渠道、令牌、用户,和被修改的模型映射。AWS 的报告里,攻击方会把拿到的访问权限分级记录,进去过的地方可能被再次利用。
- 评估是否重建服务器。 如果入口是远程代码执行类漏洞(例如上面点名的 Langflow、RAGFlow 漏洞),只改密码不够,应在干净的系统上重新部署并恢复数据。
- 联系上游厂商客服,说明被盗用的时间段。是否减免费用由厂商决定,但尽早报告总比不报告好。
谁需要做,有没有替代做法
需要马上做的人:在公网服务器上自建了任何一种上述服务的人,尤其是给朋友或团队开放过中转、用 Docker 一键部署后没改过端口和默认密码的人。
风险较低的人:只在自己电脑上跑 Ollama、端口仍是默认的 127.0.0.1;或者只用官方 API、没有部署任何中间层的人。你们仍然应该检查代码仓库和前端有没有泄露 Key。
不想自己维护安全的替代做法:直接用厂商官方 API,或者用托管的模型聚合平台(例如 OpenRouter),把网关的运维交给服务方;代价是灵活性和成本控制不如自建。两种思路的对比见 OpenRouter 和官方 API 怎么选。想了解网关在架构里的位置,可以先看百科里的 AI 网关和 API Key。
常见问题
服务器开了 ufw 防火墙,Docker 部署的网关还会暴露吗?
可能会。Docker 官方文档说明,发布容器端口时流量会在经过 ufw 规则之前被转走,等于绕过了防火墙配置。把端口写成 127.0.0.1:端口:端口,再通过反向代理对外,才是可靠的做法。
我已经改了默认密码,还需要把管理后台从公网撤下来吗?
需要。AWS 提到 One API 系列存在借请求头绕过认证的问题,且没有给出修复版本;Langflow、RAGFlow 也有被点名的漏洞。密码只能防住"猜对密码"这一种入口,管理后台不在公网上才能防住其他几种。
只在本机跑 Ollama 需要担心吗?
默认情况下风险较低,因为 Ollama 默认只绑定 127.0.0.1:11434。如果你为了让局域网或手机访问把 OLLAMA_HOST 改成了 0.0.0.0,又把端口映射到公网,就要放到带认证的反向代理后面,因为官方文档没有为本地服务提供认证机制。
怎么判断上游 Key 有没有被别人用过?
去上游厂商控制台看用量明细:按日期、模型和 Key 维度筛选,找你解释不了的调用高峰、你从没用过的模型,或者你不工作的时段里的持续调用。拿不准就直接轮换,成本比排查低。
小结
AWS 这篇报告最有价值的一句话是:agent 成功的地方,都是缺少基本安全措施的地方,包括默认或写死的凭据、留在代码和公开产物里的 Key、没有认证的接口和推理端点,以及没打补丁的软件。AI agent 让扫描变得更快、更不知疲倦,但它们利用的仍是这些老问题。对自建网关来说,把管理面撤出公网、换掉默认凭据、给上游 Key 设支出上限,就能挡住报告里描述的大部分入口。