攻击链的看点
研究者复盘的路径对每个搭 AI 应用的团队都是教材:典型的入口是提示注入加权限边界模糊，模型能访问的资源超出了它该有的范围，再叠加几处常规的 Web 安全疏漏，攻击者就能从一个看似无害的输入，一路摸到本不该暴露的内部数据和能力。麦肯锡处理的是客户的高度敏感信息，这种平台一旦被突破，泄露的代价难以估量。
大公司不等于更安全
这个案例最该破除的迷信是「大机构的 AI 系统必然更稳」。现实恰恰相反:企业争先恐后把 AI 塞进内部平台，速度压倒安全，而 AI 应用引入的攻击面（提示注入、过宽的工具权限、模型与数据的危险耦合）是传统安全团队不熟悉的新物种。研究者的公开披露走的是负责任路径，价值在于把抽象的风险变成可复现的案例。对所有上 AI 平台的组织，检查清单很明确:模型能调什么、看什么，注入测过没有，权限收到最小没有。这些问题现在问，比在事故报告里读到答案便宜。
via: Hacker News