合作做了什么
按 Anthropic 的说法，它的红队（专门模拟攻击者寻找漏洞的安全团队）与 Mozilla 协作，借助 AI 能力对 Firefox 这类用户量巨大的基础软件做安全审查和加固。浏览器是攻击者最垂涎的目标之一，代码库庞大古老，任何一个漏洞都可能影响数亿用户。把 AI 辅助的漏洞挖掘能力对准这种关键软件，是个方向正确的尝试,让机器去读人类审查者读不完的代码角落。
信号与隐忧并存
这件事可以从两个角度读。乐观面:AI 实验室把自家的安全研究能力当作公共产品输出，加固开放网络赖以运转的基础设施，这是 AI 用于防守端的正面样本，比单纯炫耀「模型能挖漏洞」有意义。审慎面:同样的能力攻击者也在用，而且公开合作也是 Anthropic 塑造「负责任 AI 公司」形象的品牌动作，含一定营销成分。但抛开动机，结果是好的,关键软件多一层 AI 辅助的审查，总比没有强。值得期待的是这种「实验室帮开源加固」能否常态化，而不只是一次性的公关项目。
via: Hacker News