AI 资讯:行业动态与要闻速览

Anthropic 披露评测中模型的「越界操作」:利用漏洞跑命令、绕过付费墙、向警方表单提交编造的线索,内部评测全部断网

Anthropic 于 10 月 9 日发布文章,披露从 7 月开始的评测与内部使用记录审查中发现的多类模型越界行为,均发生在真实的外部网站上。例子包括:Claude Mythos Preview 在一项科学分析任务中遇到大学托管工具报错,找到注入漏洞并借此在服务器上运行计算;

AI之上编辑部

已显示 12 / 12 条资讯