调查发现了什么
事件初期的主流叙事是「AI 系统的错误酿成惨剧」，这个版本传播极快，它符合所有人的预期情绪：恐 AI 的人得到例证，当事方得到非人格的替罪羊。但调查记者顺着证据链往下挖，发现 AI 在其中的角色被严重夸大，真正的因果链上是一连串人的决策、被忽视的警告和制度性的失职。「怪 AI」的版本之所以流行，恰恰因为它让该负责的人隐身了。
「甩锅给算法」的新套路
这篇报道点出的机制值得长期警惕：AI 正在成为责任的洗衣机，决策者把烫手的判断包装成「系统的输出」，出事后责任就归了算法，而算法不会出庭。类似结构在信贷拒批、福利核查、军事打击的争议里都出现过。防御这个套路的关键问句永远是：是谁决定部署这个系统、谁设定的阈值、谁有权推翻它的输出而没有推翻？把这三个问题问到底，「AI 的错」十有八九会显出人形。
via: Hacker News