错抓是怎么发生的
案情的荒诞之处在于距离：当事人与案发地隔着上千公里，只因人脸识别系统给出了一个「相似」结果，后续的人工核查环节集体放行，逮捕就这么发生了。这类案件的模式高度一致：算法给出概率性的匹配，执法链条却把它当成了确定性的指认，本该兜底的人工审核在「机器都说了」的心理下形同虚设。美国已有多起同类冤案进入诉讼，受害者以少数族裔居多，识别系统在不同人群上的错误率差异是公开的研究结论。
问题不在技术在流程
值得说清楚的是，人脸识别的支持者和批评者其实共享一个判断：匹配结果只该作为线索，不该作为逮捕依据。冤案的直接原因从来是流程把「线索」用成了「证据」。可行的约束并不神秘：匹配结果必须配合独立证据、审核人员要培训算法局限、错误率按人群披露、受害者有追责通道。一些城市已经立法限制或禁用，更多地方还在裸奔。每一起这样的报道，都是给立法进度条充电。
via: Hacker News