AI预测犯罪成真，英国研究“监视社会”

美国导演史蒂芬·斯皮尔伯格（Steven Spielberg）2002年的科幻电影《少数派报告》为世界展现了一个可以用科技预测潜在犯罪者的反乌托邦社会图景。在AI高速发展的今天，这样的“监视社会”可能正在变成现实。英国政府正在开发一项名为“谋杀预测”的项目，旨在利用掌握的个人数据，识别出最有可能成为杀人凶手的人。尽管英国政府对公众表示该项目的目的是提升公共安全，但是这仍然引发了个人信息保护、AI偏见等多方面的担忧。批评者认为这种“监视社会”，“令人毛骨悚然、充满反乌托邦色彩”。

英国少数派报告

该项目最初被命名为“凶杀预测项目”（Homicide Prediction Project），但现已更名为“共享数据以改善风险评估”。根据揭露这一项目存在的倡议团体Statewatch的说法，英国司法部的研究人员正在使用算法来分析成千上万人的信息，其中包括犯罪受害者的数据，试图找出那些最有可能实施严重暴力犯罪的人。Statewatch解释称，该项目将使用未被定罪者的数据，包括自残相关的个人信息和家庭暴力的细节。

英国政府则坚决否认这一说法，声称项目仅使用至少有一次刑事定罪的人员数据。英国司法部坚称，该项目目前仍处于研究阶段。该计划将“审查提高凶杀风险的犯罪者特征”，并“探索用于凶杀风险评估的替代性和创新型数据科学技术”。一名英国政府发言人强调了项目可能带来的正面效果，该项目将“为改善严重犯罪的风险评估提供依据，并最终通过更好的分析来保护公众”。

该项目是在里希·苏纳克（Rishi Sunak）担任首相期间由首相办公室委托开展的，所使用的数据来源包括缓刑服务（Probation Service）以及2015年前的大曼彻斯特警察局（GMP）犯罪数据。处理的信息类型包括姓名、出生日期、性别和种族，以及用于识别警察国家计算机系统中人员的编号。其中使用的无罪人员及曾向警方求助者的数据也是司法部与大曼彻斯特警察局数据共享协议的一部分。

在一节名为“需由警方与政府共享的个人数据类型”的条目中，协议列出了各种类型的刑事定罪，但也包括了普通个人首次作为受害者（包括家庭暴力）的年龄，以及第一次与警方接触时的年龄。此外，还有一些列入“特殊类别个人数据”的信息也将被共享，包括“被认为具有重要预测价值的健康标志”，如心理健康、成瘾、自杀倾向、脆弱性、自残以及身心障碍等数据。

“凶杀预测项目”并非孤例

英国政府的“凶杀预测项目”并非AI应用于犯罪预测领域的首例。早在2010年，在那个AI技术尚未被世界熟知的时代，加州大学洛杉矶分校（UCLA）的科学家与洛杉矶警察局就合作开发了一款名为PredPol的数据分析系统。该系统被用于预测特定时间段内某社区可能发生犯罪的地点。目前，美国超过60个警局正在使用这套系统。据称，PredPol预测的准确率是人类分析师的两倍——但这一说法尚未被独立验证。

卡内基梅隆大学的计算机科学家丹尼尔·尼尔（Daniel Neill）与威尔·戈尔（Will Gorr）在2018年也开发了一款名为CrimeScan的犯罪预测软件。他们认为，暴力犯罪在地理分布上像是“可传染的”，往往会在某些地区集聚爆发。同时，轻微犯罪可能是更严重暴力事件的前兆。因此，他们的算法引入了大量“领先指标”数据：例如普通攻击、故意破坏、扰乱治安的案件报告，911报警记录（比如有人看到武器或听到枪声），以及某些时间和季节趋势。此外，模型还会追踪暴力犯罪的长期和短期发生率。

不过PredPol和CrimeScan都避免触及“谁会犯罪”的问题，而是集中于预测“犯罪会在哪里发生”的问题。然而，这种方法仍然引发了大量争议。美国公民自由联盟（ACLU）、布伦南司法中心以及多个民权组织均指出：若算法基于历史警察执法数据，可能制造“反馈循环”——让偏见自我复制，进一步加剧对某些社区的标签化。

“AI预测犯罪”的问题在哪里？

正如Statewatch的研究员索菲娅·莱尔（Sofia Lyall）所言：“反复有研究表明，犯罪预测的算法系统存在根本缺陷。”复制社会中的偏见，一直是AI使用中难以解决的问题。无论是PredPol、CrimeScan还是英国司法部的“凶杀预测项目”都无法避免这一内在问题。莱尔表示：“‘凶杀预测项目’的模型使用了来自体制性种族主义的警方和内政部的数据，只会进一步加剧和强化刑事司法系统中根深蒂固的结构性歧视。”

莱尔对这类系统表达了担忧：“像这种系统一样，它将不可避免地对少数族裔和低收入社区产生偏见。构建一个将人自动归类为暴力罪犯的工具本身就极其错误，而且对心理健康、成瘾和残疾等敏感数据的使用也极具侵犯性和令人担忧。”

英国司法部则回应称：“该项目仅用于研究目的。所用数据均来自英国监狱和缓刑服务以及警方掌握的有定罪人员的信息，旨在帮助我们更好地理解缓刑人员再次实施严重暴力行为的风险。相关研究报告将在适当时候公布。”根据英国司法部官员的说法，监狱与缓刑系统本就使用风险评估工具，此项目将检验通过引入警方和羁押数据等新数据源，是否可提升风险评估的效果。

图片来源于网络

iWeekly周末画报独家稿件，未经许可，请勿转载