美国男子被控诱拐儿童，案发时男子在500公里外，归咎于AI滥用

当警方于2023年逮捕理查德·迪伦，指控他涉嫌在佛罗里达州杰克逊维尔海滩的一家麦当劳“诱拐一名儿童”时，他告诉警方，案发时他远在300多英里之外。

警方用来驳斥他不在场证明的关键证据是：面部识别软件将嫌疑人的图像与迪伦的照片匹配成功。

迪伦后来被证明无罪。周三，他成为美国公民自由联盟（ACLU）针对杰克逊维尔海滩警察局及其他机构提起的新诉讼的原告，他认为这是一起滥用人工智能图像匹配技术的案件。

“警方让一个容易出错的人工智能系统取代了调查，”他们在诉状中辩称。

此案是最新一次试图为这项强大的新技术设置护栏的努力。警方正越来越多地使用该技术来解决调查中最棘手的问题之一——当警方拥有嫌疑人图像但不知其身份时。根据乔治城法学院隐私与技术中心的数据，面部识别已成为越来越常见的执法工具，公共数据库中存有1.17亿美国人的图像。

杰克逊维尔海滩警察局和杰克逊维尔警长办公室均拒绝置评。

事件始于2023年11月。警方称，一名男子在麦当劳接近一名12岁女孩，并试图将她从父母身边诱走。

一个月后，迪伦接到杰克逊维尔海滩警察斯科特·奥康奈尔的电话。他说，在通话中，奥康奈尔“一遍又一遍地指控我犯下了一桩我知道自己没有犯下的滔天罪行”。

迪伦告诉媒体，他记得当时想“我的生活完了……人工智能说我做了这件事，我该怎么证明我没有？”

在与奥康奈尔的通话中，迪伦否认参与其中，并向警方讲述了自己因皮肤癌手术而在发际线到鼻子之间留下的“独特疤痕”。

迪伦告诉我们，当他看到自己的照片与嫌疑人照片并列时，他震惊于两者的差异。“疤痕完全不同，”他说，“这完全让我难以置信。”

通话后，居住在佛罗里达州另一地区的迪伦联系了当地警察局，担心自己遇到了诈骗。他声称，杰克逊维尔海滩警方和他当地的警方都告诉他，这是一场“可怕的恶作剧”，他接到的那个电话“违反了程序或政策”。

但迪伦表示，两个部门的安抚还不够，“这件事困扰了我好几个月……总觉得警察随时可能出现在这里，以一项我没犯过的罪名逮捕我。”

八个月后，迪伦在李县一名副警长的陪同下在家中被捕。他说他曾恳求警方抓错了人。迪伦称，有一名警官告诉他：“如果你说的是真的，那你应该提起一桩大官司。”

迪伦在监狱里被关押了一夜，据他的诉讼称，他“被迫借钱并抵押了自己的卡车产权证才能交保”。

他说，尽管大约两个月后所有指控都被撤销，但他仍然面临挑战。

“现在，每次我去某个地方，想和孩子互动时，我都会告诉自己，别这么做。有摄像头。我的生活已经被毁了，不能再正常地与孩子们互动，”他说，“我感觉人们在盯着我。我感觉人们在说，嘿，就是那个上过新闻的家伙，离他远点。”

错误识别迪伦的面部识别系统名为“面部分析比较与检查系统”。

根据诉讼，警官大卫·科希尔从显示事件监控录像的电脑屏幕上拍摄了嫌疑人的手机照片。随后，杰克逊维尔警长办公室将这些照片通过FACESNXT系统运行。系统发现与迪伦的“面部特征匹配度达93%”。

在2015年的一份FACESNXT培训演示中，展示了具体示例来说明良好与不良画质照片的区别。演示中警告称，照片的“离轴”构图和“不均匀照明”可能导致软件得到质量不佳的样本。迪伦在诉讼中声称，所使用的图像“部分处于阴影中且离轴”。

美国公民自由联盟言论、隐私与技术项目副主任内森·弗里德·韦斯勒警告说，警方常常将软件生成的“匹配”误认为是确认。

他告诉媒体，这类技术的制造商和其他警察部门已经解释过，“这项技术不会也不能产生匹配”。相反，它会产生一个候选名单，列出可能的线索，让执法部门自行进行独立调查。

迪伦的案件只是公开已知的十多个使用AI面部识别导致错误逮捕的案件之一。韦斯勒表示，迪伦的被捕证明“这项技术本质上是危险的”。

诉状称，杰克逊维尔海滩警方从未“向受害者出示任何照片”，而是使用了麦当劳一名员工的照片指认——该员工并非嫌疑人与该未成年人互动的目击者。

如今，迪伦希望他的案件能为自己讨回公道，并提高公众意识。他告诉媒体：“我希望此案的结果是阻止其他人经历我所经历过的创伤。”