试验发现亚马逊最新的AI面部识别错误匹配率高 还存在种族歧视

AI 图像识别技术早就成为了当下各大科技公司争相开发的主要领域。继谷歌、微软等公司之后,亚马逊很快也带来了最新的AI图像识别系统--Amazon Rekognition,旨在为开发者提供深度学习服务。

然而，让人们疑虑重重的是，该技术可以让政府甚至私企在任何有摄像头的地方追踪民众，一般来说，身处公开场合的人不存在任何对隐私的合法期望，他们可以被拍照，行踪也可以被记录，但是Rekognitio出现带来的高曝光度还是让人不寒而栗。

近日，ACLU（美国公民自由联盟）对亚马逊的面部识别系统进行了测试，结果并不尽如人意。为了测试该系统的准确性，ACLU使用亚马逊公开的Rekognition API，对535名国会议员的脸和25000张公众头像进行了对比识别扫描。试验设计议员们的照片没有混合在25000张公众照片中，但亚马逊系统的测试结果产生了28对错误匹配，ACLU表示一发现引起了人们对Rekognition系统被警方使用后公众安全的严重担忧。

ACLU在一份声明中表明:“一份Rekognition识别下的身份证明，无论它是否准确，却有可能会让人们失去自由，甚至失去生命。国会必须认真对待这些威胁，及时颁布禁令，禁止执法人员使用亚马逊Rekognition面部识别系统。”

亚马逊的一位发言人将这一结果归因于糟糕的校准技术。ACLU的测试是使用Rekognition的默认置信阈值80%进行的，但亚马逊表示，根据标准要求，Rekognition至少需要95%置信阈值，而其中一个错误的ID可能会产生更严重的后果。

亚马逊的发言人表示：“虽然80%的置信阈值对于像热狗、椅子、动物这类结构趋于一致的物品照片来说，识别准确率已经足够，但用来识别具有特异鲜明个人特征的人脸，这并不合适。”而Rekognition并没有在使用设置过程中强制执行95%及其以上的阈值，所以他们也不能阻止执法机构使用默认设置，选择权在执法人员手里。

早在今年5月，ACLU发布一份报告已经显示，亚马逊的系统现在被多家执法机构使用，其中包括奥兰多警方的实时识别试点试验中。作为亚马逊网络云服务的一部分，这款软件非常便宜，通常一个月下来运营费不到12美元。后来，在奥兰多的试验过程完成后，该执法部门自然而然地继续选择了使用该系统。

ACLU的最新实验是针对亚马逊Rekognition系统与位于俄勒冈州的华盛顿县治安部门的合作进行设计的，他们将照片与多达30万张照片的数据库进行对比。

这项测试还显示出系统识别存在着种族偏见的迹象，这是许多面部识别系统长期存在的问题。在28个错误匹配中，有11个错误是识别了不同肤色的人(约占39%)，其中包括民权领袖、民主党众议员约翰·刘易斯和另外5名国会黑人核心小组成员。而国会议员中只有20%是有色人种，这表明错误匹配率对有色人种的影响要大得多。之前NIST的面部识别供应商测试也发现了这一人种差异，他们的显示结果，对于女性和非裔美国人的面部识别测试的错误率始终较高。

有人说，在没有匹配的数据库上运行人脸识别可能是失败的原因，但这种客观条件与现有的面部识别系统每天面对的实际情况类似。伦敦警察厅所使用的系统，平均每运行一次就会产生多达49次错误匹配，这就要求警察们手动处理这些错误匹配。更重要的是，在匹配中，超过5%的受试者更容易触发某种特定类型的错误匹配，这表明部分人群被“歧视”对待。

实际上，大多数被面部识别出来的嫌疑人在被逮捕之前都要经过人类的确认，但批评人士说，这样的检查对于一个普通人来说也会造成伤害。斯诺说:“想象一下，一名警官在暗地里逮捕了一个人，确认身份后，却发现人找错了。不难想象这些错误信息在执法的一些危急关头会造成多么严重的后果。

该测试还引发了人们对Rekognition系统竟然能在如此宽松的监督体制下轻松部署在人们生活中的担忧。ACLU的所有数据都是从公众可获得的资源中收集的，包括25,000张面部照片(由于隐私的原因，该组织拒绝透露具体的来源，但许多州将照片作为公开记录)，而且亚马逊的系统还比那些非云端的产品便宜得多，ACLU的测试仅花费12.33美元。如此方便，但也如此可怕，人们的生活时时刻刻毫无成本地被暴露在这种高曝光率的监督之下。

这次试验已经引起了国会三名议员的强烈反应。测试公布后不久，参议员Markey、众议员Gutiérrez和DeSaulnier在一封致亚马逊首席执行官Jeff Bezos的公开信上签名，信中要求提供使用该技术的执法机构的完整名单，并询问在13岁以下儿童身上使用该技术的保障措施。

信中写道:“人们对面部识别可能对隐私和公民权利造成的危害提出了严重担忧，尤其是当它被用作政府监控的工具时。”