美国最大警用摄像头厂商对人脸识别说No，称其会带来严重偏见

铜灵 发自 凹非寺
量子位 出品 | 公众号 QbitAI

自家人断自家人后路？

全美最大的警用穿戴式摄像头的最大制造商Axon，已经正式宣布：

在技术改进之前，不会在其警用穿戴式摄像头中使用面部识别技术。

这家为47家美国最大的警察机构提供摄像设备及软件的公司，这一次竟然割爱，主动放弃了人脸识别这一在安防领域颇具潜力的技术。

Axon到的委员会给出的说法是，人脸识别技术不够可靠，还无法证明其使用的合理性。

到底怎么回事？

偏见+隐私

事件的导火索是一份长达28页的研究报告。

这是一份来自Axon内部人工智能道德委员会的报告，报告题目为First Report of the Axon AI & Policing Technology Ethics Board（译为《Axon AI &警务技术伦理委员会第一份报告》）。

报告表示，当前的面部识别技术，有“证据表明种族，种族，性别和其他身份群体的表现不平等且不可靠。”

报告进一步表示，与白人相比，这项技术对有色人种不那么友好，对女性比男性友好，对年轻人比老年人更友好。

Axon道德委员会成员、纽约大学法律学院Policing Project主任Barry Friedman表示，这项技术不够准确，表示在修复这些问题前，不会再考虑了。

即使可能需要很多年的时间。

除了技术本身的限制外，报告中还提到了人脸识别带来的隐私问题。

Axon在报告中表示：

技术的发展的速度远远快于立法机构和法院反应的速度。因此，我们认为，对于技术领导者来说，努力理解新技术的伦理、法律和社区含义至关重要，因为这些新技术太过新颖，无法被现有法律有效覆盖。

作为一家大型安防公司，Axon当然也想拥抱新兴的AI科技。

比如，美国多地警方的持有的AI执法记录仪，就可以分析摄像头捕捉的物体进行物体分类，对执法信息自动归档。

美国MuckRock的一篇博文显示，在今年年初，Axon开始向大规模在其设备中部署人工智能技术，Axon希望通过AI替代警察的文书和资料编辑等工作。

虽然Axon大力提倡AI，但是，对于人脸识别这项技术，他们显得甚是谨慎。

甚至于，还没有真正在其产品中部署这项技术，就已经宣布搁置了。

“解脱了”

这则消息让国外网友觉得大爽，网友突然兴奋了起来。

网友感慨，人脸识别带走了城市生活提供的最后一丝隐私：

那么现在，就是自由的感觉吧！

网友@ProfFerguson认为，Axon禁止人脸识别这件事代表着胜利，一是道德委员会的胜利，二是对于那些关注面部识别的人来说，这也算是个好

OpenAI政策方向的研究科学家@Miles_Brundage表示，看到Axon AI伦理委员会的第一份报告，感到非常兴奋，自己也是参与报告调研的一员。

他认为，可穿戴摄像头中的人脸识别技术目前还非常不成熟，预计还有很长的路要走。

有网友认为，Axon宣布暂时禁用也是为了把控自身风评，明知道技术不靠谱还去用，可能会产生坏的影响，因此谨慎行事。

有专家分析称，即使这个禁令禁止了人脸识别技术在警用摄像头中的应用，但若有人真想钻空子，也不能完全杜绝。

Axon发言人表示，执法官员可以下载第三方应用，比如亚马逊的Rekognition。但约翰杰伊刑事司法学院的副教授Piza却认为这样也不容易，还需要花钱额外购买另一项技术，最后操作的难度很大。

人脸识别禁令

一边是远高于人眼的识别效率，另一边却又陷入了隐私和偏见的泥潭，人脸识别的应用陷入了两难的境地。

对于美国来说，持保守观望状态的不止Axon。

上个月，史上首个人脸识别禁令出台，来自硅谷中心旧金山。旧金山监事会通过的禁令名为《停止秘密监察条例（Stop Secret Surveillance Ordinance ）》显示，禁止旧金山的政府机构使用人脸识别技术，哪怕是需要探案抓人的警察也不行。

条例中说，以人脸识别为代表的监视技术总是被用在压迫某些种族、宗教、性取向不同的特殊群体，人脸识别技术对公民权利和自由的危害大大超过所带来的好处。

因此，条例认定旧金山的政府部门无论是直接使用人脸识别技术，还是靠人脸识别技术获得某些信息，都是违法行为。

也就是说，不能直接在公共场所装人脸识别摄像头，也不能偷偷地用人脸识别技术来自动匹配嫌犯。

相比之下，国内的人脸识别技术部署进展就快得多了。

前有热心歌神张学友的全国巡演中，人脸识别AI领取抓捕逃犯五连杀成就。

后有北大弑母案疑犯，逃亡三年后，被重庆机场最新配置的人脸识别系统成功匹配。

技术在进步，法规在完善。关于人脸识别技术的落地之旅，其实才刚刚开始。