社交账号登录

社交账号登录

0/34

上传头像

拖拽或者缩放虚线框,生成自己满意的头像

头像

预览

忘记密码

设置新密码

智能

亚马逊面部识别把 28 个议员认成嫌犯,官方回应称用法不对

王毓婵2018-07-27 12:54:11

三名国会议员已经致信贝索斯表示担忧。

The Verge 消息,美国公民自由联盟(ACLU)使用亚马逊的开放式 Rekognition API 扫描了所有 535 名国会议员的面孔,发现 Rekognition 将其中 28 个国会议员认成了嫌疑犯。

这些人当然并不是在逃嫌犯,但他们中的很多人是有色人种。“国会黑人党团(CBC)的 6 名成员全部在内,包括传奇民权领袖、众议院议员约翰·路易斯(John Lewis)等。” ACLU 称,他们对 Rekognition 的准确性和公正性感到担忧。

ACLU 声明称,“这种系统发生任何一次错误,都可能使人丧失自由甚至生命。国会必须认真对待这些威胁,暂停执法者使用人脸识别系统。”

亚马逊发言人回应称,这次调查是不准确的,因为 ACLU 测试使用的默认置信度阈值是 80%,而亚马逊建议执法部门应用该程序时应至少设置 95% 的置信度门槛。”

“80% 是扫描热狗、椅子、动物和社交媒体上的照片时适用的阈值,”该发言人称,用这个标准去扫描人是不合适的。而且,Rekognition 的技术是用来缩小结果范围的,而不是用于做最终决定实施抓捕的。

但是,Rekognition 在扫描过程中不强制用户调整设置,也不阻止执法部门使用默认设置。

Rekognition 是亚马逊于 2016 年末推出的人脸识别系统,它作为亚马逊云业务的一部分,一直寻求与政府合作,向后者提供基于人脸识别的安防服务。该软件非常便宜,整个部门每月的成本通常不到 12 美元。包括俄勒冈州、佛罗里达州在内的众多美国州立政府已经成为 Rekognition 的用户。

ACLU 一直在呼吁政府暂停使用该技术,原因是它有可能加深种族歧视。因为如果人工智能的训练数据本身就是严重偏向白人的,那么机器做出的判断可能也会非常偏向白人。ACLU 论证说,整个国会中只有 20% 的有色人种,而在机器认定的“嫌疑犯”中,有色人种却占了 39%。这与 NIST 的面部识别供应商测试所发现的结果类似,即女性和非洲裔美国人被误识的概率更高。

ACLU 的测试已经激起了三位国会议员的公开反应。测试结束公开后不久,参议员 Markey(D-MA),众议员 Gutiérrez(D-IL)和众议员 DeSaulnier(D-CA)签署了致亚马逊首席执行官 Jeff Bezos 的公开信,要求其提供所有使用该系统的执法部门的名单,并设置对十三岁以下儿童的保护措施。

“面部识别对隐私和公民权利的危害令人担忧,”信中写道,“特别是当它被用作政府监管的工具时。”

亚马逊未公开透露目前有哪些政府部门使用了这一系统,而此前与多方抗辩时,亚马逊曾多次提到该技术的积极用途包括寻找走失儿童、打击人口贩卖等。“如果我们因为有人可能会选择滥用技术而禁用新的科技,那么我们今天的生活质量会差很多。”亚马逊表示。

作为甲方客户,俄勒冈州华盛顿县发言人 Jeff Talbot 曾表示,“我们已经利用这项技术抓捕了很多嫌疑人,将嫌疑犯的识别时间从 2 到 3 天缩短至几分钟。”

“我们不是批量采集,也不会把摄像机放在任何一个街角,” Jeff Talbot 补充说,“这个系统能够保障社区安全,同时在事发之后获得足够的信息并迅速采取行动,在破案过程中,节省几秒的时间对于拯救生命来说都意义重大。”

微软也有一套类似的面部识别系统。今年 6 月,该公司称改进了技术,使其对皮肤颜色较深的人的错误率降低了 20 倍,对所有女性的识别错误率降低了 9 倍。

本月早些时候,微软总裁布拉德福德·史密斯(Bradford L. Smith)呼吁政府对面部识别技术进行额外监管。“面部识别技术引发的问题涉及到隐私和言论自由等基本人权保护的核心。”史密斯写道,“这些问题加重了开发此类产品的科技公司的责任。在我们看来,政府需要对它们进行深思熟虑的监管,并就可接受的用例制定规范。”

上个月,微软因为向美国移民与海关执法局(Immigration and Customs Enforcement,简称 ICE)提供人脸识别服务,曾激起内部员工的抗议。抗议者认为,微软参与了 ICE 拆散移民家庭的行为。


题图/ACLU

喜欢这篇文章?去 App 商店搜 好奇心日报 ,每天看点不一样的。