标签：标准 变化 medium 测试 dea 加利福尼亚 人工智能 经历 内心
人工智能急速改变着我们生活的同时，也带来了另一些方面的问题，随之而来也出现研究这些问题的社会组织，算法正义联盟就是其中一个。
算法正义联盟是一个将艺术和研究相结合的组织，旨在阐明人工智能对社会产生的影响和危害。其使命是提高公众对人工智能影响的认识，为倡导者提供实证研究以支持各项活动，为受影响最严重的社区构建话语权和选择权，并激励研究人员、政策制定者和行业从业者减轻人们对人工智能的偏见和带来的伤害。
在美国反抗种族歧视运动如火如荼的同时，算法正义联盟也从技术的角度阐明了自己的看法，发出了一封紧急信。
算法正义联盟的家人们：
我们的内心有悲伤和哀悼，但也充满了正义的怒火。发生在乔治·弗洛伊德、布雷娜·泰勒、艾哈迈德·阿贝里、尼娜·波普和托尼·麦克达德身上的谋杀案，只是针对黑人、女性、儿童、变性人和非二元性别者无尽暴力行为中最新的一桩。
引自Joy Buolamwini的诗——《颈部压力》
我们同时也认识到，即使是在疫情期间，即使面对残酷镇压，席卷全国的大规模多种族动员浪潮仍具有强大的力量和可能性。世界各地的人们正动员起来，要求进行结构改革，投资黑人社区，并对美国警务工作进行深入和有意义的改革。
在经历了数百年的奴隶制、种族隔离、过度监管和大规模监禁、投资削减、流离失所、文化、经济和政治抹杀之后，仅靠刑事司法改革不足以改变社会，但它们是这一难题的重要组成部分。
但即使是在我们为黑人的生命奔走呼号的当下，地方、州、联邦警察以及毒品管制局(DEA)、海关和边境保护局(CBP)、移民和海关执法局(ICE)等机构和各种美军正在部署广泛的监控技术，用来收集、分享和分析抗议者的信息。
图源：unsplash
手机同时是监控工具，这已经不是秘密了。但执法机构同时也在用随身摄像机、智能手机、摄像机和无人机拍摄抗议者，收集他们的照片和视频信息;使用政府和商业软件系统抓取社交媒体上的照片和视频;从闭路电视系统收集影像;从媒体报道中截取片段等。
随后，包括明尼阿波利斯警察局在内的许多警察局会分析这些影像片段，试图使用面部识别技术识别个人身份。
面部识别技术为执法机构提供了强大的工具的同时，也导致导致黑人沦为***对象的可能性大大增加。此外，最近由国家标准与技术研究所进行的黄金标准政府研究的性能测试发现，多数面部识别系统在识别黑人面孔时表现不佳，这与算法正义联盟早些时候的发现相呼应。
因此，黑人不仅更容易受到无理的、侵犯权利的监视，也更容易被错误识别，这给了政府新的机会去锁定和错误识别与抗议相关事件有关的个体。
我们正经历一场规模空前的起义，在这种规模下，即使是很小的错误率也会导致大量的人被错误地标记和认定为逮捕目标。由于多数面部识别系统都暗含着种族偏见，因而对深色皮肤人种的识别准确度较低，因此黑人更是深受其害。
警察正在部署这些日益复杂的监视系统来对付抗议者。基于历史上执法部门的歧视和过度警务的模式，这些伤害对黑人社区的影响尤为严重。这种模式已经导致频繁以较低的合理怀疑标准进行拦截和逮捕，再加上刑事司法系统对黑人生命的其他形式的歧视，下一步就是犯罪率提高，更多人失业失学，难以维生，甚至失去生命。
图源：unsplash
因此，算法正义联盟呼吁，要严格控制政府对黑人社区的监控，特别是警察对面部监控技术的使用。我们已经收集了资源，帮助组织者在更广泛的市、州和联邦层面的种族公正运动中要求警察停止使用面部监控技术。
我们呼吁每个认真对待种族公正的社区、组织和政治家，在其它更为广泛和亟需的变革政策中，明确提出制止警察使用面部监控技术。在全国各地的城市和州，人们已经组织起来，成功阻止了面部监控技术的推广。
从市级层面来看，2019年旧金山成为首个禁止政府使用面部识别技术的城市，奥克兰和伯克利紧随其后。在马萨诸塞州，萨默维尔、布鲁克莱恩、北安普顿、剑桥和斯普林菲尔德市，阻止政府使用这项技术已然获得成功，波士顿也将加入这一行列。可见，一个城市的成功会影响到周边社区的变化。
从州级层面来看，加利福尼亚州颁布了一项为期三年的禁令，禁止警察使用随身摄像头进行面部识别，该禁令于2020年1月生效；纽约州目前正在考虑类似的立法，禁止将面部识别与警官摄像机联系起来；马萨诸塞州正在积极考虑一项更广泛的禁令，禁止所有政府部门使用面部识别技术。
从联邦层面来看，2019年5月以来，在众议院监督和改革委员会前已举行三场关于面部识别技术的公众听证会,以研究面部识别技术如何影响公民权利，并强调其歧视对黑人的影响。
图源：unsplash
在首次听证会上，美国公民自由联盟（ACLU）的内玛·辛格，乔治敦隐私和技术中心的克莱尔·加维，戴维·克拉克法学院的教授安德鲁·弗格森，以及黑人法律全国组织的前主席执法人员Cedric Alexander博士与算法正义联盟创始人Joy Buolamwini均作了证词，说道：
“这些工具太强大了 ，而且很明显存在严重的缺陷，比如极端的人口统计和表型偏见。我们不会允许政府机构使用这些工具，不会让政府基于这些工具的分析结果做决定，然后未来再想办法避免这些工具被误用或滥用。”
一系列听证会之后，目前国会正考虑采取几项限制面部识别技术使用的举措，包括立法限制联邦执法机构使用面部监控。
如今，我们比以往任何时候都更有必要确保执法部门不能使用面部监控技术来镇压抗议活动或侵犯公民权利和自由。如果你有一张脸，你在这场对话中就有一席之地。
图源：unsplash
肤色不应该成为否定你的标志，我们选择生活在拒绝压制性监视的社会里，我们要为正义摇旗呐喊，警惕技术背后暗含的歧视与控制。
编译组：齐鑫濛、曹智博
相关链接：
https://onezero.medium.com/we-must-fight-face-surveillance-to-protect-black-lives-5ffcd0b4c28a
如转载，请后台留言，遵守转载规范ACL2018论文集50篇解读
EMNLP2017论文集28篇论文解读
2018年AI三大顶会中国学术成果全链接
ACL2017论文集：34篇解读干货全在这里
10篇AAAI2017经典论文回顾长按识别二维码可添加关注
读芯君爱你
标签：标准 变化 medium 测试 dea 加利福尼亚 人工智能 经历 内心
原文地址：https://blog.51cto.com/15057819/2565198
