波士顿禁用人脸识别:该技术导致严重的种族歧视

发布时间:2020年06月30日 阅读:

波士顿也宣布禁用人脸识别技术了。

6月24日,美国马萨诸塞州的首府和最大城市波士顿的市议会以13票赞成、0票反对的结果通过了《波士顿禁止人脸监控技术条例(Ordinance Banning Face Surveillance Technology in Boston)》。

条例规定,波士顿市的任何市政机关和公务员均不得获取、保留、拥有、使用人脸监控系统及通过此类系统获得的信息,而且不能通过与第三方合作绕过条例。违反条例规定获取的人脸监控数据将被视为违法数据,一经发现会被删除。

市政府官员表示,波士顿警察局此前并未使用过该技术,但警局目前使用的一款名为BriefCam的视频分析软件,它的升级版确实有人脸识别功能。波士顿警方在市议会的工作会议上表示,他们不会注册这部分软件更新。

此次条例通过,等于从源头掐灭该项技术在波士顿的使用。

目前,在禁用人脸识别的城市里,波士顿城市规模排第二,仅次于旧金山。

而旧金山和波士顿,一个是推特、爱彼迎和优步的总部所在地;一个是哈佛、MIT等知名高校的所在地。都是充满了科技活力的地区,为什么会自己禁止人脸识别这种先进的人工智能相关技术?

反对者们提出了两个原因:

第一,他们认为这项技术将威胁到公民权利,第二,他们认为面部识别技术存在缺陷,将导致严重的种族问题。

在种族抗议活动愈演愈烈的当下,第二条原因更为重要。

提出了该法案的波士顿市议员里卡多·阿罗约(Ricardo Arroyo)与市议员吴弭(Michelle Wu)指出,这项技术对于有色人种来说是非常不准确的。

“它有明显的种族偏见,这很危险,”阿罗约在听证会前说。

法案中称,“已有证据表明,人脸识别技术在识别非裔和亚裔人群体时准确率更低。人脸识别监控中的种族偏见有可能伤害有色人种群体,而有色人种本身就已经受到更多的监控和骚扰。”

在周三的会议上和投票前,吴弭表示,波士顿不应该使用种族歧视的技术。“我们正在努力结束系统性的种族主义,所以,结束对有色人种社区的过度监视需要成为其中的一部分。”

值得一提的是,吴弭是美籍华裔议员,父母从台湾移民至美国,她也是波士顿第一个当上市议员的亚裔女性。

纽约时报曾在一篇文章中提到,人脸识别在针对有色皮肤时错误率明显增大。

MIT媒体实验室(MIT Media Lab)研究员Joy Buolamwini与来自微软的科学家Timnit Gebru合作的一篇研究论文《性别图谱:商用性别分类技术中的种族准确率差异》(Gender Shades:Intersectional Accuracy Disparitiesin Commercia lGender Classification)中,作者将微软、IBM和旷视科技三家人脸识别技术进行对比,结果显示,AI应用人脸识别针对黑人女性的错误率高达21%-35%,而针对白人男性的错误率则低于1%,不同种族的准确率差异巨大。

纽约时报称,该项研究也引发了关于“AI是否存在社会不公甚至种族歧视问题”的探讨,但显然并不是。肤色较深女性较难识别,除了天然人脸特征更难提取之外,可供训练的数据集较少也是影响因素之一。

文章表示,当下的人工智能是数据为王,数据的好坏和多少会影响AI的智能程度。因而,如果用来训练AI模型的数据集中,白人男性的数据多于黑人女性,那么系统对后者的识别能力就会不如前者。

现有的数据集中存在这一现象,比如根据另一项研究的发现,一个被广泛使用的人脸识别数据集中,75%都是男性,同时80%是白人。

旷视回应表示,深色人种数据集比较难获得,所以会差一些;另外,使用RGB摄像头进行人脸识别时,深肤色人的人脸特征比较难找,特别是在暗光条件下,这也是一方面的原因。

也是因为如此,今年6月初,IBM致信美国国会议员,宣布公司将退出通用的面部识别业务,并表示反对将这种技术用于大规模监控和种族定性分析。

在本月早些时候的听证会上,波士顿警察局长威廉·格罗斯说,目前的技术并不可靠,而且该部门也没有使用这项技术。

"在这项技术100%准确之前,我对它不感兴趣,“他说。”我没有忘记我是非洲裔美国人,我也会被误认。"他补充道。

不过,波士顿的禁令并不会影响私人公司或联邦机构(如FBI)使用该技术。

除了波士顿和旧金山外,马萨诸塞州的其他五个社区——萨默维尔,布鲁克林,北安普顿,斯普林菲尔德和剑桥也有此条禁令。美国公民自由联盟马萨诸塞州分会推动了这些地方的禁令,并正在游说州立法者采取行动。

目前还没有全州范围内的禁令,不过一项暂停使用人脸识别系统的法案目前正在马萨诸塞州联合司法委员会待审。

来源:观察者网

【特别声明】
凡注明 “我爱卡”来源的作品,媒体和个人进行全部或者部分转载,请注明出处(我爱卡)。
非“我爱卡”来源的作品,观点仅代表作者本人,我爱卡系信息发布平台,仅提供信息存储空间服务,版权归原作者所有。

相关文章

央行发话了!新冠肺炎疫情对我国经济有这些影响
中国人民银行货币政策委员会2020年第二季度例会于6月24日在北京召开,会议认为,新冠肺炎疫情对我国经济的冲击总体可控,我国经济增长保持韧性,长期向好的基本面没有改变。
银联、支付宝、微信公布数据!疫情之下端午节消费恢复几成?
端午小长假结束,银联、网联、支付宝等支付企业相继公布了端午节相关消费数据,整体上看,经济回暖趋势明显,交易量具有不同程度增长。
银行卡也有指纹识别了!再也不用输密码了
指纹将代替密码,随着创新技术的发展,法国巴黎银行将在法国推出首批可以用指纹识别的银行卡Visa Premier。
邮储银行再被央行罚款!每月都有新问题
近日,青海银保监局机关行政处罚信息公开表显示,中国邮政储蓄银行股份有限公司青海省分行因存在销售误导的行为,被责令改正,并处罚款25万元。
波音737MAX复飞迎来重大转机,但乘客真的敢坐吗?
一位知情人士说,这个小组将有系统地执行预先安排好的各种空中状况,例如大角度倾斜转弯等,并在主要位于华盛顿州上空的航线上进行比较剧烈的操驾动作。
28岁靠直播的李佳琦拿下上海户口!官方:他是特殊人才
6月23日,上海市崇明区发布2020年第一批特殊人才引进落户公示名单,这份名单共有个申报单位,共15人,李佳琦在列。
监管急了!银保监会突发长文:信用卡透支太严重!
中国银保监会今日在官网网站重要位置上发布了《中国银保监会消保局关于合理使用信用卡的消费提示》的文章,提醒消费者:应正确认识信用卡功能,合理使用信用卡,树立科学消费观念,理性消费、适度透支。
错过了免年费秒批的民生88精英白?又一官网还没上架的信用卡来了!
近日,民生银行再次低调发行了“民生京东PLUS精英白金联名信用卡”。该卡无论从发卡等级、宣传手段,还是卡片权益来看,都和去年的民生阿里88VIP精英白如出一辙。
风控技术大升级!银联数据新一代信用卡系统正式上线
新一代信用卡系统正式投产,不仅能有效增加和完善银联数据产品供给和服务能力,也将成为驱动客户未来业务高质量发展的新引擎。
租借QQ微信帐号坐收租金?深圳消委会提醒:万勿尝试!
2020年至今,腾讯方面收到因租借微信帐号产生的帐号封号申诉量已超1万例。

论坛24H热帖榜

在我爱卡

人次申请信用卡

255家银行和金融机构授权合作

北京决策信诚科技有限公司 版权所有
京ICP证110622号  京ICP备11020878号  
京公网安备11010502035281号
Copyright © 2005-2019 51Credit Corporation.All Rights Reserved