上游新闻|IBM、亚马逊相继对面部识别说“不”！人脸识别有何原罪？
据雅虎新闻网、商业内幕杂志、每日电讯报等报道 ， 继“蓝色巨人”IBM高调宣布不再提供任何人脸识别服务和人脸分析软件、不会继续研发相关技术、正式退出市场之后 ， 亚马逊公司周三也宣布 ， 将暂停警方使用其人脸识别技术一年 。
文章图片
▲黑人弗洛伊德之死引发美国民众对人脸识别系统的关注
在科技巨头争相拥抱新的技术、抢占AI高地的大潮下 ， 居然有人主动放弃 ， 实在是在点反常 。 是什么迫使IBM、亚马逊做出这样的决定 ， 人脸识别技术有何原罪？
IBM、亚马逊对人脸识别说“不”
据报道 ， IBM的这一决定来自于IBMCEOArindKrishna提交给几位美国参议员和众议员的一封信 。
从信中的内容来看 ， 放弃人脸识别业务的举动 ， 是IBM因黑人弗洛伊德之死 ， 抗议种族主义的种种举措的其中之一 。
而亚马逊2019年曾让股东就面部识别技术进行投票 ， 其中有部分股东出于公民权和隐私权的担忧 ， 认为应该禁止将面部识别技术出售给政府机构 。
但实际上 ， IBM和亚马逊的决定 ， 是对美国社会普遍反对人脸识别的情绪的一种迎合 ， 也是一种政治正确 。
文章图片
▲2018年10月31日 ， 示威者将亚马逊首席执行官贝佐斯的照片贴在脸上 ， 抗议其人脸识别系统 。
人脸识别在美成众矢之的
具体来说 ， 黑人弗洛伊德之死 ， 让美国社会继续反思警察执法问题 ， 并由此引申到警察在执法中所采用的技术——其中最被严重诟病的 ， 就是人脸识别 。
人脸识别首次因为“种族歧视”问题被关注是在2018年 ， 彼时人们利用亚马逊人脸识别系统对535位美国国会议员的照片进行识别 。 结果令人惊讶 ， 有28位国会议员的识别结果为“罪犯” ， 这28人中包括11名有色人种 。 2018年JoyBuolamwini和TimnitGebru的研究首次揭示了商业人脸识别系统（包括IBM的）的缺陷：人脸识别针对黑人、女性的错误率高达21%-35% ， 而针对白人、男性的错误率则低于1% 。
文章图片
2015年一位软件工程师报告称 ， GooglePhoto的图像分类算法将非裔美国人分类为“大猩猩” 。
种族歧视之外 ， “隐私安全”也是人们不待见人脸识别技术的主要原因之一 。 在过去的两年多时间内 ， 包括亚马逊、微软、谷歌等在内 ， 均被曝出与政府之间存在“人脸识别”技术相关的项目合作 ， 由此引发了人们对“军事与工业结合体”的担忧 。
文章图片
在一些民众看来 ， 军事和工业结合体会被作为不正当杀人利器 ， 以及这次合作背后可能引发的机器学习发展与道德问题 ， 譬如打破隐私及实用性之间的平衡 。
美多个地方公共部门已禁用人脸识别技术
早在2018年 ， 微软总裁BradSmith就提议 ， 人们应当把面部识别结果定为“高风险场景” ， 特别是那些最终可能被用来限制人类行动的应用 。 使用面部识别的组织应当遵守关于性别、人种和种族的反歧视法案 ， 而且应当对其AI限制实现“透明”公开 。
“技术可能会带来一种新的大规模监视 。 这种监视可能被州政府和国家政府用来监视任何地方的每个人 。 ”Smith强调表示 ， “如果我们不谨慎考虑这些问题 ， 那么2024年的我们就将面临《1984》书中描述的那种生活 。 ”
多年来 ， 美国民众反对人脸识别的呼声也得到一些回应 。 据了解 ， 在美国多个城市包括旧金山市在内 ， 已经有多个地方公共部门禁用了人脸识别技术 。
推荐阅读
- 辣椒新闻|事关美国，英媒抖出一件大事！世卫组织紧急行动，抗疫紧要关头
- 零点新闻|二手车市场调查：长春雷诺汽车撤店造成在用车贬值
- 新华社新闻|月亮木星土星5日6日晚上演“三英会”
- 「腾讯」腾讯老干妈事件登央视新闻：4月份就已经冻结1600万财产
- 上游新闻|无电无光也能拍到高清图像，厉害了华为摄像机！“四无设计”突破时空限制
- 【大象】我国成功发射高分多模卫星；贵州山中怪声初步认定为鸟叫丨科技早新闻
- 科技大本营|> 微软拟用 AI 取代其英国网站新闻编辑队伍，新闻速读
- 兰州新闻网|购物节电商助力 甘肃省“文化和自然遗产日”系列活动6月1日启动，影像展“云端”露脸
- 太平洋电脑网|国产Win10掌上游戏本上架众筹：1天筹得1500万元
- 大众新闻|达成技术研发与市场运营双重联盟，Ayla、鸿雁智能签署战略协议