江苏龙网

  1. 首页 > 人文 > >

实锤了！「AI 翻车」事件已超 1000+，特斯拉，微软、谷歌、苹果等全部在列( 二 )


实锤了！「AI 翻车」事件已超 1000+，特斯拉，微软、谷歌、苹果等全部在列文章插图
其中造成患者受伤或死亡的原因包括 ， 动作不正确、自发断电、电火花灼伤、机器人碎片调入患者体内等 。 这些失败案例多发生在头部、颈部和心胸外科手术中 ， 是其他手术的 10 倍 。
另外 ， 大型科技公司微软在 AI 应用方面也发生过翻车事件 。 Tay 是微软在 2016 年推出的一款 AI 聊天机器人 。 微软称 ， Tay 的智能对话系统 ， 可以通过 " 休闲而有趣的聊天 " 来学习与人类互动 。
实锤了！「AI 翻车」事件已超 1000+，特斯拉，微软、谷歌、苹果等全部在列文章插图
但推出后不久 ， Tay 便在 Twitter 上开始发表带有各种种族歧视、性别歧视和言论 。 Tay 甚至将女权主义称为 " 邪教 " 和 " 病毒 " ， 并指出 " 性别平等 = 女权主义 " 。
随后微软立即删除了相关言论 ， 并对 Tay 的公共数据集进行了过滤和清洗 。 虽然此事在女权、种族极为敏感的美国并没有引起轩然大波 ， 但这表明 ， 即使是全球领先的科技公司微软在 AI 应用方面也需要更加谨慎 。
此外 ， 谷歌在 2017 年推出的 AI 情感分析工具 Cloud Natural Language ， 也发生过种族歧视事件 。
轻松破解「Face ID」
Face ID 是面部识别技术最广泛的应用场景之一 。
该技术的目的是加强手机个人信息防护 ， 但根据列表中的报道 ， 这项技术在 2017 年已经能够被轻松破解 。
一个来自德国的研究团队 Bkav 称 ， 他们使用常见材质制成的人脸面具可以轻松解锁苹果的 Face ID 。 据了解 ， 该面具非常简单 ， 人人都可以制作 。 它由石粉制成的 3D 人脸（价格约为 200 美元） ， 以及粘在眼睛上的 2D 图像构成 。
实锤了！「AI 翻车」事件已超 1000+，特斯拉，微软、谷歌、苹果等全部在列文章插图
#N3QOEjviHiqW
其中 ， 石粉可以代替口罩以更高的分数欺骗 Face ID ；眼睛是红外图像打印而成 ， 与 Face ID 本身用于检测面部图像的技术相同 。
另外 ， 人脸模板也非常容易获取 ， 它不需要近距离拍摄 。 当一个人走进房间 ， 预先设置的不同角度的摄像机系统可以在几秒钟内远距离秘密拍摄照片 ， 然后将照片通过算法制作成 3D 对象 。
对此 ， Bkav 还提醒称 ， 没有任何形式的生物识别是绝对可靠的 。
除了以上案例之外 ， 列表中还强调了几项重点 " 翻车 " 类型：
机器人在德国大众汽车工厂杀死工人
亚马逊 IA 招聘工具存在性别歧视 。
AI 伪造政治领袖演讲视频
YouTube 使用的 AI 算法向儿童推荐不健康内容 。
更多详细内容 ， 请戳 AIID 数据集地址：
One More Thing
最后需要说明的是 ， 不止是 AI ， 任何新技术在刚刚推出或者在发展过程中 ， 都会出现诸如此类的翻车事件 。 无论 AI 未来会对人类带来何种影响 ， 技术向前发展的趋势都是不可避免的 ， 而我们能做的只有不断修正和完善 ， 同时更加谨慎的对待 AI 。
这也是建立 AI 事故数据集的目的 ， 以此警示相关领域的研究者避免类似的事故 。 另外 ， 数据的收集工作仍在进行中 ， 如果你感兴趣的话 ， 可以点击这里了解更多 。


推荐阅读


上一篇：10nm 11代酷睿游戏本来袭：35W i7四核心首发

下一篇：人民日报点名，互联网巨头社区团购烧钱大战或紧急刹车？