产业气象站|AI，你亲手晒在网上的照片，正被人拿来喂养( 二 )
文章图片
这个谚语说明：再强大的人 ， 也一定会有致命弱点 。 而深度机器学习的“阿喀琉斯之踵” ， 就是对抗性样本 。
只要在机器学习的图像中 ， 稍微加入一点点噪声(干扰像素) ， 机器眼里的熊猫 ， 一瞬间就会变身成为长臂猿 。 这意味着 ， 深度学习模型其实非常脆弱 。
文章图片
熊猫和长臂猿中间 ， 只隔着噪声
这种脆弱性 ， 已经是人工智能时代的安全隐患 。
对于无人驾驶来说 ， 攻击者只要在道路上放置几张驾驶员都难以察觉的特殊纸片 ， 无人驾驶车辆途径这里时 ， 就会突然转向隔壁的逆向车道 ， 驾驶员很难及时做出反应 。 这种攻击就叫做数据投毒 。
但毒药在某种场合下 ， 也能变身为解药 ， 比如前面提到的在线照片秘密盗用 。
前不久 ， 芝加哥大学研究人员设计出一个工具Fawkes ， 利用数据投毒的原理 ， 给照片披上一件“隐身斗篷” ， 能够避免普通人晒在网上的照片被用来训练AI 。
在机器的眼里 ， 照片只是一堆像素数字 ， 只要极细微的更改照片中的一些像素 ， 机器就无法识别出图像中的人 ， 而在人的眼中 ， 经过修改的照片与原图 ， 几乎没有任何差别 。
文章图片
原图与修改图的对比：左上为Fawkes第一作者单思雄
研究人员已经将Fawkes免费对外开放 ， 当你在各个网站晒出照片之前 ， 只需用Fawkes进行修改 ， 就能避免照片被秘密盗用去训练AI 。 经过测试 ， Fawkes能够让旷世、微软、亚马逊等公司的面部识别算法100%失灵 。
AI的毒药 ， 也是“丢脸”的解药 。
这也许就是现代版的“以子之矛 ， 攻子之盾” 。
文章图片
图片来源于：Cyberpunk2077
嗨 ， 这里是浅黑科技 ， 在未来面前 ， 我们都是孩子 。
想和我做朋友的话 ， 搜索微信Muzi_Yanni就可以找到我 ， 想看更多科技故事 ， 欢迎戳→微信公众号：浅黑科技（qianheikeji） 。
【来源：浅黑科技】
【产业气象站|AI，你亲手晒在网上的照片，正被人拿来喂养】声明：转载此文是出于传递更多信息之目的 。 若有来源标注错误或侵犯了您的合法权益 ， 请作者持权属证明与本网联系 ， 我们将及时更正、删除 ， 谢谢 。 邮箱地址：newmedia@xxcb.cn
推荐阅读
- 辉常观察|产业互联网：区块链与数字货币的分水岭，原创
- 精选热点资讯|服务江西产业发展，晏斌：围绕直播大赛
- 爱集微|投向智能制造/人工智能等领域，欣旺达子公司参与设立产业基金
- 产业气象站|华为新款移动路由双网双通在线，告别断网烦恼，手机一碰就能上网
- 中国蓝新闻|“薅羊毛”入刑越城法院一审宣判，坚决斩断灰色产业链
- 上游新闻|智博会上将签约GPP芯片生产项目，关注智博会｜30多家电子产业企业构建梁平电子信息产业链
- 北京商报网|2020中国电信5G产业创新联盟北京站启动
- 家族战队|就读懂了湖南互联网产业，读懂了这些话
- 52未来社区|中国全面支持的半导体产业会怎么样？，新导航芯片领先GPS
- c114通信网|深度解读：2020年光电子产业将迎难而上