江苏龙网

  1. 首页 > 人文 > >

还在为人脸识别担忧？是时候了解一下人脸伪造了( 二 )


在今年7月 ， 路透社报道了一位伪造得更为精致的AI采访人员 。 他叫奥利弗·泰勒（Oliver Taylor） ， 称自己毕业于伯明翰大学 ， 是个咖啡爱好者和政治迷 ， 在一个传统的犹太家庭长大 。 他的六篇自由撰稿的社论和博客文章表明他对反犹太主义有着浓厚的兴趣 ， 在《耶路撒冷邮报》和《以色列时报》上都有署名 。
但伯明翰大学并没有他的学籍记录 ， 他只在问答网站Quora上有一个账户 ， 3月时活跃过2天 ， 除此以外没有任何网络痕迹；他留给编辑的英国电话是假的 ， 也从不回复核查者们发给他的邮件 。 至于他提供给报社的照片 ， 牙齿上有明显的重影 ， 照片背景也有失真——这是多个图像重合时留下的痕迹 。
路透社无从得知这位假采访人员的真实身份 ， 但假采访人员的言论却在产生真实的影响——他称一位巴勒斯坦权利运动家“同情恐怖分子” ， 这个指控令后者感到十分不安 ， 随后他向两家报纸提出抗议 ， 只有《以色列时报》删除了文章 。
而在得知这位作者的假身份时 ， 《以色列时报》的编辑也对未来产生了担忧 ， 不只因为它们可能会扭曲公共话语 ， 更是因为这可能会使编辑们在不知名的作者身上抱有更大的疑虑 ， 从而使新的作者、新的言论被发表的可能性降低 ， “我并不想 ， 但或许不得不 ， 阻止某些声音被人们听见 。 ”
还在为人脸识别担忧？是时候了解一下人脸伪造了
本文插图
奥利弗·泰勒的头像里 ， 两侧的牙齿和背景都有明显的模糊 。 （图源：路透社）
在过去的一年里 ， 图像伪造技术已经拓展向视频 ， 大西洋理事会数字取证研究实验室的研究者利兹图（Rizzuto）指出 ， 去年三星公司进行的深度伪造研究将蒙娜丽莎变成了一个逼真的会说话的头 。 他说 ， 这项技术有朝一日可以应用于创造更逼真的假档案 ， 创造出各种角度和表情的照片 。
去年 ， 当人工智能创造的假脸和假人开始在社交网络上遍地开花时 ， 事实核查组织已经开始介入 。 事实核查组织Snopes和Lead Stories持续地报道类似的问题 ， Snopes还发布一篇报道 ， 批评脸书的不作为 。
对抗的第一步是发现 。 在这些假脸里往往存在类似的问题 ， 大西洋理事会数字取证研究实验室的研究者利兹图（Rizzuto）说 ， 尽管GANs技术取得了显著的进展 ， 但仍有一些蛛丝马迹——例如 ， 受试者的头部可能是倾斜的 ， 而鼻子和牙齿仍然是直的 ， 该算法在纳入背景物体和其他人时也会很吃力 ， 有时会无意中创造出扭曲或模糊的眼镜 。 还有专家指出 ， GANs生成的人脸里 ， 眼睛都会出现在图像内的同一个地方——无论“人”面向哪个方向 。
而达特茅斯学院研究数字取证学的汉尼·法里德（Hany Farid）正在研究更好的方法来发现假视频 ， 比如检测吸气和呼气引起的脸部颜色的轻微变化 ， 而GANs很难精确模仿 。
但未来似乎并不乐观 ， 利兹图说 ， AI潜在的欺骗能力已经超过了要识破它所需的工作量 ， 而法里德的担忧则更为长远——GANs的技术本身 ， 就包含着发现自己的弱点、进行提升的功能 ， 这意味着人类的识别工作或许不过是在帮助GANs完成它自己的工作 ， “我们从根本上来说处于弱势地位 ， ”法里德说 。
作者：庞礡；公众号：全现在
来源：https://mp.weixin.qq.com/s/gm2BkuNQIBoGPi6n6pHMOg
本文由 @全现在 授权发布于人人都是产品经理 ， 未经作者许可 ， 禁止转载 。
【还在为人脸识别担忧？是时候了解一下人脸伪造了】题图来自Unsplash ， 基于CC0协议


推荐阅读


上一篇：手机中国智能家庭小妙招：换季服装收纳好 秋冬除螨更重要

下一篇：短视频平台之争，谁来奇袭Z世代？