江苏龙网

  1. 首页 > 资讯 > 资讯 > >

口罩|一副口罩竟能破解刷脸系统！

_原题为 一副口罩竟能破解刷脸系统！
口罩|一副口罩竟能破解刷脸系统！
文章图片

AI变脸口罩挑战赛 。主办方供图
“我好奇的是 ， 你们从哪里拿到我的照片？”
“你的照片网上都是 。 ”
“我……是不是稍微有点知名的人士 ， 他的脸都可能会被用到一些不太妥当的途径和目的上？”
“对 ， 这是判断你是不是名人的标准 。 ”
“也是名人必须付出的代价 。 ”
这段引得台下观众笑声连连的对话 ， 发生在10月24日的国际安全极客大赛（GeekPwn 2020）现场 。 被拿到照片的是GeekPwn的老朋友、主持人蒋昌建 。 另一方则是GeekPwn活动创始人、比赛评委王琦 。 让蒋昌建付出“代价”的 ， 是GeekPwn今年新设的两项比赛：“AI变脸口罩挑战赛”和“虚假人脸AI识别大赛” 。
全新的AI安全挑战赛
10月24日上午 ， “AI变脸口罩挑战赛”率先开始 。 赛题灵感来自于现实生活：在疫情的影响下 ， 口罩已成为出行的必备物品 。 那么 ， 它能否成为极客们的破解道具？在比赛中 ， 4支战队的选手需要戴上口罩 ， 让人脸识别系统把自己识别成目标人物 。
舞台上摆放着经过改造的自动售货机和ATM机 ， 两台机器都加装了人脸识别系统 。 不同的是 ， 自动售货机使用的是“白盒算法” ， 即2019年IEEE国际计算机视觉与模式识别会议提出的ArcFace算法 ， 前两轮挑战的目标人物依次是蒋昌建、漫威人物黑寡妇 。 ATM机使用的则是“黑盒”算法 ， 目标人物依次是马斯克、漫威人物美国队长 。 选手不知道具体的模型参数 ， 挑战难度更高 。
每轮挑战限时150秒 。 计时开始 ， 4队选手们依次冲到机器前 ， 不断调整着口罩位置和面孔角度 。 南都采访人员看到 ， 选手们准备的口罩风格各异：有些相当写实 ， 选手戴上后 ， 肉眼看上去真的和目标人物有几分相似；有些则“简单粗暴” ， 仅仅是隐约能看出口鼻形状的像素色块 。
极棒实验室负责人王海兵解释说 ， 这是因为人脸识别系统的认人方式跟人类不一样 。 对机器来说 ， 只要一张人脸的主要特征值符合后台数据 ， 就会被判定是本人 。 也就是说 ， 哪怕只是一堆像素 ， 机器能读出特征值就行 。 舞台后方的大屏幕上实时显示着选手挑战的置信度 ， 即机器“眼中”人脸特征值的吻合程度 。 南都采访人员发现 ， 当选手戴上不同口罩、采用不同姿态时 ， 置信度也在快速地发生变化 。
由于舞台环境和光线的影响 ， 整个比赛进展得不如预赛顺利 ， 但还是有一支战队在ATM机前成功“化身”马斯克——系统判断置信度达标后 ， 取钞口应时而开 ， 一张纸片掉落在地上 。 蒋昌建捡起一看：“哇 ， 美元！”观众席又是一阵笑声 。
变脸与假脸识别
【口罩|一副口罩竟能破解刷脸系统！】如果说“口罩变脸”是相对超前的科学设想 ， 那么下午进行的“虚假人脸AI识别大赛” ， 要解决的则是“AI换脸”带来的一系列紧迫现实问题：电信诈骗、财产盗刷、伪造色情视频……在美国 ， “AI换脸”甚至已被用于选战 。
2019年 ， Facebook、微软、亚马逊、麻省理工等知名企业、高校 ， 曾联合发起一场针对AI换脸视频检测的挑战赛 。 挑战赛于今年3月31日结束 ， 但仍然留下了一些亟待解决的问题 。 因此 ， 今年的GeekPwn再度设置同类的比赛 ， 希望帮助选手更好地调优或精简自身的训练模型 ， 提升AI检测方面的技术突破 ， 与各方共同推动更好的虚假人脸检测方法出现 。
比赛要求选手开发AI检测方法 ， 快速、高效地识别出图像以及视频中的虚假人脸 。 这些假脸由DeepFakes、Face2Face、FaceSwap、CycleGAN等AI技术或它们的变体生成 。 为了增加比赛的对抗性 ， 主办方还设计了攻防环节：每队选手既要用自家的AI模型识别出其他队伍的假脸 ， 又要用假脸骗过其他队伍的AI模型 。
相较于上午的比赛 ， 这场比赛更符合极客们的破解常态：5队选手各自守在电脑前 ， 操作AI模型生成假脸、展开攻防——当然 ， 表面的波澜不惊之下 ， 是更加激烈的暗战 ， 最终获胜的是TSAIL战队 。
普通人还能安心地晒照片吗？
极棒实验室负责人王海兵告诉南都采访人员 ， 以往的人脸识别破解主要在线上进行 ， 选手们只需要通过人脸照片完成“数字攻击” 。 而今年的比赛中要戴着口罩去刷脸 ， 相当于“数字攻击+物理攻击” ， 制约要素更多 ， 现实环境的影响更大 。
在比赛现场 ， 蒋昌建半开玩笑地提醒观众不要随便在网上发照片 ， 不然可能会像他一样被换脸 。 近几年 ， AI换脸信息确实越来越多 ， 而且已经有不法分子绕过金融类应用风控机制的真实案例 。 在这样的情况下 ， 普通人还能安心地晒照片吗？就此 ， 王海兵也给出专业建议 。 他说 ， 目前来看 ， 商业人脸识别算法的可靠度和安全性还是可以的 ， AI换脸一般无法轻易突破 。 晒照片带来的家庭地址、行踪轨迹等隐私信息泄露的风险 ， 其实远远高于换脸的风险——一个保护隐私和安全的小诀窍是不要发原图 ， 经过压缩后 ， 图片信息会大大减少 。


推荐阅读


上一篇：竞争|靠差异化竞争破解困局

下一篇：手机|二手手机交易市场待规范