江苏龙网

  1. 主页 > 生活百科 > >

防范“AI换脸”诈骗 你需要的知识都在这儿了

AI换脸”

近年来，随着人工智能技术的进步，一些不法分子开始利用AI技术融合他人面孔和声音 ， 制造非常逼真的合成图像来实施新型网络诈骗，这类骗局常常会在短时间内给被害人造成较大损失 。我们应该如何看清这类AI“深度造假”？辨别“AI换脸”有没有什么好方法？我们先来看看近期发生在陕西西安的一起“AI换脸”诈骗案例 。
陕西西安财务人员张女士与老板视频通话，老板要求她转账186万元到一个指定账号 。
被害人 张女士：老板让把这个款赶紧转过去，这个款非常着急，因为他声音还有视频图像都跟他人长得一样的，所以就更确信这笔款是他说的了，然后我直接就把这笔款转了 。
转账之后，张女士按照规定将电子凭证发到了公司财务内部群里 ， 然而出乎意料的是 ， 群里的老板看到信息后 ， 向她询问这笔资金的来由？
被害人 张女士：然后我们就打电话再跟老板去核实，老板说他没有给我发过视频，然后也没有说过这笔转账 。
意识到被骗的张女士连忙报警求助，警方立刻对接反诈中心、联系相关银行进行紧急止付，最终保住了大部分被骗资金156万元 。
AI“多人换脸”诈骗案 骗走2亿港元
一百多万的现金，对大部分人来说都算是一笔巨款了，好在警方处理及时，挽回了大部分损失，下面我们再来看另一起案例 ， 这起案例的“换脸”技术难度更高 ， 涉案金额也更大 。近期， 香港警方也披露了一起AI"多人换脸"诈骗案，涉案金额高达2亿港元 。
在该起案件中，一家跨国公司香港分部的职员，受邀参加总部首席财务官发起的多人的视频会议 。并按照要求 ， 前后转账多次，将2亿港元转账到5个本地银行账户内，其后向总部查询方知受骗 。警方调查得知，这起案件中，所谓的视频会议中 ， 只受害者一人为“真人”，其余所谓参会人员，全部是经过AI换脸后的诈骗人员 。
看完这两起案例，您一定有些好奇，AI换脸背后的技术原理到底是什么？在技术层面，它是如何实现人脸的精确识别与替换 ， 创造出逼真效果？我们来听听专家的讲解 。
技术上如何实现人脸精确识别与替换
中国网络空间安全协会人工智能安全治理专委会专家 薛智慧：AI换脸过程主要包括人脸识别追踪、面部特征提取、人脸变换融合、背景环境渲染、图像与音频合成等几个关键步骤 。其背后最核心的包括为三个部分，首先，利用深度学习算法精准地识别视频中的人脸图像，并提取出如眼睛、鼻子、嘴巴等关键面部特征 。其次 ， 将这些特征与目标人脸图像进行匹配、替换、融合 。最后，通过背景环境渲染并添加合成后的声音，生成逼真度较高的虚假换脸视频 。
快速AI“换脸”仅通过一张照片就可完成
为了了解AI换脸到底能有多么逼真，采访人员经过与专业技术人员合作，深度体验了AI换脸技术 。
技术人员首先用手机给采访人员拍了一张脸部照片，导入到AI人工智能软件后，让采访人员惊讶的是，虽然电脑摄像头前的是技术人员，但是输出的确是采访人员的照片，几乎可以说是“一键换脸”，不需要复杂的环境和解压操作 。
更令人惊讶的是 ， 随着技术人员面部表情变化，照片上采访人员的脸也跟着一起发生了相应变化 。
【防范“AI换脸”诈骗 你需要的知识都在这儿了】采访人员：为什么技术人员这张脸动，我的照片会跟着动呢？
中国网络空间安全协会人工智能安全治理专委会专家 薛智慧：首先通过视频的采集，能够把图片里这个人脸的面部追踪定位到 ， 定位到以后第二步他能够做一个人脸的面部特征点的采集和提取，主要就是包括嘴、鼻子跟眼睛相关的这些明显的面部特征 。采集到以后， 第三步就跟把这张原始的照片，做一个变换跟融合跟整形 。
采访人员：通过这张照片还可以做到什么？
中国网络空间安全协会人工智能安全治理专委会专家 薛智慧：当前通过这张照片技术人员已经让这张照片能够动起来 ， 活起来了，而如果更进一步的将这张照片存下来，能够存储大量的照片的话 。后期可以把这张照片合成一段简短的视频发布出来 。
人工智能人脸检测技术主要通过深度学习算法实现，这种技术能够识别出面部特征并对其进行精准的分析 。可以将一个人的面部表情从一张照片或视频中提取出来 ， 并将其与另一个人的面部特征进行匹配 。专家告诉采访人员，如果想要实现视频实时通话时采用人工智能AI换脸技术 ， 一张照片是远远不够的，那就需要不同角度的近千张照片的采集 。


推荐阅读


上一篇：过年该不该升级Wi-Fi 7路由？看完就知道

下一篇：云计算与边缘计算：有何不同？