江苏龙网

  1. 主页 > 生活百科 > >

防范“AI换脸”诈骗 你需要的知识都在这儿了( 二 )

AI换脸”


中国网络空间安全协会人工智能安全治理专委会专家 薛智慧：如果要实时点对点交流的话，需要再采集更多的照片，完了进行深度学习算法模型的训练，训练出来这个模型以后灌到咱们这个视频里去 ， 就可以做实时的变化跟转换了 。这种情况下，就可以做到实时的变脸 。声音的交流也可以，需要预先采集一些咱们目标人群当中的声音，然后进行模型的训练，能够把目标人群的声音还原出来 。
AI生成仿真度极高视频 难度高投入大
专家介绍，以诈骗为目的，实施点对点视频通话 ， 需要AI人工智能生成仿真度极高的视频 。想要达到以假乱真效果用于诈骗，难度不小 。
中国计算机学会安全专业委员会数字经济与安全工作组成员 方宇：针对诈骗，其实主要是通过点对点的视频通话 ， 这时候如果采用换脸技术和声音合成做实时的换脸诈骗的话，想要完成这些技术操作，就需要投入很强的技术支持 。
中国网络空间安全协会人工智能安全治理专委会专家 薛智慧：背后需要有大量的资金的投入，包括图片的采集，包括专业算法的人员等等，需要很长的一个周期，包括一些算力算法 。各方面的投入，需要长时间不断地迭代，进行操作，才能达到一个相当逼真的效果，才有可能实现到诈骗的实际效果 。
目前AI“换脸”更多应用于娱乐视频录制
除了一些不法分子企图利用AI技术实施诈骗 ， 事实上，近年来，AI技术更多地被应用于短视频的二次创作，属于娱乐性质，越来越多的名人AI换脸视频出现在网络上 ， 不少网友感叹，这类视频“嘴型、手势都对得上 ， 太自然了，差点儿以为是真的 。”
比如这款软件 ， 拍下采访人员面部照片后，就能录制生成出一段采访人员秒变赛车手的视频 。
中国计算机学会安全专业委员会数字经济与安全工作组成员 方宇：AI技术目前我们常看到的主要是短视频换脸，通过做一些特定的动作 ， 跳舞啊等等 。这些视频其实看起来是有一些不自然的，本身也是纯属于娱乐性质的换脸 。
采访人员发现在手机应用商城中 ， 有数十款换脸软件，都可以做到换脸的目的 。
中国网络空间安全协会人工智能安全治理专委会专家 薛智慧：如果从娱乐大众的角度来说的话，现在市面上也有很多的这些软件和工具，能够达到AI换脸的效果，但是仿真度只有六七分的样子 ， 大众直接就能看出来 。但是如果要生成一个诈骗视频来说话，就要生成咱们仿真度极高的这种点对点视频 。
AI技术“换脸换声”可能存在法律风险
不过，AI技术也是把“双刃剑”，即使是出于娱乐使用AI换脸、AI换声 ， 也是存在法律风险的 。法律专家表示，用AI技术为他人换脸换声甚至翻译成其他语言并发布视频，可能涉嫌侵权 ， 主要有三个方面：
一是涉嫌侵犯著作权，例如相声、小品等都属于《中华人民共和国著作权法》保护的“作品” 。例如网友用AI软件将相声、小品等“翻译”成其他语言，需经过著作权人授权，否则就存在侵权问题 。
二是涉嫌侵犯肖像权 ， 根据《中华人民共和国民法典》 ， 任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权 。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外 。
三是涉嫌侵犯声音权，根据《中华人民共和国民法典》规定，对自然人声音的保护，参照适用肖像权保护的有关规定 。也就是说 ， 需要取得声音权人的同意，才能够使用他人的声音 。
学会几招 轻易识别AI“换脸换声”
AI换脸这一技术的出现，导致耳听为虚、眼见也不一定为实了 。那我们该如何防范呢？专家表示 ， 其实AI人工换脸无论做得多么逼真 ，  想要识别视频真假还是有一些方法的 。
中国计算机学会安全专业委员会数字经济与安全工作组成员 方宇：实际上从我目前看到的深度伪造的实时视频上来看，其实还是可以通过一些方式，去进行一些验证 。
那比如说我们可以要求对方在视频对话的时候呢，在脸部的面前通过挥手的方式，去进行一个识别 ， 实时伪造的视频，因为它要对这个视频进行实时的生成和处理和AI的换脸 。
那么在挥手的过程中，就会造成这种面部的数据的干扰，最终产生的效果就是我们看到的这样，挥手的过程中，他所伪造的这个人脸会产生一定的抖动或者是一些闪现，或者是一些异常的情况 。


推荐阅读


上一篇：过年该不该升级Wi-Fi 7路由？看完就知道

下一篇：云计算与边缘计算：有何不同？