文章插图
5月20日 ， “平安包头”发布微信公众号文章 ， 称5月8日 ， 包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件 ， 警银联动成功紧急止付涉嫌电信诈骗资金330多万元 。
事情起始于4月20日11时40分左右 ， 福州市某科技公司法人代表郭先生的好友突然通过微信视频联系到他 ， 两人经过短暂聊天后 ， 好友告诉郭先生 ， 自己的朋友在外地投标 ， 需要430万元保证金 ， 且需要公对公账户过账 ， 所以想要借用郭先生公司的账户走一下账 。
【AI换脸冒充好友诈骗430万，听听网络安全专家们怎么说？】好友向郭先生要了银行卡号 ， 声称已经把钱打到郭先生的账户上 ， 还将银行转账底单的截图通过微信发给了郭先生 。基于视频聊天信任的前提下 ， 郭先生没有核实钱是否到账 ， 于11时49分先后分两笔把430万元给对方打了过去 。钱款转账后 ， 郭先生给好友微信发了一条消息 ， 称事情已经办妥 。但让他没想到的是 ， 好友回过来的消息竟然是一个问号 。
郭先生拨打好友电话 ， 对方说没有这回事 ， 他这才意识到竟然遇上了“高端”骗局 ， 对方通过智能AI换脸技术 ， 佯装成好友对他实施了诈骗 。
如果是微信好友账号直接进行AI换脸换声音 ， 的确容易让人提前产生“好友信任度” 。
第一财经采访人员据此联系微信方面与包头市公安局 ， 截至发稿 ， 微信方面暂未提供技术方面的具体回应 ， 包头市公安局宣传科方面表示会与办案民警进行信息再确认 ， 截至发稿 ， 暂未进行信息更新 。不过据第一财经采访人员多方了解 ， 此次联系郭先生、发起视频聊天的微信号码 ， 系郭先生此次新添加好友的微信账号 。
那么 ， 微信视频通话能够轻易被“换脸”吗？
多位网络安全专家对微信视频中实时换脸换声的可行性展开了专业探讨 。一位网络安全方面人士对采访人员表示 ， 如果要进行不易被识别的、专业级别的AI换脸换声 ， 需要在实验室环境条件进行 ， 后者为其提供较强的计算机性能支撑 ， 如果单凭手机性能 ， 仅能提供P图级别的换脸 ， 极易被识别 。
对于该事件 ， 奇安信安全专家裴智勇对第一财经采访人员表示 ， 首先 ， 所谓微信账号“新号”“旧号”本身更多是一种主观感觉 ， 骗子冒充朋友小号 ， 聊上个把月再实施诈骗 ， 受害者也会主观上认为这是一个老号 。其次 ， 该诈骗案仍有许多细节尚未披露 ， 仅仅通过一次短暂而逼真的AI视频聊天 ， 就能骗走几百万 ， 不太现实 ， 中间一定还有很多复杂的过程 。不应将原本复杂的诈骗过程简单化、标签化 。
另外 ， 裴智勇还对采访人员表示 ， 以现有的技术发展来看 ， 虽然完成相关诈骗过程不是完全没有可能 ， 但成本太高 ， 所以在现实中被使用的概率也很低 。
具体实施技术难度方面 ， 裴智勇举例称 ， 如在视频聊天过程中 ， 要让受害者看到AI合成的视频而不是摄像头直接捕获的视频 ， 就必须利用安全漏洞劫持摄像头传输假视频 ， 技术难度极高 。若真是这么高级的漏洞 ， 一般不会被用在普通人身上 ， 因为一旦诈骗失败 ， 漏洞暴露 ， 漏洞也就作废了 。骗子一般不会冒这个险 。
再比如 ， 尽管在视频中进行人脸替换 ， 已经是非常成熟的技术 。但想要在实时对话交流过程中 ， 进行实时的人脸替换、表情捕捉、语音变声 ， 还能以假乱真 ， 这个技术水平已经超过绝大多数的高科技公司了 。现实情况更有可能是骗子首先利用花言巧语骗受害者忽略细节 ， 之后再发送合成视频实施诈骗 。
综合来说 ， 裴智勇认为 ， 攻击者要同时具备盗取好友的微信账号、利用漏洞劫持摄像头篡改视频数据、实时变脸与实时变声且天衣服缝的技术能力 ， 至少是难度极大、成本极高 。很多高科技公司在实验室里也未必能完美完成这些挑战 。所以 ， 相关事件的文字描述 ， 在细节上很可能和真实情况有一定的差异 。
推荐阅读
- 张学润|删片兼向家属道歉！肥妈曝离世好友隐私遭吐槽，其解释是情绪激动
- 张学润|59岁港星张学润烧炭自尽，好友透露其三年没收入、一年没买新衣服
- DeepFakes深度造假，如何识破“AI换脸术”？
- 许嵩|许嵩冯禧牵手逛街，男方主动拿包超贴心，同行好友无人陪伴显孤单
- |张卫健回应绯闻，“私生女”是好友遗孤，出游已告知妻子
- 袁伟豪|袁伟豪生日与陈山聪胡定欣等圈中好友庆祝 还和张宝儿享受二人世界
- 泰勒·斯威夫特|彻底公开了？霉霉与绯闻男友牵手聚餐，前男友被圈内好友集体取关
- 郭晶晶|一路走好！香港知名影星出殡火化，圈内好友罕见现身
- 王力宏|王力宏露面参加好友婚礼，留长发脸黑显憔悴，与美女合影大变样
- 董洁|陈辰：和胡歌是圈内好友，倾情出席其爱女小茉莉的出生“百日宴”