江苏龙网

  1. 首页 > 人文 > >

「品品科技」全球诈骗案件已屡次得逞，AI软件克隆你的声音

AI软件克隆你的声音 ， 全球诈骗案件已屡次得逞
「品品科技」全球诈骗案件已屡次得逞，AI软件克隆你的声音
文章图片
硅谷密探
1583472326热点追踪/深度探讨/实地探访/商务合作
在2月28号刚于旧金山结束的RSA大会上 ， 一家名为Pindrop的专门检测语音诈骗的初创公司再次向业内发出警告：网络诈骗份子已经开始借助AI软件克隆声音进行诈骗了！
（Pindrop的CEO（右）和CTO(左） ， 图片来自网络）
Pindrop的CEOVijayBalasubramaniyan表示：“Pindrop在过去一年中调查了大约十二起类似的案件 ， 都是欺诈者使用AI软件“克隆”某人的声音以进行诈骗 。 同时 ， 我们还看到了Deepfake音频作为针对公众人物的工具出现 。 如果你是家公司的CEO或者你在YouTube上有很多视频 ， 骗子就极有可能用它来合成你的声音 。 ”
并且 ， 虽然Pindrop只看到了少数这样的案件 ， 但涉案金额很高 。 Pindrop估算涉及的诈骗金额可能高达1700万美元 。
（图片来自网络）
来自硅谷的警告消息又一次将AI的安全性问题带到了舆论的风口浪尖 。 毫无疑问 ， 自从AI成为全球技术发展的主流以来 ， DeepFake的问题就一直是人们关心的重点 。 在之前的文章中 ， 小探深度讨论了关于人脸识别的安全问题（点击这里查看） 。 而今天我们要讨论的AI语音合成的问题 ， 则可能比人脸识别更加危险 。
AI声音合成 ， 一面“天使”一面“魔鬼”
语音合成技术现在已经非常成熟了 。 例如高德导航里的各种明星语音包 ， “林志玲为您导航祝您好心情”、“郭德纲前方有落石车碎人心碎”、“你镇定一下罗永浩要开始导航了” ， 基本上能够达到以假乱真的效果 。 大部分时候用户也分不出来到底是明星自己录的 ， 还是合成的语音 。 当然这种场景中 ， 语音合成只是为了提升用户体验做的一个小功能 。 不仅没有对用户造成损失 ， 反而让用户开车的时候拥有更好的体验 。
（高德地图的明星导航语音包 ， 图片来自网络）
但是下面这个故事就不是这样了 。 2018年CharlieWarzel ， Buzzfeed的科技采访人员 ， 受了前密西根大学社交媒体责任中心CTOAvivOvadya言论的影响 ， 做了一件想想都非常后怕的事情 。 他使用AI合成软件模仿了自己的声音 ， 然后打电话给他妈妈 ， 结果他妈妈愣是没听出来 。 世界上最熟悉你自己声音的人是谁？可能不是你自己 ， 因为你自己听到的声音和别人听到的是有区别的 。 最熟悉你声音肯定是你的母亲 。
（图片来自网络）
既然身边最熟悉的人都被这样“伪装”骗了 ， 那只要使用这种软件不就拥有了“变身”的超能力了吗？
事实上 ， 利用AI语音合成冒充熟人进行电信诈骗的案例这几年时常发生 ， 并且涉及金额都非常的巨大 。
根据《华尔街日报》2019年报道 ， 英国某能源公司高管在一个小时之内通过匈牙利供应商向一诈骗犯转账24万美元 ， 约175万元人民币 ， 仅仅是因为诈骗犯通过AI技术仿造了其母公司CEO的声音 。 该高管表示 ， 在整个通话过程中 ， 老板轻微的德国口音都展现得淋漓尽致 ， 该高管完全没有任何的怀疑 ， 直到被要求再次转账时才发觉了事件异常 。
在报案调查后 ， 警方只能发现该笔转账流动到了墨西哥等地区 ， 但是具体嫌疑犯的身份始终无法确定 。 这个案件带来的损失目前只能由保险公司承担 。 这位受害者后来在一封电子邮件中写道 ， 虽然“老板”的要求相当奇怪 ， 但声音如此逼真 ， 他觉得自己别无选择 ， 只能服从 。
美国网络安全公司Symantec的研究人员表示 ， 他们发现至少有三起公司高管的声音被人模仿以用于电信诈骗 。 虽然Symantec拒绝透露这些受害公司的名称 ， 也不愿透露上述英国能源公司是否是其中之一 ， 但它指出 ， 其中一起案件的损失总计达数百万美元 。
（Symabtec公司大楼 ， 图片来自网络）


推荐阅读


上一篇：「互联网圈里人」如今亏损100多亿到底出了什么大问题，曾让京东胆寒的拼多多

下一篇：【吾散人解说】网店操作失误损失百万，游戏玩家的福利？9分钱可充值999Q币