AI软件克隆你的声音，全球诈骗案件已屡次得逞！

在2月28号刚于旧金山结束的RSA大会上，一家名为Pindrop的专门检测语音诈骗的初创公司再次向业内发出警告：网络诈骗份子已经开始借助AI软件克隆声音进行诈骗了!

(Pindrop的CEO(右)和CTO(左)，图片来自网络)

Pindrop的CEO Vijay Balasubramaniyan表示：“Pindrop在过去一年中调查了大约十二起类似的案件，都是欺诈者使用AI软件“克隆”某人的声音以进行诈骗。同时，我们还看到了Deepfake音频作为针对公众人物的工具出现。如果你是家公司的CEO或者你在YouTube上有很多视频，骗子就极有可能用它来合成你的声音。”

并且，虽然Pindrop只看到了少数这样的案件，但涉案金额很高。Pindrop估算涉及的诈骗金额可能高达1700万美元。

来自硅谷的警告消息又一次将AI的安全性问题带到了舆论的风口浪尖。毫无疑问，自从AI成为全球技术发展的主流以来，DeepFake的问题就一直是人们关心的重点。在之前的文章中，小探深度讨论了关于人脸识别的安全问题。而今天我们要讨论的AI语音合成的问题，则可能比人脸识别更加危险。

AI声音合成，一面“天使”一面“魔鬼”

语音合成技术现在已经非常成熟了。例如高德导航里的各种明星语音包，“林志玲为您导航祝您好心情”、“郭德纲前方有落石车碎人心碎”、“你镇定一下罗永浩要开始导航了”，基本上能够达到以假乱真的效果。大部分时候用户也分不出来到底是明星自己录的，还是合成的语音。当然这种场景中，语音合成只是为了提升用户体验做的一个小功能。不仅没有对用户造成损失，反而让用户开车的时候拥有更好的体验。

但是下面这个故事就不是这样了。2018年Charlie Warzel，Buzzfeed的科技记者，受了前密西根大学社交媒体责任中心CTO Aviv Ovadya言论的影响，做了一件想想都非常后怕的事情。他使用AI合成软件模仿了自己的声音，然后打电话给他妈妈，结果他妈妈愣是没听出来。世界上最熟悉你自己声音的人是谁?可能不是你自己，因为你自己听到的声音和别人听到的是有区别的。最熟悉你声音肯定是你的母亲。

既然身边最熟悉的人都被这样“伪装”骗了，那只要使用这种软件不就拥有了“变身”的超能力了吗?

事实上，利用AI语音合成冒充熟人进行电信诈骗的案例这几年时常发生，并且涉及金额都非常的巨大。

根据报道，英国某能源公司高管在一个小时之内通过匈牙利供应商向一诈骗犯转账24万美元，约175万元人民币，仅仅是因为诈骗犯通过AI技术仿造了其母公司CEO的声音。该高管表示，在整个通话过程中，老板轻微的德国口音都展现得淋漓尽致，该高管完全没有任何的怀疑，直到被要求再次转账时才发觉了事件异常。

在报案调查后，警方只能发现该笔转账流动到了墨西哥等地区，但是具体嫌疑犯的身份始终无法确定。这个案件带来的损失目前只能由保险公司承担。这位受害者后来在一封电子邮件中写道，虽然“老板”的要求相当奇怪，但声音如此逼真，他觉得自己别无选择，只能服从。

美国网络安全公司Symantec的研究人员表示，他们发现至少有三起公司高管的声音被人模仿以用于电信诈骗。虽然Symantec拒绝透露这些受害公司的名称，也不愿透露上述英国能源公司是否是其中之一，但它指出，其中一起案件的损失总计达数百万美元。

虽然有种种风险，但技术的发展一点也没有慢下来。目前，许多硅谷巨头和人工智能初创企业都在开发这种语音合成软件，用以模仿人的声音节奏和语调，并被用来制作令人信服的演讲。

几个月前，Resemble团队发布了一个名为Resemblyzer的开源工具，该工具使用人工智能和机器学习来通过获取语音样本的高级表示并预测它们是真实的还是生成的来检测深度伪造。而在AI语音合成届早已成名已久的Lyrebird，其开发出的AI合成软件更是可以在合成语音中模拟出说话人的感情。

AI技术被滥用，它的工作原理是什么?

无数的研究表明，重现人们讲话的韵律只需要一个小的数据集。像Resemble和Lyrebird这样的商业系统仅需要几分钟的音频样本，而百度最新的Deep Voice实现等复杂的模型可以从3.7秒的样本中复制语音。

斯坦福大学网络政策中心研究员、曾任奥巴马和特朗普政府时期白宫网络安全政策高级主管的Andrew Grotto(安德鲁·格罗托)表示：“罪犯将使用任何能让他们以最低成本实现目标的工具。也许这是一项在10年前听起来很新奇的技术，但是现在任何有想法的非专业罪犯都可以使用。”

（编辑：辽源站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!