AI软件克隆你的声音，全球诈骗案件已屡次得逞！

除了进行诈骗，DeepFake音频还存在向公众传递负面信息的风险。RSA大会演讲现场，Pindrop的CEO向公众演示了一款合成公众人物声音的AI系统，这项技术通过在网上搜索特朗普之前的录音来模仿他的声音，耗时不到一分钟，并用美国总统特朗普的声音说了一些笑话。如果这项技术被用于仿造领导人物的声音，并用到犯罪事件中，无疑可能非常危险，甚至给国家安全带来危害。

AI声音合成如此猖獗，应该如何防范?

虽然风险重重，但语音模拟技术的发展势不可挡。例如，Google已经为自动识别DeepFake语音的研究项目提供了资金和资源的帮助。但Google也开发了一些世界上最具说服力的语音人工智能，包括它的Duplex服务，它可以用电脑生成的栩栩如生的声音，打电话给餐厅预定座位。

卡内基国际和平基金会(Carnegie Endowment for International Peace)硅谷办公室主任Charlotte Stanton则提醒业界：“在商业领域，人们有很强的的意愿想要制造出好的技术产品，但一定要平衡，避免它被用于非法途径。所以，研究人员在研发像AI语音合成技术这样强大的技术时需要更加谨慎，很明显，AI语音合成已经到了可以被滥用的地步。”

幸运的是，人工智能开发人员正在努力构建能够检测和打击Deepfake音频的解决方案。例如，Pindrop公司已经开发出一种人工智能算法，可以从DeepFake的音轨中辨别真实的语言。它是通过检查说话时单词的实际发音，以及这些发音是否与真实人类的说话模式相匹配，因为人类的声音无法像机器伪装那样标准和快速。

Pindrop还预测到，也许有一天音频安全服务会像数据安全服务一样有巨大的市场。该公司CEO表示：“会有一些公司建立检测这些安全漏洞的机制。如果网上出现了伪造的音频，那么这个机制就会开始保护你的声音数据。”

除了Pindrop等小公司。硅谷科技巨头也积极的致力于寻找检测Deepfake音频的方案。例如，谷歌在去年年初与GNI合作，发布了一系列合成语音，其中包含由其深入学习的文本到语音(TTS)模型所说的数千个短语，来自英文报纸文章68种不同的合成语音，并涵盖了各种区域口音。该数据库提供给了2019 ASVspoof挑战的参与者使用，该竞赛旨在开发针对假语音的对策，特别是可以创建区分真实和计算机生成的语音的系统。

同时，DeepFake音频的潜在威胁也可能会改变用户的行为，使用户在向互联网上传声音时更加谨慎。Pindrop调查的诈骗案例中就有这样一位受害者，他几乎没有在任何社交平台上公开过自己的声音，仅仅是因为召集员工开会时的讲话被窃取，就成为了犯罪分子的目标。这样的案例不禁会让人联想：“既然这么谨慎的人都会存在被诈骗的风险，那么我们干脆就不要在公众平台上表露自己的任何生理特征，包括声音和长相。这实在太恐怖了!”

不敢想象，如果我们的公众社交平台上面看不到任何超出文字以外的更生动的表达，那么几十年来的科技和信息发展不就白费了吗?这无疑是对多年来为人类科技文明进化做出贡献的科技工作者的侮辱。

小探相信，随着AI不断的发展，我们所面对的DeepFake威胁将会越来越多。因此，无论是视频或音频，建立一个完善的安全审核机制是非常有必要的!

（编辑：辽源站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!