用一张照片就能用你的脸制造出一段演戏视频，让更多的人看到了运用深度造假（Deepfakes）“ AI换脸”已是如此便捷的操作。然而不止视频，音频同样可以通过AI来伪造，而且这比换脸更简单，也更难发现破绽。
据《华尔街日报》报道，有一名犯罪分子运用AI合成公司老板的声音，让一家总部位于英国的能源公司上当受骗。伪造的诈骗电话成功让公司下属转账了22万欧元（约合173万人民币）的巨款到了骗子账户。
一通电话骗得下属跨国转巨款
运用AI伪造声音的诈骗，与我们在日常生活中遇到的“XX，明天来我办公室一趟”假扮老板骗术是一个思路，而技术迷惑性却强得多。
这家受骗的能源公司总部位于英国，它的母公司位于德国，子公司在英国。在事发当日，该公司的英国子公司负责人接到了来自德国母公司老板CEO电话。来电人的英语中略微带点德国口音和腔调，与德国“老板”声音一模一样，就没有起丝毫的疑心。
德国“老板”在电话里表示自己正在匈牙利谈生意，但目前要从英国子公司走一笔账，需要英国子公司将钱打给“匈牙利供应商”，后续会给予报销。德国“老板”要求打款的时间紧迫，需要在一个小时内打款22万欧元给指定账户。
而钱打过去之后，德国“老板”又打来电话。这次德国“老板”说刚才的22万欧元的报销款已经给英国子公司转过去了，现在需要英国子公司再转一笔钱。
这下英国子公司的人发现不对劲了。一来“老板”转的钱没有到账，二来“老板”的电话怎么是从奥地利打过来的呢？
迅速报警之后，警方发现这22万欧元已经打到匈牙利的一个账户中，而后被转到了墨西哥，之后又转走到其他地方，因此警察也无法追踪骗子在哪。
AI语音仿造技术已经相当成熟
受骗公司遇到的关键问题是打电话的声音太像母公司的CEO，让老板的声音说出特定的话语，用到的是AI语音的深度学习技术。
这一技术要实现却不难，而且已经非常成熟。你在高德地图里运用到的林志玲、易烊千玺等明星导航，就是他们声音的建立语料库训练，运用AI语音合成的。在语音助理构建、游戏数字化角色设计、有声读物等都有它的身影。
如今已有多家AI公司推出了语音仿造AI技术。谷歌Deepmind公司在2016年就开发出“WaveNet”软件，可利用其神经网络系统对原始音频波形进行建模，生成带有强调性音节、抑扬顿挫和体现情绪的人类自然语言的音频。
加拿大Lyrebird公司也开发出了一种深度学习算法，该公司已利用该技术仿造出特朗普、奥巴马及克林顿等人的声音进行演讲，几乎可以以假乱真。其公开beta测试版只需要利用长度为1分钟的音频素材，即可生成与用户语音特征高度相似的数字语音输出结果，使用门槛非常低。
奥巴马的演讲被加拿大Lyrebird公司成功伪造
此外，Adobe公司的 Project VoCo软件可以识别出一段语音中的文字，之后针对语音中的文字进行编辑和修改，生成音色和音调与本人完全一样的语音。这意味着，未来的音频制造将如同在文档当中复制、粘贴文本一样轻松。你想用谁的声音说什么话，完全是可以预先编辑制作的。
语音伪造技术在GitHub也上给出了开源的训练模型，就像“AI换脸”一样，将别人的声音换成你的声音，只要5秒钟就能实现。
用AI“反套路”
“语音伪造”与“AI换脸”一样易得易用，开始成为被坏人利用造假的工具，混淆视听、诈骗犯罪，这引发的风险令人担忧。
世界知名安全软件ESET的网络安全专家Jake Moore说：“我预测在不久的将来，利用AI的网络犯罪将大幅增加。我们已经看到Deepfakes视频在逼真地伪造名人和公众人物，伪造声音需要更少的录音即可制作完整。随着计算能力不断提高，当这些技术将变得更容易制作，这将带来一系列的网络安全问题。”
AI 技术是一把双刃剑，关键看掌握技术的人如何使用。处理语音和图像技术的进步让我们节省时间、带来乐趣的同时，却也让作恶的人找到可乘之机。
如何制服AI造假和诈骗的泛滥，对抗它即将带来的技术风险？运用AI“反套路”AI也许是一个可行的办法。为防范各种各样的 Deepfakes的出现，检测由AI生成伪造文本的AI “探测器”也在不断完善。这也是一种深度学习模型，可以甄别由AI伪造文本的漏洞和代码特征，追踪器传播路径和方式，从而发现造假内容。
目前，研究人员已经开始推进风险防御措施。为应对 AI 处理文本的威胁，麻省理工学院IBM Watson 实验室与AI Harvard NLP已经推出了巨型语言测试室（GLTR），检测由OpenAI模型生成的伪造文本。此外，IBM的Debater项目、深蓝项目等有望提供新的工具来帮助打击Deepfakes的欺诈活动。
阿里巴巴也启动了反电话诈骗的AI系统。目前在实时保护用户账户安全的基础之上，结合公安反欺诈领域的协同破案的经验，支付宝自主研发了AI“天蝎”系统。“天蝎”可以对平台交易中可能存在涉及网络犯罪的手法、行为进行研判，并将相关线索推送给公安，提升网络犯罪的侦破效率。支付宝上也建立了“延迟到账2.0”功能，当AI发现用户遭遇疑似电信诈骗时，会主动向用户推荐延迟到账功能，给予用户思考以及报警时间，挽回损失。
未来AI的“造假”与“反造假”之间的战斗，也许正如细菌与抗生素、恶意软件与反病毒平台、黑客与白帽子之间的对抗，将迎来不断地升级迭代。
