前段时间，陌陌新出了一款叫ZAO的“换脸”APP，用户只上传一张正面照，就可以将影视明星的脸换成自己的脸，上传到社交网络上分享。
而且这款换脸APP仅仅过了一个晚上就在朋友圈红了半边天，但也很快因涉及安全问题被机关部门约谈。
事关这个“换脸”软件使用了一项引人关注的AI技术，它被称为“DeepFake”，中文翻译“”。
1.深度伪造能做什么
对于这种技术，外媒是这么说的：
我们不能相信网上的所有东西，没错，深度伪造，深度伪造，深度伪造！是的，这到底是什么？深度伪造技术是利用人工智能合成以假乱真的视频，这是一种高科技手段，可以把某些话塞进某人嘴里。
简单来说，这是一种可以实时伪造面部表情，并将其渲染成2D合成视频的人工智能技术。
早在2017年12月，一个名为“DeepFakes”的用户在Reddit网站发布“假视频”，将“动作电影”中演员的脸替换成了斯嘉丽⋅约翰逊等知名女演员的脸，画面以假乱真。
DeepFake也因此成为深度伪造这个技术的代名词，同名字的算法也在Github（面向开源及私有软件项目的托管平台）开源。
意思就是大部分开发者，都能得到这种开源算法去做差不多类型的软件。
“针幕动画”这家公司推出的软件，便可以让用户在玩虚拟现实游戏和购物时，照片即时定制自己的三维虚拟化身。
针幕动画联合创始人李浩：
这种戏法可以用在任何人身上，当然这个技术可以用来做一些真的很坏的事情。但主要目的绝不是如此，它被用于娱乐，一个有趣的工具，用于时尚、生活方式各方面，带给我们更多体验。
2018年，有一款叫FakeApp的软件上线，可以说是ZAO的鼻祖，“一键换脸”、“一键年轻”、“一键变性”，还能将自己的脸贴明星身上制作成视频。
这款APP传到美国后也是一夜爆红，即使美官方表示这个软件会引发隐私风险，但是仍有很多用户在社交网络上分享这类视频照片...
新智能技术只要新奇有趣，隐私什么的完全不是事，该玩还是玩。
要说到深度伪造，人脸互换只能算入门级别，还有声音伪造这个大佬！
2.语音合成“术”可以模拟任何人语音
2018年，三名蒙特利尔大学的博士联合创办了一家名为“琴鸟”(Lyrebird)的公司，开发了一种“语音合成”技术。
只要对目标人物的声音进行1分钟以上的录音，然后把录音丢给“琴鸟”处理，就能得到一个特别的密钥，利用这个密钥可以用目标人物的声音，生成任何想说的话。
而且“琴鸟”还能在合成声音中加入“感情”元素，让声音听上去更逼真。
一位外国记者万斯，就尝试在“琴鸟”上面录了一段音频，并打电话给自己的妈妈看能不能被认出来。让万斯惊叹的是，他妈妈从头到尾都完全没有怀疑。
下面为外国记者万斯和他妈妈的对话：
万斯：嗨，妈妈，你们今天什么安排。
万斯的母亲： 今天一早家里没电了，我们正在房子里溜达。
万斯： 我刚刚下班，等着接儿子回家。
万斯的母亲： 好的。
万斯： 我觉得我可能感染了病毒。
万斯的母亲： 那你感觉不舒服，是吗？
万斯： 哈哈，我刚才是和你捣乱，你刚才在和电脑说话。
万斯的母亲： 我感觉在和你说话，真是奇妙。
万斯： 你觉得吓人还是觉得不错。
万斯的母亲： 如果涉及到非常重要的事情，真的挺吓人的。不过现在是你了，对吗？
万斯： 我不知道。
万斯的母亲： 听上去是你。
万斯： 是吗？
万斯的母亲： 是，是，听上去就是你。
对于这项语音合成技术，琴鸟创世人是这么认为的：
当然，的确存在有人利用这项技术做坏事的风险。但是，科技不可能停止发展，所以我们决定选择符合道德的做法，将技术展示给人们，让人们知道这项技术的可行性，让他们提高警惕。
这个说法，似乎提醒人们警惕这种技术就能避免中招。
但事实上， 网络安全公司Pindrop曾在2018年五月，对美英德法500家企业展开网上调查，结果显示从2013年到2017年，语音诈骗案件的数量增加了350%，每638个诈骗电话中就有1个是人工合成声音。
3.被滥用的技术
近段时间，一个电话就让一家公司损失了24.3万美元。
骗子利用语音生成AI软件，模仿了一位德国公司老板，让公司的CEO在一个小时内将资金汇给另一家供应商。而这位CEO听到熟悉的德国口音后并没有对此产生怀疑，直接就给钱了。
前段时间，Facebook首席执行官马克·扎克伯格，在Instagram发表了一场简短的演讲，讨论数据技术发展。
但事实上，扎克伯格从未说过这些话。这段视频是一家科技公司，通过“深度伪造”技术制作的，目的是利用这种技术，提醒各位要注意个人信息安全。
重点是，这种合成视频或者合成语音，现在大部分科技公司都还没能力完全分辨出来...因为比起深度制造，深度识别的技术难得多。
因此，如何让这项技术得到控制，就成了一个更重要的话题。
4.深度伪造技术将会怎样
9月5日，Facebook宣布启动一项“Deepfake视频检测挑战赛”，豪掷1000万美元，联合微软、MIT、牛津大学，加州大学伯克利分校等业界学界一起，创建一个“深度造假”视频库。
Facebook的首席技术官Mike Schroepfer表示，挑战的目标是“创造出每个人都可以使用的技术，以便更好地检测AI何时被用来改变视频以误导观众。”
成果什么时候能落地应用不得而知，但意识到这种没有监管的伪造技术造成的影响也是好事。
木木认为，如果这种技术一直不受监管约束，一旦普及并且被大多数人利用，那么意味着我们从互联网上所获取的所有新闻和图片，来源都有可能不可信。
上面也提到，年轻的女孩或者女明星，仅仅是因为在社交网站上公布了一些照片，第二天就能成了“动作片”女主角的荒唐事件。
似乎除了本人出来辟谣，就没有办法去证实真假，只能任由虚假事态进一步发展。如果互联网充满无法被证明的故事，那么普通人用来搜寻真理的互联网还有什么用呢。
公众对事实真假没了求证欲，在“眼见未必为实，耳听未必为真”的环境下越来越久，将会带来巨大的社会成本。
因此，科技技术发展是必然的，但如何在技术快速发展的同时，加强技术的监管，这是发展之余必须考虑的问题。
