以假乱真的AI换脸术也有bug?

以假乱真的AI换脸术也有bug?
2019年03月21日 14:59 麦仑Melux

最近AI技术又一次刷了网络的热点。有一段换脸视频在网上引起热议:港版《射雕英雄传》(1994年版)朱茵主演的黄蓉被AI技术爱好者通过“AI换脸术”处理成了杨幂的脸,神态表情如同朱茵饰演的黄蓉一样生动俏皮,毫无违和感。AI再一次让人们惊叹:真假难辨!

“换脸”这事儿,朱茵和杨幂并不是个例。有粉丝会专门为自家爱豆制作这样的换脸视频,比如将主播阿冷换成唐嫣,将主播冯提莫换成赵丽颖等等。

所谓AI换脸术,是基于人工智能的人体图像合成技术,生成的假脸(通称DeepFake)。有报道称,瑞士两位科学家对deepfake进行了测评,先后测试了两套前沿且先进的人脸识别系统。结果显示,AI分辨真假视频错误率高达 95%!也就是说,理论上Deepfake几乎可以骗过我们当前掌握的所有鉴证技术。AI换脸术效果太过逼真,无论是人还是机器,都难辨视频的真伪,让人不禁胆战心惊,担忧该技术会被用于不法行为。如果类似的假视频被用在投票、骚乱、战乱误导民众,煽风点火,后果可能是灾难性的。

(2018年初,youtube上有人放出基于Deepfake技术制作的关于川普的模仿视频)

其实,AI换脸术也有bug,以AI来反AI是方法之一。

纽约州立大学奥尔巴尼分校教授吕斯卫领导的团队发现了伪造视频的漏洞:换脸后极少甚至不会眨眼,因为它们都是使用睁眼的照片进行训练的,鲜少有眨眼的图片来训练。

因此,缺少眨眼是判断一个视频真假的好方法之一。“反AI变脸”技术通过有效预测眼睛的状态,准确率达99%。

尽管AI换脸技术需要好的PC和显卡才能完成制作,目前仅支持Windows系统,对民用来说,难度还是很大的。

但是随着技术的进步,该技术的使用门槛会越来越低,如果运用得当,可以创造很多有趣的内容。若然使用不当,还是不免让人害怕。

财经自媒体联盟

新浪首页 语音播报 相关新闻 返回顶部