进行伪造，就连伪造生成的证件也越发逼真。譬如一张照片把它通过另外一个人的视频，变成可以微笑，可以进行眨眼的模式叫做活化，还可以编辑它的表情，把人变老、化妆、换发型等，显然能够给身份认证过程中增加一定的难度。
想要知道如何防守，先要了解对方如何攻击。在蚂蚁天玑实验室，会有大量模拟人以及机械的方式去做自动化攻击测评。通过GAN模型生成超测试样本，交给ZOLOZ Deeper进行判别训练，每个月进行超过20000次的攻防测评，模拟上百种伪造攻击情况。
“Deepfake攻和防是一个相对且不断精进的过程，你在进步，Deepfake也在进步，我们要做的就是跑在它的前面。” 陶冶说道。
#03
一场持久战
在AIGC时代，与深度伪造技术的攻防已经演变成一场需要各方参与的持久战，想要保证比黑产、黑客早半步，并不是一件易事。
石霖用“发现的都没发生，发生的都没发现”这句话来概括这场攻防战的走向。在他看来，攻防是一个很大的命题，安全防护等级提高的同时，黑产也在尝试升级各种攻击方式，“一些成功的攻击手段可能大家都没检测出来，没有成功的可能都被防住了。”
企业近年来通过建立奖金池和生态响应中心，以吸引更顶尖的白帽黑客帮助发现平台漏洞，进而强化自身防护能力。如ZOLO此次设立了超百万的奖金池，支持安全极客来挖掘 ZOLOZ Deeper的漏洞。
从国家和政府层面而言，相关法律法规的出台与有效监管，也是防范AI滥用的关键。
2022年12月，《互联网信息服务深度合成管理规定》发布，对人脸生成、替换、操控，合成人声、仿声等都有明确约束。去年，国家网信办、国家发展改革委、教育部等七部门联合发布《生成式人工智能服务管理暂行办法》，进一步明确了生成式人工智能的行业发展规范。
从技术发展潮流的角度出发，人工智能行业不可能完全摒弃深度伪造这项技术，但作为公众可以采取一些措施来避免或减少被攻击的可能。
深度伪造技术虽已发展至真假难辨，但如果没有数据投喂训练，是不可能凭空制作出一张真人的人脸或是声音的。因此，在提高防诈骗意识之前，我们可以先提高防止个人隐私泄露的意识，如将社交资料设为私密，减少或者杜绝在社交媒体上分享账户、家庭家人、交通出行、工作岗位等敏感信息等。
其次，不管是个人用户还是涉及到收集大量用户隐私信息的企业，都应严守科技与道德伦理底线。
欧盟主要通过个人信息保护和虚假信息治理等法律法规来从法律层面限制人工智能造假技术的应用。如谷歌、META等在欧盟拥有巨量用户的大型科技公司，采取措施来打击其平台上的深度伪造和虚假账户，否则将面临高达其全球营业额6％的罚款。
国内像短视频社交巨头抖音去年发布了《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。今年3月以来，打击违规内容的力度进一步加大。
眼下，无论是对于AIGC的运用，还是与深度伪造技术的攻防，人类都还有很长的路要走。
