极目新闻记者 潘锡珩
上传一张照片，就能利用AI技术鉴别照片是不是其他AI的伪造品；不法分子使用了AI换脸技术，也能被AI精准识破。
11月19日，2024年世界互联网大会乌镇峰会开幕，人工智能再次成为热议话题。在“互联网之光”博览会的蚂蚁集团展台，极目新闻记者注意到，AI能够帮助我们识别图片是否经过AI创作，还能堵上AI换脸带来的安全漏洞。
过去一年，全球人工智能技术发展迅速，正在成为新一轮科技革命和产业变革的重要力量。今年的世界互联网大会聚焦于人工智能技术、产业发展及其对人类经济社会的影响。
蚂蚁集团展台工作人员介绍，当大模型和AI智能体带来前所未见的智能体验，模型内部幻觉、安全漏洞和深度生成内容伪造等问题也带来了新的挑战。蚂蚁集团的“AI鉴真”工具，可以实现用AI打败AI。
用AI生成一张照片或一段视频，这在技术上被称为深度伪造，常被犯罪分子用于诈骗勒索。蚂蚁正通过蚁天鉴和ZOLOZ等安全技术产品加强对图像、视频的鉴真能力。
蚁天鉴不仅支持图像、视频等多模态内容真实性及深度伪造的监测，还支持大模型X光、大模型基础设施测评、应用安全测评、围栏防御等技术能力。
极目新闻记者现场从图库中选择了多张照片，仅用几秒，蚁天鉴就可以准确识别出图片或视频片段的真伪，明确告诉记者是否经过了AI创作。此外，还可以通过纹理、光影、文字等细节，鉴别营业执照等证照的真实性。
而ZOLOZ技术则更专注于攻克AI换脸难题，其人脸识别准确率达99.9%。在现场，极目新闻记者用手机拍摄本人头像照片后，AI将这张照片合成为戴眼镜和露齿笑两张照片，以及包含眨眼、张嘴等动作的活化视频，十分具有迷惑力。搭载ZOLOZ技术的手机通过前置摄像头的逐一识别，很快鉴别出原始照片，给深度伪造的照片及视频打上醒目标签。现场多位观众多次尝试，都没能混淆ZOLOZ的判断。
工作人员介绍，目前ZOLOZ已为中国、印尼、马来西亚、菲律宾等24个国家和地区提供技术服务，涵盖金融、保险、证券、信贷、电信、公共服务等多个领域，累计服务用户超12亿。
“蚂蚁AI智能体的技术底座，就是我们的‘认知决策智能体技术创新与应用’。”现场工作人员介绍。该技术底座以万亿参数可信大模型“蚂蚁百灵大模型”为基础能力，结合高性能知识决策引擎技术，使得大模型在决策时更准、更可靠、更安全，就像为大模型装上了可信的大脑。
（来源：极目新闻）
