【人工智能爆发式发展，#如何增强伪造内容检测能力#？】23日，2024世界科技与发展论坛召开主题会议，聚焦人工智能治理创新。近年来，人工智能技术爆发式发展。据中国工信部数据显示，完成备案并上线为民众提供服务的生成式人工智能服务大模型近200个，注册用户超6亿。然而人工智能为人类带来便利的同时，也带来了严峻的安全和伦理挑战。近期香港警方捣毁一跨境诈骗窝点，诈骗分子利用深度伪造技术（deepfake）换脸伪装进行诈骗，涉案金额超3.6亿港元。中国工程院院士张平表示，多模态大模型内容伪造检测功能也是确保AI安全治理的关键技术，难点在于多语言大模型对伪造内容缺乏针对性理解，以及如何增强伪造内容检测能力。对此，张平也提出了相关解决办法：开放世界的假模型数据存在的多样化篡改内容、多样化现实背景，利用多模态大模型的世界知识作为指导，以提升假新闻的理解和表征，思路就是将伪造的知识注入到模态大语言模型中，有效地结合图像文本内容以识别和分析复杂的伪造信息，并实现对内容真实性的验证。（凤凰卫视周乐晗、徐翊轩 北京报道）
