AI造谣日产19万篇？四招教你一眼识破！

在AI技术深度介入信息生产的当下，网络谣言正以“低成本生成、高仿真传播、产业化牟利”的新形态冲击社会信任体系。从“每20个‘80后’就有1人去世”的荒诞数据，到“冰雹大如鸡蛋砸穿汽车”的虚假灾情，再到“顶流明星澳门豪赌输光十亿”的猎奇炒作，利用AI编造和传播谣言的案例屡见不鲜。中央网信办启动“清朗・整治AI技术滥用”专项行动，标志着对AI谣言治理的全面升级，如何实现AI谣言识别与治理正成为当下网络舆论社会治理的新命题。

一、网络谣言的常见类型

二、AI如何重塑网络谣言生态

AI谣言是指利用人工智能技术生成的虚假信息，包括但不限于文本、图片、视频等。技术加持使得AI谣言比传统谣言生产 成本更低，更具有误导性和欺骗性。

• 人工智能技术下的典型谣言案例类型谣言新特征2025年5月，AI搜索软件传播“宁波交警注销抖音账号与保时捷事故有关”的谣言无中生有、移花接木“AI幻觉”被当成依据强化谣言2025年5月，有网民借广东冰雹天气，发布“冰雹比鸡蛋还大”“冰雹砸坏汽车”等AI制作生成的虚假图片。移花接木、夸大其词AI制作生成，画面明显夸大灾情2025年1月，西藏定日县发生6.8级地震传播的“被压在废墟下的小男孩”图片为AI生成移花接木、无中生有为博取眼球，将AI作品“小男孩被埋图”与日喀则地震相关信息进行关联拼凑、误导网民2025年1月，网传“好莱坞巨型标志牌被加州山火吞没”的视频是由AI生成。蹭热点引流、无中生有境外谣言在境内二次传播，带有“Grok AI”的水印2024年12月，知名传染病学专家张文宏被AI合成带货视频无中生有、蹭热点引流虚拟人物与场景搭建2024年1月，有网民在某平台发布“云南山体滑坡灾害已致8人遇难”的虚假信息蹭热点引流、夸大其词、无中生有为获取流量牟利，搜集网络上的相关信息后，利用AI软件生成虚假新闻信息2023年12月,有网民在今日头条平台发布“广州即将成为全国首个限制外卖配送的城市”的谣言。断章取义、蹭热点引流使用人工智能工具批量生成不实文章进行引流牟利

（一）AI谣言生成门槛更低。

过去造谣主要靠人工撰写、剪辑，速度有限。而AI的引入使谣言生产实现了自动化和批量化。利用生成模型，“造谣机器人”可以在极短时间内编造出海量稿件和图像。例如，央视新闻报道西安警方破获的一款名为“翠绿笔墨”的AI写稿软件，一天能自动生成19万篇文章，7天可达上百万篇。

AI模型自身的“幻觉”特性（即生成无事实依据的内容）也成为谣言源头之一。例如“宁波交警抖音账号因保时捷交通事故被注销”的谣言，正是AI模型自身生成无事实依据内容，部分网民因轻信AI内容而误传谣言，经官方辟谣才得以平息。

“宁波交警注销短视频账号与保时捷事故有关”谣言传播截图

警方辟谣截图

（二）AI谣言辨别真伪更难。

通过图像生成技术，可以凭空捏造从未发生的场景；借助语音合成技术，能够伪造当事人的发言；利用深度伪造视频，甚至能制造公众人物虚假言行的视频。

通过深度学习，AI模型可模仿正式报道的口吻，使造假内容“像模像样”，误导读者认为内容“权威可信”甚至伪造数据表格增强可信度；对现有新闻或信息进行快速、深度的“洗稿”，生成大量语义相似但表述各异的变体内容，以规避查重和内容审查，使虚假信息的持续、变相传播。

西藏日喀则地震“被压在废墟下的小男孩”

利用AI软件编造“山体滑坡致8人遇难”网络谣言

利用AI生成工具捏造“杭州滨江发生恶性刑事案件”谣言

《瞭望》新闻周刊报道称，中国互联网联合辟谣平台近一年来公布的近300条谣言中，有87%的谣言包含具体地点，21%附有数据表格，其逼真程度远超传统谣言。

“故意捏造并传播虚假‘死亡率’”系列谣言

（三）AI谣言传播效率更高。

AI谣言常与网络水军和机器人账号相结合，形成谣言的协同传播。过去一个人造谣可能局限在朋友圈或少数平台，如今社交媒体上存在大量的“社交机器人”,能够快速、大规模地发布和转发内容,迅速扩大谣言的传播范围和速度。

“顶流明星澳门豪赌输光十亿”的谣言24小时内登上微博热搜

此外，AI造假滋生出专业化、产业化的谣言账号矩阵。传统自媒体造假多是单打独斗的小号或个人，为一两次爆款博出位；而AI造假催生了有组织的造谣团伙，他们养殖大量账号，形成谣言传播网络，经营模式更像“黑灰产”。如2024年6月，江西警方披露一起利用人工智能造谣的案件。据通报，涉案MCN机构通过AI软件生成内容的方式，短时间内生成了大量文章，最高峰一天能生成4000到7000篇。

央视新闻报道《MCN机构用AI造谣被曝光》

三、四招识破AI谣言“伪装术”

看风格，AI谣言常采用“第一人称+夸张描述+段落式情绪渲染”格式，渲染紧张氛围以吸引注意，以新闻风格配合惊险“灾情”细节提高可信度。

查细节，谣言文本中经常出现具体地名、机构名、人名等真实元素，以增强信服力。如发现文章只附“某平台报道”等模糊来源，则应提高警惕。

辨配图，配图边缘模糊，或标注为“xxAI生成”。阅读信息时可注意检查信息源真实性。

盯账号，账号发文呈现出高度规律化和策略性，有明显的操纵迹象。发文时间集中在凌晨至清晨（如2:00—6:00），明显脱离常规作息与发布习惯，发文频率高且间隔规律。

四、清博三步构建AI谣言智控防线

一是及时发现谣言苗头。依托全网7*24小时清博舆情系统，实时捕捉AI谣言苗头，通过内容特征识别技术精准判定信息属性，包括网络暴力、深度伪造、色情低俗等违法违规内容，第一时间触发预警机制，为谣言处置争取黄金窗口期。

二是精准溯源谣言链条。针对传播中的不实信息，可通过清博传播影响力分层模型，对传播账号按粉丝量、转发量等指标分级，锁定扩散路径；结合行为模式分析，识别 “多账号联动发布”“高频使用特定标签” 等异常传播特征，揪出隐藏的谣言传播矩阵。

三是有效应对声誉风险。针对 AI 谣言的传播态势，清博同步输出应对策略，提升处置效能；通过合规手段高效维权，最大限度降低声誉损失，以法治手段守护权益。