AI 发展得实在太快了，目前已经在写文章、作画以及制作图片、音视频等方面展现出了无与伦比的能力。与此同时，AI技术造假也已成为我们在网上面临的最大问题之一。随着 AI 生成工具的兴起和滥用，在网上编造和传播欺骗性新闻、图片、音视频的成本变得更低，也彻底颠覆了人们关于“有图有真相”的常规认知。
据央视报道，今年1月，某网络平台出现一条“西安发生爆炸”的消息。消息称：1月10日晚11时48分，突然一声巨大的爆炸声在城市中响起。文字下方还配发了所谓爆炸的图片，这条耸人听闻的消息很快在网上传播。
由于其时间地点等关键信息和配图齐备，极具迷惑性，加剧了民众的恐慌情绪。
然而，经警方调查，消息发布账号归属于一家江西的 MCN 机构，该公司实际控制人为王某某。
经核实，上述谣言从文本到图片全部由 AI 生成。王某某通过国内一个网站 —— 其专门提供“近期可能生成热点的新闻报道”或“正在 / 即将发生的一类事情”，并分级分类将关键词提供给写作者。王某某通过该网站生成关键词，形成了文章的标题。
随后，王某某再通过具有语音交互功能的 AI 软件，说出关键词后，软件便会自动从网络上抓取相关信息，生成几百上千字的文本，并配上“貌似与事件相关”的虚假图片，从而形成一段看起来信息丰富、实为捏造的内容。
接着，王某某再将这些文章使用另一款软件自动上传到该 MCN 机构控制的多个网络平台不同账号上，并对外发布。从新闻撰写到多平台发布，全程基本不需要人工参与。这类谣言信息就是这么批量产生和传播的。
那么这些文章又是怎么赚钱的呢？
据悉，这些虚假文章被上传到多个网络平台后，平台会根据文章的点赞数和阅读量等给与报酬。同时如果有广告收入的话，平台会另行支付报酬。
这家 MCN 机构短时间内生成了大量文章，最高峰一天能生成 4000-7000 篇，最高的一条收入是 700 元。经初步估算，每天的收入在1万元以上。
该 MCN 机构发布的网络谣言中，多以民生类信息为主，通过加入夸张故事情节或猎奇性成分，或编造不实信息来获取高流量，进而实现流量变现。
经查，王某某经营有5家 MCN 机构，共运营自媒体账号 842 个，其长期组织公司人员选取热点文章，使用人工智能工具批量生成不实文章进行吸粉引流。目前，江西南昌公安机关已对王某某处以行政拘留 5 日，责令涉案 MCN 机构停业整改。
无独有偶，去年底一则“重庆巫溪一民房发生爆炸事故，4人不幸遇难，官方紧急介入调查”的消息在某网络平台上发布，短短几分钟便获得了数万次的点击量。
经查，这同样是一起个人利用 AI 软件造谣的案件，目的无非是想增加个人账号的曝光度、阅读量，以此获取平台的奖励，实现流量变现。
然而，诸多造谣者并未意识到，利用 AI 工具生成一篇虚假文章并发表在网上这一举动，已触犯相关法律，并非只要将虚假文章删掉就能逃脱法律的制裁。
最后笔者提醒大家，网络并非法外之地，对于互联网新技术、新应用，希望广大网民能依法依规合理使用，若出于恶意目的，利用 AI 工具编造虚假违法信息，扰乱社会公共秩序的，公安机关将坚决依法坚决处理，对于造成恶劣影响、情节严重的，公安机关将依法追究其法律责任。
编辑：cc
