遏制AI批量造谣，亟待织密法治之网

近期，多地公安机关发布了多起利用AI工具实施造谣的相关案件。6月20日，两名营销人员为博取关注造谣地铁站发生持刀伤人的情况，被上海警方依法处以行政拘留。其中一人使用AI软件生成视频技术，编造了地铁行凶的虚假视频等不实信息发布到网上，造成恶劣社会影响。

智能化、速成式，一键生成、坐收流量。通过AI软件，给出关键词，软件便会自动在网络上抓取相关信息，生成几百到上千字的文本，配上貌似和事件相关的虚假图片，甚至直接生产虚假视频，从而形成一篇看起来信息量很大，实际上子虚乌有的内容。场景一键生成、图文真假难辨，被玩坏的AI已经成了某些人手中名副其实的“造谣机”，打开了批量造谣的“潘多拉魔盒”。

多起AI造谣事件背后，造谣者的动机主要是为了获取互联网内容平台给予创作者的点击量、阅读量奖励等。此类生意并不新鲜，只不过，过去这些人炮制稿件，至少还需要认识几个字，需要复制粘贴和拼凑抄袭；如今在AI助力下，进入门槛大大降低，几乎完全零门槛，而且篇篇“原创”，产量更是惊人。之前有媒体报道，有机构最高峰一天能生成4000至7000篇，最高的一条收入700元，初步估算每天收入1万元以上。

内容越是惊人，越能博取流量，越能牟取收益。此类网络谣言之所以批量出现，完全是因为利益驱使。当舆论场上大量充斥类似劣质虚假信息，不仅会对舆论空间和信息生态造成极大破坏，而且很有可能扰乱社会秩序甚至引发混乱。AI越强大，谣言越猖狂，这是我们社会的不可承受之重。便利的AI工具大大降低了造谣成本，提升了谣言的数量级和传播力。AI造谣呈现出门槛低、批量化、识别难等特点，亟待加强监管，斩断背后利益链条。

AI谣言批量涌现，板子首先应该打在互联网内容平台身上。从根本上说，这帮人整天利用AI工具制造信息垃圾，是为了从互联网内容平台赚钱。互联网内容平台的利益分成机制，刺激了类似网络谣言的海量生产；与此同时，互联网内容平台严重的审查漏洞，又给此类垃圾信息提供了几乎没有限制的发表空间。如果是传统机构媒体，这些垃圾信息不可能得以发表，更不可能获取稿费；但在自媒体平台上，利用AI炮制的任何垃圾都能轻松发表，而且越是能够吸引眼球的虚假信息流量分成越高。

遏制利用AI批量制造谣言，互联网内容平台责无旁贷，必须切实担负起责任。用技术解决技术，用魔法打败魔法，在大数据和新技术面前，识别利用AI炮制的垃圾信息，并没有那么困难。如果某些自媒体账号，创作量惊人，每天都更新N多篇，而且内容五花八门，什么热门写什么，账号主体却又没有任何相关资质，就非常值得怀疑。关键是，内容平台愿不愿意牺牲流量这么去做。

某种意义上，内容平台也是垃圾信息的受益者之一，它们极大提高了平台活跃度。故而很多平台只有鼓励发文的机制，却没有遏制垃圾信息和海量谣言的动力。

加大对利用AI造谣的惩处力度，是另一个关键所在。利用AI海量造谣，目前主要还是行政处罚为主，被刑事处罚的并不多。在界定制造AI谣言是否存在主观恶意以及认定被造谣方损失等方面，目前还存在一些争议。需要强化相关法律研究和适用，最好是及时出台权威司法解释，极大提高造谣者的违法成本，同时强化内容平台的监管责任。利用AI炮制谣言不能继续成为某些人的生财之道，亟待织密法治之网强化法治力量。