• 我的订阅
  • 社会

一天写7000篇!MCN机构利用AI造谣,细节曝光

类别:社会 发布时间:2024-06-14 09:09:00 来源:环球网资讯

来源:央视新闻

“西安突发爆炸”“重庆巫溪一民房发生爆炸事故”……这些耸人听闻的消息,竟都是利用AI软件炮制的谣言。

近日,一些不法分子为赚取平台流量补贴,实现流量变现,利用AI合成技术编造谣言,严重扰乱社会秩序。真相到底如何?公安机关又将怎样处理?一探究竟↓↓↓

有图未必是真相

违法人员利用AI技术 博取 流量

今年1月,某网络平台出现一条关于“西安爆炸”的消息称,当月 10日晚,西安突然响起巨大爆炸声, 文字下方还配发所谓爆炸的图片。消息一经发布,很快在网上传播。

一天写7000篇!MCN机构利用AI造谣,细节曝光

经调查,消息的发布账号归属于江西南昌一家MCN机构,这家公司的实际控制人为王某某。经核实,民警发现当地没有发生类似事件,初步判定该MCN机构发布的数条信息涉嫌网络造谣,属不实信息 。

警方对王某某进行约谈,得知网上发布的这条谣言,从文本到图片都是通过AI生成的 。民警表示,利用AI软件生成新闻热点类文章和图片,全程基本不需要人工参与。

国内一网站可提供近期可能生成热点的新闻报道,违法人员王某某通过该网站获取热点关键词,并生成文章标题。

王某某通过AI软件,给出关键词,软件便会自动在网络上抓取相关信息,生成几百到上千字的文本,配上貌似和事件具有相关性的虚假图片,从而形成一段看起来信息量很大,实际上子虚乌有的内容。

一天写7000篇!MCN机构利用AI造谣,细节曝光

通过AI软件生成内容的方式,这家MCN机构短时间内生成了大量文章,最高峰一天能生成4000至7000篇,最高的一条收入700元 ,初步估算每天的收入在1万元以上。

经警方调查,王某某共经营5家MCN机构,运营账号842个。自今年1月以来,其中一家MCN机构利用其账号,陆续在某平台发布了“西安1月10日发生爆炸导致建筑、车辆炸毁、人员伤亡”等多条谣言信息。

经查,王某某的行为构成传播谣言,虚构事实,扰乱公共秩序。目前,南昌警方依据相关规定,依法对王某某处以行政拘留5日,责令涉案MCN机构停业整改。

新闻风格+惊险“灾情”细节

此类AI生成谣言更具迷惑性

在重庆,公安机关查处一起个人利用AI软件,编造民房爆炸谣言的案件 。这起案件被公安部列为打击整治网络谣言违法犯罪典型案例。该案例利用AI技术,模仿新闻风格,一键生成涉及灾情的信息,以获取高流量。

去年12月25日,一则“重庆巫溪一民房发生爆炸事故,4人不幸遇难,官方紧急介入调查” 的消息在某网络平台发布,全文500余字,以新闻报道的口吻,提供了“发现了4名遇难者,其中包括一名儿童”“疑似与居民私拉乱接电线有关”等细节,短时间内获得数万次的点击量。

这篇谣言阅读量暴涨,让之前在网上发文没有任何流量的康某某一开始还有些兴奋。

康某某:之前我发了20多条内容都没有收益,后来看到一个爆炸新闻有好几十万的点赞量。我就在网站输入“重庆”“爆炸”,它自动生成内容,我复制它的标题和文章。

一天写7000篇!MCN机构利用AI造谣,细节曝光

康某某之所以制造谣言,是因为得知在某知名网络平台创作发布文章,可以根据阅读、评论、转发数量等获取相关流量收益,每千人有效阅读量有1—2元的奖励。但他编造虚假消息博取流量的行为已触犯法律。

经查证,康某某对其虚构事实扰乱公共秩序的违法行为供认不讳。公安机关依法对其行政拘留3日,收缴其违法所得,并封禁其网络账号。

专家:平台应履行相应监管责任

合理强化违法成本

法学专家表示,大量不实信息对普通网民来说,有时很难直接判断是否为谣言,而平台对于相关信息,应该尽到监管责任。

有的网络平台向流量高的内容和用户支付报酬,在某种程度上会刺激一些想要赚钱的网络用户发布虚假信息。专家表示,平台在刺激创作的同时,也应尽到消除虚假信息传播的责任。

西南政法大学法学院教授陈伟表示,支付报酬方面,平台应行使积极的引导作用,对散布谣言者采取相关的惩罚机制。

法律专家建议,在法律法规上应让造谣者付出更大的成本。

陈伟表示,违法成本在行政处罚里涉及行政拘留、行政性罚款等,还包括封号这样的措施。法律应匹配违法人员的违法成本和他承担责任之间的比例,以免其他人看到违法成本过低,遏制作用有限。

一天写7000篇!MCN机构利用AI造谣,细节曝光

网络并非法外之地

对于在互联网上

发布不实言论、扰乱社会秩序的

公安机关将坚决依法处理

对于造成恶劣影响、情节严重的

公安机关将依法追究其法律责任

本文来源:央视新闻微信公众号综合《法治在线》

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-06-14 12:45:04

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

有图未必是真相!揭开利用AI技术编造谣言真相
...与居民私拉乱接电线有关,调查组将进一步搜集证据”等细节,短时间内这则所谓的“突发新闻”便获得了几万次的点击量。阅读量暴涨,让之前在网上发文没有任何流量的康某某一开始还有些兴奋
2024-06-24 09:42:00
公安部公布多起“AI谣言”典型案例,6人造谣“广州限制外卖配送”被采取刑事强制措施
...”谣言案,涉案人被行政处罚。江西公安机关查处一起MCN机构使用人工智能工具造谣案,对涉案人处以行政拘留5日,责令涉案MCN机构停业整改。重庆公安机关查处一起使用人工智能工具编
2024-04-13 18:34:00
...造“救灾物资被倒卖”谣言案、江西公安机关查处一起MCN机构使用人工智能工具造谣案、重庆公安机关查处一起使用人工智能工具编造“爆炸事故”谣言案、江西公安机关查处编造“某银行倒闭
2024-04-25 10:39:00
...护人民群众合法权益,公安部统一部署开展打击整治网络谣言专项行动。重庆各级公安机关迅速行动,全面梳理摸排各类网络谣言线索,依法严厉打击编造传播网络谣言违法犯罪行为。1月17日,
2024-01-17 18:33:00
MCN机构造谣牟利,山东潍坊警方破获为“吸粉”编造传播谣言案
...言打击整治专项行动”。近日,山东潍坊警方破获一起MCN机构账号利用AI智能工具捏造虚假新闻散布网络谣言案。 2023年5月27日,网民“街头乞丐哥哥”在网络平台发布一条标题
2023-07-25 11:15:00
...从办案角度来说,一些蹭社会热点、有一定‘背景’、有细节描述的谣言容易引起社会关注。以‘向寺庙借款’案为例,从‘政府向寺庙借款’这样极具话题性的角度,辅以‘财政局一位不愿透露姓
2024-11-30 09:06:00
...意识,尽可能避免生成有害信息等。在信息传播上,监管机构督促平台方,通过更有效的技术和管理措施,来识别和阻止这类行为。网络平台需要落实好网络安全主体责任、前置审核关口,从技术上
2024-06-12 00:23:00
...相关案件,如发布“西安突发爆炸”虚假新闻的账号所属机构,最高峰一天能生成4000至7000篇假新闻,每天收入在1万元以上,而公司实际控制人王某某经营着5家这样的机构,运营账号
2024-07-24 12:29:00
...袁某林为了赚取平台补贴,杜撰郑州鸡排店门口案件虚假细节,造成恶劣影响,严重扰乱公共秩序。经公安机关调查,袁某林对其违法犯罪行为供认不讳。目前,公安机关已依法对其采取刑事强制措
2023-07-22 13:22:00
更多关于社会的资讯: