• 我的订阅
  • 社会

AI造谣一张嘴,辟谣跑断腿,快来看看

类别:社会 发布时间:2023-05-09 20:27:00 来源:科普社会

5月5日,甘肃平凉市公安局崆峒分局侦破了一起利用AI人工智能软件炮制虚假新闻,赚取流量从中获利的寻衅滋事案件。这也是自1月10日《互联网信息服务深度合成管理规定》颁布实施以来甘肃省公安机关侦办的首例利用AI人工智能技术炮制虚假不实信息的案件。

AI造谣一张嘴,辟谣跑断腿,快来看看

图源每日甘肃网

案情信息透露,在今年4月25日,崆峒分局在网络巡查中发现,某平台账号中发布了一条标题为“今晨甘肃一火车撞上修路工人致9人死亡”的文章,初步判断为虚假不实新闻。随后网警展开工作,发现同一时段有22个平台账号发布了相关文章,文章内容地点除了平凉市,还有兰州、定西、酒泉等地,阅读量已有1.5万余次。

经查,发布不实信息的账号均属深圳某自媒体公司,公司法人洪某有重大嫌疑。5月5日,洪某在广东东莞市被抓获,侦查发现,其购买了大量账号用于网络流量变现,他在全网搜索近年来社会热点新闻,通过人工智能文案生成平台chatgpt将收集到的新闻要素进行编辑生成,上传到平台账号进行非法牟利。洪某利用现代技术手段编造、散布虚假信息,造成网络公共秩序混乱,被认为已涉嫌寻衅滋事罪,当前嫌疑人已被采取刑事强制措施,案件也在进一步侦办中。

正所谓造谣一张嘴,辟谣跑断腿,此前也已经出现过AI炮制假新闻的事件,今年2月中旬,网上曾流传出一则所谓“浙江省杭州市政府3月1日取消机动车依尾号限行”的“新闻”,引起了杭州本地居民的关注,经过警方调查后发现是杭州某小区业主随手用chatgpt生成的假新闻,该业主将内容发在了业主群里,结果被广泛传播开来变成了一条假新闻。与本案中有心利用AI技术非法牟利不同,这一乌龙事件尚且能说是业主的无心之失,也因为群内其他业主没有注意聊天的上下文导致错误消息被传播开来形成谣言。

依照《互联网信息服务深度合成管理》规定,深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。几十秒炮制而成的虚假新闻轻则造成误导性信息的传播,重则抹黑他人名誉,引起社会恐慌,AI不仅能生成出虚假的文本,还能生成出以假乱真的图片,大大提高了大众对于虚假信息辨识的难度。AI虚假新闻动摇的是新闻真实性的根基,尤其是涉及社会事件的虚假新闻,被广泛传播后极易造成公众恐慌,严重影响正常的网络秩序,是对法律的挑衅。

早前就曾有新闻可信度评估机构指出,chatgpt或将成为互联网有史以来最强大的传播虚假信息的工具,而从网友们与chatgpt乐此不疲的对话结果来看,其实时聊天生成的内容极其流畅,大多数时候也不曾出现逻辑缺失,甚至会表现出令人细思恐极的“情感性”。面对具有超强造假能力的AI,审核机制却基本空白,现有的互联网平台的审核机制并不能高效筛选出AI生成的谣言内容。

AI在创新场景等方面应用的未来还十分广阔,从积极的一面来看,AI也能够成为辅助人类生产生活、提高生产效率的工具,但AI不应成为假新闻生成的“摇篮”。平台方面更需要警惕,加强对平台账号真实性的审核,避免让虚假信息造成不必要的舆论漩涡。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-05-09 23:45:13

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

当他们用ChatGPT写假新闻
...平凉市公安局网安大队侦破一起利用AI人工智能技术炮制虚假不实信息的案件。说起来,这已不是ChatGPT第一次陷入假新闻风波了。问世伊始,便有人见识到其“一本正经胡说八道”的高
2023-05-09 11:03:00
...AI软件生成“陇南八县一区发生了一场集体示威活动”的虚假图文信息并在网络平台发布。该谣言信息被多次转发,引发公众热议,扰乱社会公共秩序。经公安机关依法调查,范某某对违法行为供
2024-05-04 01:20:00
AI假新闻,霸占我的家族群
...接反应,而非看完之后进行冷静思考。这也正是AI合成的虚假新闻产生的温床。作者 | 张文曦编辑 | 谭山山题图 | 纪录片《真相背后:虚假新闻与信息的代价》AI假新闻,收割眼泪
2025-01-22 17:33:00
中文互联网正在被AI污染
...看。打开今日头条,你也有很大几率看到用ChatGPT生成的虚假新闻,它们曲折、离奇,足够耸人听闻。AI制造充斥互联网,连漂亮小姐姐都可以一键生成。在AI的加持下,无意义的内容
2023-05-19 14:07:00
有图未必是真相!揭开利用AI技术编造谣言真相
...成几百到上千字的文本,并配上貌似和事件具有相关性的虚假图片,从而形成一段看起来信息量很大,实际上子虚乌有的内容。违法人员王某某将AI生成的这些内容,使用另一款软件自动上传到该
2024-06-24 09:42:00
利用AI炮制假新闻牟利?查!
...平凉市公安局网安大队侦破一起利用AI人工智能技术炮制虚假不实信息的案件。这也是自1月10日《互联网信息服务深度合成管理规定》颁布实施后,我省侦办的首例案件。为有效抵制、坚决打
2023-05-08 13:18:00
一天写7000篇!MCN机构利用AI造谣,细节曝光
...生成几百到上千字的文本,配上貌似和事件具有相关性的虚假图片,从而形成一段看起来信息量很大,实际上子虚乌有的内容。通过AI软件生成内容的方式,这家MCN机构短时间内生成了大量文
2024-06-14 09:09:00
...平凉市公安局网安大队侦破一起利用AI人工智能技术炮制虚假不实信息的案件。警方通过对“今晨甘肃一火车撞上修路工人致9人死亡”的虚假文章调查后,发现犯罪嫌疑人通过人工智能软件将搜
2023-05-09 06:36:00
...大学近期发布的《网络不实信息治理研究》表示,“针对虚假摆拍为代表的网络不实信息,短视频平台联合创作者对演绎虚构内容进行标识,有助于区分虚假摆拍,七成网民表示支持。”6项新规系
2024-01-19 15:47:00
更多关于社会的资讯:
28年研发,6亿美元投入:他把“救命人工肝”带回中国
在济南高新区这片创新创业的热土上,一批像山东壹瑞特生物科技有限公司这样的高科技民营企业,正以技术为矛、以政策为盾,在生物医药的赛道上奋力奔跑
2025-09-05 16:32:00
9月5日,第二届长江文化艺术季新闻发布会宣布,本届艺术季将于9月12日至10月30日在湖北举办,以“勇担支点建设使命 打造长江文化高地”为主题
2025-09-05 13:31:00
以后开车走高速,有笔费用也许可以省下来了。近期,安徽出台《关于免收高速公路清障救援服务费的通知》,从今年9月20号起,免收境内高速公路清障救援拖车
2025-09-05 13:35:00
龙角散教师节快闪首站火爆青浦!全民参与,守护老师“声心健康”
如今,快闪活动已成为品牌与消费者深度联结的主流方式,凭借创意场景与情感互动体验,既能传递品牌温度,也能激活消费兴趣。今年教师节来临之际
2025-09-05 13:39:00
积极在世界舞台发出中国教师声音 中国教育“朋友圈”不断扩大
2025年9月5日,教育部召开“教育大会一年间·教改进行时”主题新闻发布会。 中国网记者 董宁 摄中国网9月5日讯 (记者 刘佳)9月5日
2025-09-05 13:10:00
山东服装职业学院学子在第四届全国高校国产软件应用与设计创新大赛中荣获一等奖
鲁网9月5日讯近日,第四届全国高校国产软件应用与设计创新大赛决赛落下帷幕。本次大赛吸引了来自全国各地的优秀学子参赛,服装赛道更是佳作频出
2025-09-05 12:30:00
东湖漫评:把最好的精神食粮奉献给人民
艺术的盛会,人民的节日。9月5日上午,湖北省人民政府新闻办公室召开新闻发布会,宣布本届艺术季将于9月12日至10月30日在湖北举办
2025-09-05 12:28:00
9月4日,北京杜莎夫人蜡像馆发布公告称,经审慎考虑,由于租约到期以及品牌战略的规划调整,北京杜莎夫人蜡像馆将从2025年10月1日起永久关闭。【责任编辑:郭旭】
2025-09-05 10:02:00
大众网记者 张田夏荫 实习记者 张智尧 报道首届山东省数字工程师创新创意大赛暨国际数字工程师邀请赛进入报名高峰期。作为山东省数字经济发展领域的标杆赛事
2025-09-05 10:37:00
烟台毓璜顶医院以升级版RDN术,破解顽固性高血压难题
齐鲁晚报·齐鲁壹点 孙淑玉 通讯员 李成修 李凌峰近日,烟台毓璜顶医院莱山院区心内科荆艳艳团队在静脉复合麻醉下成功为一名38岁的顽固性高血压患者实施升级版经皮肾动脉去神经术(RDN)
2025-09-05 10:57:00
全国首批!博汇纸业获批上期所胶版印刷纸期货交割厂库
日前,山东博汇纸业股份有限公司正式获批成为上海期货交易所胶版印刷纸期货交割厂库,成为全国首批交割厂库之一。此次获批,标志着博汇纸业在延伸产业链布局
2025-09-05 11:00:00
当“银发经济”与“健康消费”成为时代热词,消费者面对琳琅满目的保健食品如何选择?国家市场监督管理总局用5年专项整治行动交出了一份沉甸甸的答卷
2025-09-05 11:02:00
共同策划低俗“求婚”剧本炒作,西安警方通报:5人拘留!
中国网9月5日讯 因共同策划低俗“求婚”剧本并持续炒作,5人被行拘!9月4日,西安市公安局灞桥分局发布通报:2025年8月以来
2025-09-05 10:02:00
围标串标!网智天元科技集团股份有限公司被武警部队禁入3年
近日,军队采购网发布关于对网智天元科技集团股份有限公司(下称“网智天元”)失信处理公告。经调查核实,网智天元在参加项目编号
2025-09-05 09:50:00
电影《家门前的母亲河》剧本讨论会在垦利左一村成功举办
大众网记者 商永恒 通讯员 刘新亭 东营报道9月3日,院线电影《家门前的母亲河》剧本讨论会暨左一村创作采风活动在垦利区垦利街道左一村举行
2025-09-05 09:50:00