• 我的订阅
  • 社会

AI造谣一张嘴,辟谣跑断腿,快来看看

类别:社会 发布时间:2023-05-09 20:27:00 来源:科普社会

5月5日,甘肃平凉市公安局崆峒分局侦破了一起利用AI人工智能软件炮制虚假新闻,赚取流量从中获利的寻衅滋事案件。这也是自1月10日《互联网信息服务深度合成管理规定》颁布实施以来甘肃省公安机关侦办的首例利用AI人工智能技术炮制虚假不实信息的案件。

AI造谣一张嘴,辟谣跑断腿,快来看看

图源每日甘肃网

案情信息透露,在今年4月25日,崆峒分局在网络巡查中发现,某平台账号中发布了一条标题为“今晨甘肃一火车撞上修路工人致9人死亡”的文章,初步判断为虚假不实新闻。随后网警展开工作,发现同一时段有22个平台账号发布了相关文章,文章内容地点除了平凉市,还有兰州、定西、酒泉等地,阅读量已有1.5万余次。

经查,发布不实信息的账号均属深圳某自媒体公司,公司法人洪某有重大嫌疑。5月5日,洪某在广东东莞市被抓获,侦查发现,其购买了大量账号用于网络流量变现,他在全网搜索近年来社会热点新闻,通过人工智能文案生成平台chatgpt将收集到的新闻要素进行编辑生成,上传到平台账号进行非法牟利。洪某利用现代技术手段编造、散布虚假信息,造成网络公共秩序混乱,被认为已涉嫌寻衅滋事罪,当前嫌疑人已被采取刑事强制措施,案件也在进一步侦办中。

正所谓造谣一张嘴,辟谣跑断腿,此前也已经出现过AI炮制假新闻的事件,今年2月中旬,网上曾流传出一则所谓“浙江省杭州市政府3月1日取消机动车依尾号限行”的“新闻”,引起了杭州本地居民的关注,经过警方调查后发现是杭州某小区业主随手用chatgpt生成的假新闻,该业主将内容发在了业主群里,结果被广泛传播开来变成了一条假新闻。与本案中有心利用AI技术非法牟利不同,这一乌龙事件尚且能说是业主的无心之失,也因为群内其他业主没有注意聊天的上下文导致错误消息被传播开来形成谣言。

依照《互联网信息服务深度合成管理》规定,深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。几十秒炮制而成的虚假新闻轻则造成误导性信息的传播,重则抹黑他人名誉,引起社会恐慌,AI不仅能生成出虚假的文本,还能生成出以假乱真的图片,大大提高了大众对于虚假信息辨识的难度。AI虚假新闻动摇的是新闻真实性的根基,尤其是涉及社会事件的虚假新闻,被广泛传播后极易造成公众恐慌,严重影响正常的网络秩序,是对法律的挑衅。

早前就曾有新闻可信度评估机构指出,chatgpt或将成为互联网有史以来最强大的传播虚假信息的工具,而从网友们与chatgpt乐此不疲的对话结果来看,其实时聊天生成的内容极其流畅,大多数时候也不曾出现逻辑缺失,甚至会表现出令人细思恐极的“情感性”。面对具有超强造假能力的AI,审核机制却基本空白,现有的互联网平台的审核机制并不能高效筛选出AI生成的谣言内容。

AI在创新场景等方面应用的未来还十分广阔,从积极的一面来看,AI也能够成为辅助人类生产生活、提高生产效率的工具,但AI不应成为假新闻生成的“摇篮”。平台方面更需要警惕,加强对平台账号真实性的审核,避免让虚假信息造成不必要的舆论漩涡。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-05-09 23:45:13

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

当他们用ChatGPT写假新闻
...平凉市公安局网安大队侦破一起利用AI人工智能技术炮制虚假不实信息的案件。说起来,这已不是ChatGPT第一次陷入假新闻风波了。问世伊始,便有人见识到其“一本正经胡说八道”的高
2023-05-09 11:03:00
...AI软件生成“陇南八县一区发生了一场集体示威活动”的虚假图文信息并在网络平台发布。该谣言信息被多次转发,引发公众热议,扰乱社会公共秩序。经公安机关依法调查,范某某对违法行为供
2024-05-04 01:20:00
AI假新闻,霸占我的家族群
...接反应,而非看完之后进行冷静思考。这也正是AI合成的虚假新闻产生的温床。作者 | 张文曦编辑 | 谭山山题图 | 纪录片《真相背后:虚假新闻与信息的代价》AI假新闻,收割眼泪
2025-01-22 17:33:00
中文互联网正在被AI污染
...看。打开今日头条,你也有很大几率看到用ChatGPT生成的虚假新闻,它们曲折、离奇,足够耸人听闻。AI制造充斥互联网,连漂亮小姐姐都可以一键生成。在AI的加持下,无意义的内容
2023-05-19 14:07:00
有图未必是真相!揭开利用AI技术编造谣言真相
...成几百到上千字的文本,并配上貌似和事件具有相关性的虚假图片,从而形成一段看起来信息量很大,实际上子虚乌有的内容。违法人员王某某将AI生成的这些内容,使用另一款软件自动上传到该
2024-06-24 09:42:00
利用AI炮制假新闻牟利?查!
...平凉市公安局网安大队侦破一起利用AI人工智能技术炮制虚假不实信息的案件。这也是自1月10日《互联网信息服务深度合成管理规定》颁布实施后,我省侦办的首例案件。为有效抵制、坚决打
2023-05-08 13:18:00
一天写7000篇!MCN机构利用AI造谣,细节曝光
...生成几百到上千字的文本,配上貌似和事件具有相关性的虚假图片,从而形成一段看起来信息量很大,实际上子虚乌有的内容。通过AI软件生成内容的方式,这家MCN机构短时间内生成了大量文
2024-06-14 09:09:00
...平凉市公安局网安大队侦破一起利用AI人工智能技术炮制虚假不实信息的案件。警方通过对“今晨甘肃一火车撞上修路工人致9人死亡”的虚假文章调查后,发现犯罪嫌疑人通过人工智能软件将搜
2023-05-09 06:36:00
...大学近期发布的《网络不实信息治理研究》表示,“针对虚假摆拍为代表的网络不实信息,短视频平台联合创作者对演绎虚构内容进行标识,有助于区分虚假摆拍,七成网民表示支持。”6项新规系
2024-01-19 15:47:00
更多关于社会的资讯:
吉林动画学院师生原创动画电影《疯狂电脑城》定档10月6日 献礼建校25周年
由吉林动画学院师生原创制作的科幻冒险动画电影《疯狂电脑城》官宣定档10月6日,正式跻身国庆黄金档,为吉林动画学院建校25周年献上一份重磅贺礼
2025-09-19 21:28:00
合肥市庐阳区:力争到2035年 建成“全产业链”的智能传感器千亿产业集群
大皖新闻讯 9月19日,2025年合肥市智能传感器产业发展大会在庐阳区召开。200余家智能传感器领域企业齐聚一堂,围绕“传世界 感未来 聚庐阳”主题
2025-09-19 19:28:00
东南网龙岩9月19日讯(通讯员陈俣杉)近日,兴业银行龙岩分行成功落地龙岩市首笔可再生能源绿色电力证书挂钩贷款,为光伏发电企业某新能源有限公司屋顶分布式光伏电站项目建设提供万元绿色普惠贷款
2025-09-19 18:42:00
近日,中国银行迁安支行通过快速响应与高效协作,成功拦截一起跨境电信诈骗案件,为客户挽回32万元港币的经济损失。9月5日
2025-09-19 16:59:00
盼十一假期的打工人,都在熬夜钻研这份厕评红黑榜
作者:小树苗盼望着,盼望着,九月终于来了,打工人九月的主线任务之一就是——等十一假期!于是在网上疯狂搜集出行攻略成了日常摸鱼的to do list之一
2025-09-19 08:42:00
东湖评论:长江水润书香浓,楚地文兴聚知音
秋意渐浓的武汉,风里已裹着桂花的清甜,而比花香更沁人心脾的,是一场即将启幕的书香之约。9月19日,2025年“书香长江”阅读周·武汉书展暨华中图书交易会盛大启幕
2025-09-19 16:28:00
翱翔长空|长光卫星:“吉林一号”助力 领跑中国商业航天
中国网长春9月19日讯(记者 李平书)18日,记者跟随 “红星照耀中国·翱翔长空”网络主题活动来到长光卫星技术股份有限公司
2025-09-19 16:09:00
294所校外培训机构被教育局列入“黑名单”,家长注意避雷
近日,记者在济南市教育局官方网站获悉,济南市教育局发布了济南市校外培训机构“黑白名单”公示(2025年8月份),对历下区
2025-09-19 16:08:00
中德帆船少年开启必胜客之旅,“扬帆必胜”餐厅成文化交流新窗口
齐鲁晚报·齐鲁壹点 李梦瑶万众瞩目的2025第十七届青岛国际帆船周•青岛国际海洋节暨第二届中国(青岛)国际海洋体育大会赛事正酣
2025-09-19 16:07:00
中新经纬9月19日电 据中国民航局网站19日消息,为深入贯彻落实党中央、国务院关于发展通用航空和低空经济的重要决策部署
2025-09-19 12:21:00
中新经纬9月19日电 据国家税务总局网站19日消息,9月19日,河北、湖南、辽宁等地税务部门曝光依法查处的2起MCN机构涉税违法和1起网络主播偷逃税案件
2025-09-19 12:24:00
小叶医探 | 全球首个!安徽专家团队为系统性红斑狼疮治疗带来新曙光
大皖新闻讯 北京时间2025年9月18日,国际权威医学期刊《新英格兰医学杂志》(The New England Journal of Medicine)在线发表一项重要医学突破—
2025-09-19 12:30:00
无为101岁老太独自探亲失联 民警多方联动平安寻回
大皖新闻讯 9月17日,无为市一位101岁的老太在独自出门探亲后,与亲属失联。当地警方接到报警求助后,立即投入工作。经一番细致查找
2025-09-19 12:31:00
横峰农商银行联合县退役军人事务局开展金融知识宣讲活动
为进一步深化联建共建工作,促进金融服务与关爱退役军人的深度融合,切实提升退役军人金融素养和风险防范能力,9月15日,横峰农商银行联合县退役军人事务局开展了一场金融知识宣讲活动
2025-09-19 13:05:00
直击环翠送兵现场:三代人穿军装,妈妈喂的饺子藏着最暖的牵挂
齐鲁晚报·齐鲁壹点记者 田佳玉 通讯员 林慧芹秋风带着清爽的凉意拂过,环翠区民兵训练基地里,胸戴大红花的应征入伍新兵们身着戎装
2025-09-19 13:19:00