• 我的订阅
  • 财经

“全球风险之首”该如何管控

类别:财经 发布时间:2024-01-20 05:59:00 来源:每日看点快看

本文转自:解放日报

“全球风险之首”该如何管控

俞陶然

本报记者 俞陶然

世界经济论坛近日发布的《2024年全球风险报告》显示,人工智能对选举结果的影响高居2024年全球风险之首。这个报告每年1月发布,撰写团队会咨询1000多位来自科学界、产业界和公共组织的风险专家,旨在评估未来2年可能危及世界秩序的短期风险和着眼于未来10年的长期风险。今年,76个国家和地区将进行选举,利用人工智能技术生成的虚假信息可能会充斥网络,并对选举结果产生影响。鉴于此,《2024年全球风险报告》在十大短期风险中,将人工智能排在气候变化、经济疲软和战争之前,视其为最大风险。

如何看待人工智能生成虚假信息所带来的风险?我们应如何控制这种风险?记者采访了上海交通大学副教授牟怡、上海市科学学研究所研究员李辉。

广泛存在的社交机器人引发关注

记者:人工智能系统通常是如何制造假新闻等虚假信息并对公众观念产生影响的?

牟怡:《2024年全球风险报告》提出的人工智能风险并不是新问题。近年来,在社交网络平台上广泛存在的社交机器人已引起社会关注。社交机器人指的是由人设置、可凭借算法程序自主运行的智能社交账号,它们能与社交平台上的其他用户进行信息交互。

应用于政治领域的社交机器人被称为“政治机器人”,它们会通过营造虚假人气、推送大量政治消息、传播虚假或片面信息干扰舆论。全球范围已发现不少政治组织和人物通过社交机器人在社交平台上操纵舆论的证据。2016年美国大选期间,美国右翼组织在社交平台上借助机器人,在种族、移民、公民身份等社会敏感议题上发布了大量情绪化内容。

随着换脸、虚假音视频制作等技术的兴起,人工智能生成的虚假信息是全方位的,覆盖文字、图像、音视频等各种形式。2018年,由人工智能深度伪造合成的加蓬总统阿里·邦戈新年致辞视频引发了兵变,可见人工智能在政治领域的风险之高。

如今,人工智能大模型正在快速发展,全球很多大模型已经开源。人们可以利用这些大模型,自动批量生产和扩散高度复杂的言论信息,更高效地生成以假乱真的合成音视频。这使得公众区分真实和虚假信息的难度越来越大。

智能算法分发新闻造成“信息茧房”

记者:除了在政治领域,人工智能在其他领域会通过虚假信息影响公众观念吗?

牟怡:当然会。比如在影视评价类社交平台上,社交机器人“水军”会为一些电影和电视剧刷分,让网民对它们的美誉度产生误判。又如在电商购物平台上,机器人可以发布大量的虚假好评,促销商品。

据网络安全机构Imperva统计,2022年网络流量中,社交机器人贡献了47.4%的数据。可见,这类虚拟网民已渗透到各个领域,对人类网民的思想产生不可忽视的影响。

另一个需要警惕的问题是:即使人工智能系统生成的不是虚假信息,但在新闻资讯领域,很多应用软件会利用大数据和智能算法技术,在内容分发上进行“精准制导”,只提供用户感兴趣的、有价值认同的内容。长期看,使用采用智能算法的新闻类应用软件,很多网民就可能进入“信息茧房”,迷恋于令人愉悦的非主流意识形态,在价值观上出现偏差。

管控应以“发展和安全并重”为原则

记者:面对越来越大的潜在风险,我们应如何对人工智能加以管控?

李辉:人工智能带来的风险有两类,一类是技术本身不成熟带来的,另一类是技术应用带来的,包括误用、滥用等。从技术本身来看,普遍采用的应对做法是加速技术更新迭代,同时采取对齐工程、安全防护栏等技术方案。就制度层面如何管控人工智能风险问题,全球还没有成熟的方案。

目前,欧盟《人工智能法案》已在欧洲议会通过。这是全球首部人工智能领域的法案,将采取分级分类的监管规则,在通用人工智能、基础模型方面,把算力需求达到一定规模的基础模型自动划定为“系统性”和“高风险”,需配套透明度、安全测试评估等多项监管合规要求。

这个法案经过了漫长的谈判才达成共识协议。此前,德国、法国和意大利三国发布的人工智能监管联合文件指出,人工智能的本质风险是应用,而不是技术本身。一些科技发达国家的政府官员则担心,如果管控过于严格,会阻碍人工智能的发展。国家之间的人工智能科技和产业竞争非常激烈,如果你管控严格,别人管控不严,你就可能在国际竞争中落后,所以在风险管控方面,存在着国家间的博弈。

在中国,由国家网信办等七部门联合发布的《生成式人工智能服务管理暂行办法》已正式施行。这是我国首份针对生成式人工智能的规范性监管文件,明确了发展和安全并重、促进创新和依法治理相结合的原则,对生成式人工智能服务实行包容审慎和分类分级监管。

我的总体看法是,不能因噎废食,因为担心风险而限制人工智能的发展,而是要在不断发展中寻求解决方案。在操作层面,可以从简单的做起,比如现在网络上到处是人工智能生成的内容,在一些特定场合,有必要规定这些内容的发布者应做“人工智能生成”标注。还有业界现在通行的红队安全测试,可防范大模型滥用或非法使用带来的安全风险。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-01-20 08:45:05

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

本文转自:经济参考报随着美国开放人工智能研究中心(OpenAI)公布最新文字生成视频产品,人工智能应用再次成为各界瞩目焦点。尽管新技术高速发展中存在一定的风险和问题,但投资、企业
2024-02-20 07:35:00
· 应对人工智能技术滥用 合作才是未来
【特别关注】近年来,人工智能(AI)技术的更迭让人目不暇接。语言模型领域取得重大突破的2023年刚刚过去,2024年,人们又迎来了视频和物理世界虚拟生成方面的突破。然而,在人工智
2024-03-17 08:26:00
达沃斯2024丨AI技术革新增加就业,建立开放式平台平衡监管和创新
...代创造增长和就业机会”、“作为经济和社会的驱动力的人工智能”和“气候、自然与能源长期战略”等四大议程框架来设置各场次的议题。当地时间1月16日,名为“生成式人工智能:第四次工
2024-01-18 10:45:00
...自:中国市场监管报推动食品和营养健康领域高质量发展人工智能驱动食品产业变革与升级专题论坛举行本报讯 (记者 宿志红)科技创新是驱动新质生产力发展的核心要素。4月26日,由中国
2024-05-09 06:36:00
拥抱AI技术浪潮,米思米meviy AI打造高效圆件采购新范式
2024-06-14 10:17:13作者:姚立伟在国内外AI人工智能大模型持续突破、智能基础设施不断夯实的2024年
2024-06-14 11:41:00
...信息安全系统、降低数据安全风险的同时,引入大数据、人工智能、量子计算等前沿科技,为数字化转型赋能。记者注意到,位于沙迦的“智慧之家”数字图书馆已接入15个全球知名的数字百科全
2023-09-22 06:32:00
中国为全球人工智能治理贡献智慧(环球热点)
...人民日报海外版以共商促共享 以善治促善智中国为全球人工智能治理贡献智慧(环球热点)本报记者 贾平凡《 人民日报海外版 》( 2024年07月13日 第 06 版)二〇二四世界
2024-07-13 04:59:00
本文转自:湄洲日报报告:人工智能快速发展 加剧全球网络风险全球最大再保险集团德国慕尼黑再保险集团近期发布报告说,人工智能、云计算等技术的迅速发展正令全球网络风险持续上升。报告指出
2024-04-13 07:12:00
人工智能ETF今年来吸金居深交所之首
由DeepSeek和人形机器人引发的人工智能(AI)热潮高烧不退,各路资金纷纷涌入。《大众证券报》记者发现,2025年农历新年刚过,相关基金的场内资金净流入额已经一马当先,有的甚
2025-02-14 23:12:00
更多关于财经的资讯:
中建城服:紧急救援中的“黄金时间”守护者
在中建城服社区的每一个角落,总有一群默默奉献的物业人。他们虽然身处平凡岗位,却用实际行动诠释着“智慧赋能 服务民生”的理念
2025-09-05 14:58:00
中体产业成立场馆运营公司,含体育赛事策划业务
近日,中体(诸暨)场馆运营有限责任公司成立,法定代表人为庞晓峰,经营范围包含:体育赛事策划;体育竞赛组织;票务代理服务;体育保障组织;体育健康服务;体育经纪人服务等。企查查股权穿
2025-09-05 15:12:00
京能清洁能源等在山西成立新公司,注册资本1.07亿元
近日,山西京云清洁能源有限公司成立,法定代表人为蒙荣生,注册资本为1.07亿元,经营范围包含:发电业务、输电业务、供(配)电业务
2025-09-05 15:12:00
鹏辉能源在张家口成立智储能源技术公司
近日,张家口鹏辉智储能源技术有限公司成立,法定代表人为刘旭瑞,经营范围包含:机动车充电销售;太阳能发电技术服务;新能源汽车换电设施销售
2025-09-05 15:12:00
招商蛇口等在常熟成立地产公司
近日,常熟市至远地产有限公司成立,法定代表人为黄爱亮,注册资本为2000万元,经营范围包含:房地产开发经营;物业管理;市场营销策划
2025-09-05 15:12:00
从抗战堡垒到幸福家园,一场金融与红土地的新生实践
深秋的沭河波光粼粼,岸畔朱村口那块巨型石雕上,“让老区人民过上好日子”十个大字在阳光下熠熠生辉。85岁的王克昌老人坐在马扎上
2025-09-05 15:29:00
招商银行威海文登支行反诈宣传“零距离”
如今,信息技术飞速发展,电信网络诈骗却如隐匿的毒瘤,严重威胁着人们的生活。招商银行对反诈宣传工作高度重视,将其置于金融安全与民生保障的核心战略位置
2025-09-05 15:39:00
威海专属!“威你保2025”全新升级,重磅上线!
为进一步完善威海市多层次医疗保障体系,切实减轻威海人民的医疗费用负担,2025年9月2日上午,威海市政府新闻办召开了2025年度定制型补充医疗保险“威你保2025”新闻发布会
2025-09-05 15:39:00
清风玉露,匠心传承——招商银行威海高新支行“非遗”体验活动
招商银行威海高新支行和客户相约在秋天的周末,邀约客户共同体验传统膏方制作的乐趣,在袅袅药香中感受传统文化魅力,收获专属健康呵护
2025-09-05 15:40:00
完美公司荣获“2025绿色智造典范奖”
大河网讯 近日,由数央网、数央公益联合国内众媒体共同举办的第四届国际绿色零碳节暨2025 ESG领袖峰会在上海盛大举行
2025-09-05 15:41:00
完美公司承办“广东知识产权主题沙龙”活动
大河网讯 近日,由广东知识产权保护协会主办、完美公司承办的第六十三期“广东知识产权主题沙龙”在完美华南基地成功举办。此次活动以“直播电商中的知识产权侵权与多方责任划分”为主题
2025-09-05 15:41:00
赊店老酒荣耀亮相2025河南省“质量月”活动启动仪式
大河网讯 9月4日,2025年河南省“质量月”活动启动仪式在鹤壁市举行。此次活动旨在弘扬质量精神,树立质量标杆,推动河南产品向河南名片转变
2025-09-05 15:41:00
名仁苏打水“双场景”战略构建增长新引擎
大河网讯 一句“酒前酒后喝名仁”,完成品牌形象树立。名仁苏打水将其与饮酒场景深度绑定,以场景营销破局,撬动全产业链年营业额达40亿元
2025-09-05 15:41:00
历经20年匠心打磨惊艳面世 仰韶彩陶坊天时20里藏着“品质哲学”
大河网讯 作为中国白酒骨干企业,仰韶酒业始终以匠心坚守品质,以创新引领发展。9月3日,“敬闪闪发光的20年——仰韶彩陶坊天时20高端品鉴会”在仰韶营销公司举办
2025-09-05 15:41:00
招商银行威海文登支行金融赋能成长,童趣点亮舞台
为深度践行招商银行“以客户为中心 为客户创造价值”的战略部署深耕区域市场,践行社会责任,构建金融服务与社会公益深度融合的生态
2025-09-05 15:43:00