• 我的订阅
  • 财经

“全球风险之首”该如何管控

类别:财经 发布时间:2024-01-20 05:59:00 来源:每日看点快看

本文转自:解放日报

“全球风险之首”该如何管控

俞陶然

本报记者 俞陶然

世界经济论坛近日发布的《2024年全球风险报告》显示,人工智能对选举结果的影响高居2024年全球风险之首。这个报告每年1月发布,撰写团队会咨询1000多位来自科学界、产业界和公共组织的风险专家,旨在评估未来2年可能危及世界秩序的短期风险和着眼于未来10年的长期风险。今年,76个国家和地区将进行选举,利用人工智能技术生成的虚假信息可能会充斥网络,并对选举结果产生影响。鉴于此,《2024年全球风险报告》在十大短期风险中,将人工智能排在气候变化、经济疲软和战争之前,视其为最大风险。

如何看待人工智能生成虚假信息所带来的风险?我们应如何控制这种风险?记者采访了上海交通大学副教授牟怡、上海市科学学研究所研究员李辉。

广泛存在的社交机器人引发关注

记者:人工智能系统通常是如何制造假新闻等虚假信息并对公众观念产生影响的?

牟怡:《2024年全球风险报告》提出的人工智能风险并不是新问题。近年来,在社交网络平台上广泛存在的社交机器人已引起社会关注。社交机器人指的是由人设置、可凭借算法程序自主运行的智能社交账号,它们能与社交平台上的其他用户进行信息交互。

应用于政治领域的社交机器人被称为“政治机器人”,它们会通过营造虚假人气、推送大量政治消息、传播虚假或片面信息干扰舆论。全球范围已发现不少政治组织和人物通过社交机器人在社交平台上操纵舆论的证据。2016年美国大选期间,美国右翼组织在社交平台上借助机器人,在种族、移民、公民身份等社会敏感议题上发布了大量情绪化内容。

随着换脸、虚假音视频制作等技术的兴起,人工智能生成的虚假信息是全方位的,覆盖文字、图像、音视频等各种形式。2018年,由人工智能深度伪造合成的加蓬总统阿里·邦戈新年致辞视频引发了兵变,可见人工智能在政治领域的风险之高。

如今,人工智能大模型正在快速发展,全球很多大模型已经开源。人们可以利用这些大模型,自动批量生产和扩散高度复杂的言论信息,更高效地生成以假乱真的合成音视频。这使得公众区分真实和虚假信息的难度越来越大。

智能算法分发新闻造成“信息茧房”

记者:除了在政治领域,人工智能在其他领域会通过虚假信息影响公众观念吗?

牟怡:当然会。比如在影视评价类社交平台上,社交机器人“水军”会为一些电影和电视剧刷分,让网民对它们的美誉度产生误判。又如在电商购物平台上,机器人可以发布大量的虚假好评,促销商品。

据网络安全机构Imperva统计,2022年网络流量中,社交机器人贡献了47.4%的数据。可见,这类虚拟网民已渗透到各个领域,对人类网民的思想产生不可忽视的影响。

另一个需要警惕的问题是:即使人工智能系统生成的不是虚假信息,但在新闻资讯领域,很多应用软件会利用大数据和智能算法技术,在内容分发上进行“精准制导”,只提供用户感兴趣的、有价值认同的内容。长期看,使用采用智能算法的新闻类应用软件,很多网民就可能进入“信息茧房”,迷恋于令人愉悦的非主流意识形态,在价值观上出现偏差。

管控应以“发展和安全并重”为原则

记者:面对越来越大的潜在风险,我们应如何对人工智能加以管控?

李辉:人工智能带来的风险有两类,一类是技术本身不成熟带来的,另一类是技术应用带来的,包括误用、滥用等。从技术本身来看,普遍采用的应对做法是加速技术更新迭代,同时采取对齐工程、安全防护栏等技术方案。就制度层面如何管控人工智能风险问题,全球还没有成熟的方案。

目前,欧盟《人工智能法案》已在欧洲议会通过。这是全球首部人工智能领域的法案,将采取分级分类的监管规则,在通用人工智能、基础模型方面,把算力需求达到一定规模的基础模型自动划定为“系统性”和“高风险”,需配套透明度、安全测试评估等多项监管合规要求。

这个法案经过了漫长的谈判才达成共识协议。此前,德国、法国和意大利三国发布的人工智能监管联合文件指出,人工智能的本质风险是应用,而不是技术本身。一些科技发达国家的政府官员则担心,如果管控过于严格,会阻碍人工智能的发展。国家之间的人工智能科技和产业竞争非常激烈,如果你管控严格,别人管控不严,你就可能在国际竞争中落后,所以在风险管控方面,存在着国家间的博弈。

在中国,由国家网信办等七部门联合发布的《生成式人工智能服务管理暂行办法》已正式施行。这是我国首份针对生成式人工智能的规范性监管文件,明确了发展和安全并重、促进创新和依法治理相结合的原则,对生成式人工智能服务实行包容审慎和分类分级监管。

我的总体看法是,不能因噎废食,因为担心风险而限制人工智能的发展,而是要在不断发展中寻求解决方案。在操作层面,可以从简单的做起,比如现在网络上到处是人工智能生成的内容,在一些特定场合,有必要规定这些内容的发布者应做“人工智能生成”标注。还有业界现在通行的红队安全测试,可防范大模型滥用或非法使用带来的安全风险。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-01-20 08:45:05

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

本文转自:经济参考报随着美国开放人工智能研究中心(OpenAI)公布最新文字生成视频产品,人工智能应用再次成为各界瞩目焦点。尽管新技术高速发展中存在一定的风险和问题,但投资、企业
2024-02-20 07:35:00
· 应对人工智能技术滥用 合作才是未来
【特别关注】近年来,人工智能(AI)技术的更迭让人目不暇接。语言模型领域取得重大突破的2023年刚刚过去,2024年,人们又迎来了视频和物理世界虚拟生成方面的突破。然而,在人工智
2024-03-17 08:26:00
达沃斯2024丨AI技术革新增加就业,建立开放式平台平衡监管和创新
...代创造增长和就业机会”、“作为经济和社会的驱动力的人工智能”和“气候、自然与能源长期战略”等四大议程框架来设置各场次的议题。当地时间1月16日,名为“生成式人工智能:第四次工
2024-01-18 10:45:00
...自:中国市场监管报推动食品和营养健康领域高质量发展人工智能驱动食品产业变革与升级专题论坛举行本报讯 (记者 宿志红)科技创新是驱动新质生产力发展的核心要素。4月26日,由中国
2024-05-09 06:36:00
拥抱AI技术浪潮,米思米meviy AI打造高效圆件采购新范式
2024-06-14 10:17:13作者:姚立伟在国内外AI人工智能大模型持续突破、智能基础设施不断夯实的2024年
2024-06-14 11:41:00
...信息安全系统、降低数据安全风险的同时,引入大数据、人工智能、量子计算等前沿科技,为数字化转型赋能。记者注意到,位于沙迦的“智慧之家”数字图书馆已接入15个全球知名的数字百科全
2023-09-22 06:32:00
中国为全球人工智能治理贡献智慧(环球热点)
...人民日报海外版以共商促共享 以善治促善智中国为全球人工智能治理贡献智慧(环球热点)本报记者 贾平凡《 人民日报海外版 》( 2024年07月13日 第 06 版)二〇二四世界
2024-07-13 04:59:00
本文转自:湄洲日报报告:人工智能快速发展 加剧全球网络风险全球最大再保险集团德国慕尼黑再保险集团近期发布报告说,人工智能、云计算等技术的迅速发展正令全球网络风险持续上升。报告指出
2024-04-13 07:12:00
人工智能ETF今年来吸金居深交所之首
由DeepSeek和人形机器人引发的人工智能(AI)热潮高烧不退,各路资金纷纷涌入。《大众证券报》记者发现,2025年农历新年刚过,相关基金的场内资金净流入额已经一马当先,有的甚
2025-02-14 23:12:00
更多关于财经的资讯:
篮动郑州燃激情,金融护航暖民心——中原消费金融借篮球联赛搭台,把金融知识送进百姓生活
大河网讯 9 月的郑州,秋阳不燥,微风正好,一场关于篮球的热血盛宴正在城市里热烈上演。在国家体育总局高度重视和统筹推进“三大球”振兴发展与改革的时代背景下
2025-09-19 12:31:00
光大银行郑州分行开展“驻村书记讲消保”活动——金融为民办实事 知识普及入心田
大河网讯 9月17日,光大银行郑州分行携该行“驻村书记”以“保障金融权益 助力美好生活”为主题,走进洛阳市洛宁县马店镇田村
2025-09-19 12:31:00
书香润童心 爱心护梦想!中原消费金融开展“梦想的书架”暨“金融知识进校园”公益活动
大河网讯 9月18日,中原消费金融“梦想的书架”公益项目走进河南省平顶山市汝州市大峪镇范庄小学,为这里的235名山区孩子送去了丰富的图书和学习物资
2025-09-19 12:31:00
农行济南泺源英雄山支行:上门服务暖人心,高龄独居老人获关怀
近日,农行济南泺源英雄山支行的工作人员带着设备与关怀,来到90岁独居老人张奶奶家中,为其解决了困扰多日的银行业务难题,用贴心服务诠释了“金融为民”的温度
2025-09-19 12:43:00
农行济南普集支行:农情服务送上门 暖心助老解难题
近日,农行济南普集支行客户经理小庞和同事驱车30里,来到老人李大娘家。原来,李大娘的社保卡密码输错多次被锁定,眼看养老金取不出来
2025-09-19 12:43:00
平安财险黔南中心支公司积极参与金融教育宣传活动 助力大学生守护金融权益
为深入贯彻落实国家金融监管部门关于金融教育宣传周的部署要求,2025年9月17日下午,由黔南金融监管分局、黔南民族师范学院联合主办
2025-09-19 12:44:00
给青春上堂“反假”必修课——反假货币知识讲座走进学校主题班会
“大家知道怎么识别假币吗?”“真的只要摸一摸、看一看就能辨别真假?”在贵阳市某中学的一间教室里,一场别开生面的“反假货币”主题班会正热烈进行
2025-09-19 12:45:00
保障金融权益 助力美好生活——普定农商银行开展金融教育宣传周系列活动
为深入普及金融知识,提升公众金融素养,2025年9月17日,普定农商银行走进千和驾校,开展了一场别开生面的金融教育宣传周活动
2025-09-19 12:45:00
民生银行贵阳分行开设公园流动反假课堂
“姑娘,你再教我看看这安全线咋辨真假?”,9月17日,遵义纪念公园里热闹非凡,民生银行贵阳分行下辖遵义二级分行的工作人员带着反假币知识走进公园
2025-09-19 12:45:00
人保财险贵州安顺分公司:积极参与“2025年金融教育宣传周”活动
9月15日,人保财险贵州安顺分公司积极参加由国家金融监督管理总局安顺分局联合中国人民银行安顺市分行、安顺市金融服务中心共同组织的2025年“金融教育宣传周”集中宣传活动
2025-09-19 13:17:00
织密金融安全防护网——中国民生银行遵义二级分行积极参与2025年金融教育宣传周活动
9月15日,遵义地区2025年金融教育宣传周集中宣传活动在遵义市汇川区珠海路火热开展。中国民生银行遵义二级分行积极响应
2025-09-19 13:17:00
西部建设在苏州成立建材科技新公司
近日,苏州西建建材科技有限公司成立,注册资本2500万元,经营范围包含:工业互联网数据服务;建筑废弃物再生技术研发;固体废物治理;土石方工程施工等。企查查股权穿透显示,该公司由西
2025-09-19 13:48:00
暖心扇送清凉!中国民生银行贵阳分行走进福顺康老年公寓开展反假货币宣传
“这扇子真贴心,又能扇凉还能学知识!”9月16日,贵阳市南明区福顺康老年公寓里暖意融融,中国民生银行贵阳分行的工作人员带着精心准备的“反假礼包”走进这里
2025-09-19 12:45:00
鏖战高温护清凉 大战大考显担当——国网河南省电力公司坚决打赢迎峰度夏电力保供和防汛攻坚战
大河网讯 金风送爽,秋意渐浓。在刚刚过去的这个夏天,河南电网经历了一场大考。极端高温天气历史罕见,用电负荷持续高位运行
2025-09-19 13:02:00
三方联动护消费!民生银行贵阳花果园支行与渤海银行贵阳花果园支行携商场送反假“干货”
商场作为现金交易高频场景,部分消费者与商户因假币识别技巧不足,面临误收假币风险。2025年9月10日,中国民生银行贵阳花果园支行牵头
2025-09-19 09:33:00