• 我的订阅
  • 财经

博鳌圆桌丨AI安全和发展如何平衡?并非掣肘关系,不能一再重复无法落地的原则

类别:财经 发布时间:2025-03-27 08:41:00 来源:澎湃新闻

在人工智能快速发展的当下,如何平衡推进其应用与治理?3月26日,在博鳌亚洲论坛2025年年会上,各界专家对该问题进行了探讨。

“在广泛运用Agent(智能体)之后,AI的安全风险至少上升了一倍。”清华大学讲席教授、清华大学智能产业研究院(AIR)院长、中国工程院院士张亚勤在会上表示,“智能体是很好的技术,它能够自我规划、学习、试点并达到自己的目的,但它本身会带来很大的风险,一种是可控风险,一种是被‘坏人’所利用的风险,风险增加了两倍。能力越大,它带来的风险越高,特别是AI从信息智能到物理智能到生物智能,风险会增加很多倍,我们在用智能体的时候需要设置一些红线。”

博鳌圆桌丨AI安全和发展如何平衡?并非掣肘关系,不能一再重复无法落地的原则

AI应用与治理平衡推进论坛现场。 澎湃新闻记者 秦盛 摄

中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅表示:“去年我和张亚勤老师讨论是不是应该暂停6个月的人工智能大模型研究,先把安全护栏做好,很多人都误解了这样的倡议,以为是不要推进人工智能的研究。其实这个倡议告诉大家的是我们构建安全护栏的速度没跟上人工智能发展的速度,但是去年的博鳌论坛上,全世界的科学家对于如何构建安全护栏是不知道答案的。但是经过了一年的探索,我们有了初步的答案。”

曾毅表示,模型能力提升并不代表安全能力自然地就好,现在有很多人工智能大模型,包括国内的人工智能大模型,在认知问题、求解能力上与GPT系列可以达到同一水平,但在伦理框架上还有提升空间,“我们有一项新研究证明,当你提升人工智能大模型安全能力的时候,对它求解能力的影响几乎可以忽略。我们尝试了十几个人工智能大模型,可以把它的安全能力提升百分之二三十,对它的问题求解能力的影响几乎可以忽略,这说明安全和发展之间不是掣肘的关系,可以做到在人工智能充分安全的情况下,它的能力几乎不受损”。

他再次强调,去年大家都重视人工智能的安全,而今年,伦理安全应该作为人工智能大模型发展的基因,应该作为第一性原理,不可删除,不可违背,同时可以做到稳健发展。

中国社会科学院大学教授、国务院原副秘书长江小涓表示,AI治理如何落地、如何实践是目前最大的挑战,“过去很多年我对AI治理方面的进展是很遗憾的,我觉得进展是很有限的,从十年前阿瑟马人工智能原则提出来一直到现在,这个原则已经讨论十年了,一个月前巴黎峰会的六项原则依旧是继承了过去的这些原则,但是落地非常有限”。

江小涓认为,需要把问题分成可以落地的方向来推进,从经济学家的角度来看,一项技术是否可以接受其实只有两个标准,一是能不能带来生产力的提高,使其创造更多的财富,二是发展的结果能不能比较公平地分享。

“从这两个原则来讲,AI的发展第一没有问题,肯定是提高劳动生产率了,但是第二个问题是不是能够比较好地被社会所有成员分享,这个问题划到经济学角度上讲比较简单,就是就业是不是充分,分配是不是公平。如果这两个问题不能解决的话,我们有什么替代的政策,比如就业的冲击出现后我们应该有新的社会保障政策来执行它,而不是一再重复那些不能落地的原则。每个时代有每个时代的价值观,当技术使这些价值观必须改变的时候,我们要改变它,而不是一再地重复包容、共享,它是落不了地的。”江小涓如是说。

对于DeepSeek带来的影响,江小涓认为,DeepSeek在从经济学的角度上来讲使人们对AI大模型发展的担忧有所减轻,把AI从垄断变成了真正竞争的产业,从技术化的能力变成产业化的能力,形成了传统市场经济中的竞争格局,“我非常相信在竞争中,市场自发会解决很多问题,而不一定要我们那么高层地去讨论非常多的原则问题”。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2025-03-27 11:45:05

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

携手迎挑战 合作创未来——写在博鳌亚洲论坛2024年年会召开之际
本文转自:人民网人民网记者 许维娜 李学山博鳌亚洲论坛永久会址前喷泉广场。人民网记者 孟凡盛摄四海宾朋再聚首,携手合作迎挑战。3月26日,博鳌亚洲论坛2024年年会大幕开启,全球
2024-03-26 14:22:00
中新社海口3月22日电 (记者 符宇群)博鳌亚洲论坛2025年年会召开在即,中国侨商联合会荣誉会长、益海嘉里集团董事长郭孔丰正积极准备参加年会上举办的“华商领袖与华人智库圆桌会议
2025-03-22 11:51:00
新氧出席博鳌亚洲论坛:用产业思维加速医疗抗衰普惠覆盖
...25日至28日,以“在世界变局中共创亚洲未来”为主题的博鳌亚洲论坛2025年年会在海南举行。3月26日,新氧作为医美行业的企业代表,应邀出席本届论坛,新氧集团董事长兼CEO金
2025-03-27 15:25:00
博鳌亚洲论坛圆桌会议在曼谷举行
当地时间8月26日,博鳌亚洲论坛在泰国曼谷举行“世界的未来:亚洲的视角”圆桌会议。中共中央政治局委员、外交部长王毅致信祝贺会议开幕。此次圆桌会议由博鳌亚洲论坛主办,旨在呼应即将于
2024-08-27 15:11:00
挑战与机遇并存 多方聚焦“一带一路”绿色投融资建设
本文转自:人民网人民网博鳌3月30日电 (记者黄钰)“一带一路”倡议提出已十年有余,在各方共同努力下,绿色发展取得积极进展。当前,在绿色投融资方面主要面临哪些困难和挑战?各类金融
2024-03-30 16:38:00
以“数”促“新”!电科金仓出席2024企业家博鳌论坛
...社海南分社主办的“改革新蓝图发展新动能”2024企业家博鳌论坛系列活动,于12月2日至4日在海南博鳌举办,包括世界500强、中国500强和行业领军企业在内的各界嘉宾齐聚一堂。
2024-12-05 06:45:00
用好博鳌论坛“国际窗口” 亦城会客厅洽谈项目意向投资额近180亿元
...元,其中近两年计划落地建设项目36个……近日,伴随着博鳌亚洲论坛全球健康论坛第三届大会(以下简称“博鳌论坛”)的举办,北京经济技术开发区(北京亦庄)在大会创新设置亦城会客厅,
2024-07-21 12:41:00
博鳌健康食品科学大会举办 政产学研聚焦“主动健康”
...国经济网2月24日讯(记者刘潇潇 李冬阳) 2月22日-24日,博鳌健康食品科学大会暨博览会(FHE)在博鳌亚洲论坛国际会议中心举办
2023-02-24 18:31:00
博鳌亚洲论坛2025年年会初定于3月25日至28日举行
8月26日,在博鳌亚洲论坛曼谷圆桌会议期间,论坛理事长潘基文宣布,博鳌亚洲论坛2025年年会初步定于3月25日至28日在中国海南博鳌举行。潘基文表示,当前世界经济缓慢复苏,地区冲
2024-08-26 20:21:00
更多关于财经的资讯:
诺禾致源投资成立基因科技公司
近日,北京诺禾元启基因科技有限公司成立,法定代表人为于洋,注册资本为3000万元,经营范围包含:自然科学研究和试验发展
2025-10-31 13:36:00
前三季度寄递业务量完成1582.6亿件,企查查:现存相关企业近130万家
据媒体报道,10月27日,国家邮政局发布2025年前三季度邮政行业经济运行情况。数据显示,前三季度,邮政行业业务收入和寄递业务量分别完成1
2025-10-31 13:48:00
雄安集团成立智算科技公司,注册资本2亿元
近日,雄安智算科技有限公司成立,法定代表人为赵龙军,注册资本2亿元人民币,经营范围涉及数据处理和存储支持服务、工业互联网数据服务
2025-10-31 13:48:00
广州医药集团2亿元成立动保科技公司
近日,广州广药动保科技有限公司成立,法定代表人为刘洋,注册资本2亿元人民币,经营范围涉及农业科学研究和试验发展、健康咨询服务(不含诊疗服务)、宠物服务(不含动物诊疗)等。企查查股
2025-10-31 13:48:00
国家能源投资集团、中国安能建设成立新能源开发公司
近日,国能(和田)新能源开发有限公司成立,注册资本约4.34亿元,经营范围包含:发电业务、输电业务、供(配)电业务等。企查查股权穿透显示,该公司由国家能源投资集团有限责任公司、中
2025-10-31 13:48:00
电气风电在吉林四平投资成立风电公司
近日,恒立混塔(四平)风电有限公司成立,法定代表人为郭锐,注册资本为2500万元,经营范围包含:风力发电技术服务;风电场相关系统研发
2025-10-31 13:48:00
锦富技术等成立数控科技公司
近日,苏州富利锦数控科技有限公司成立,法定代表人为郑穆森,经营范围包含:机械设备研发;数控机床制造;数控机床销售;机床功能部件及附件制造
2025-10-31 13:48:00
三季报丨张家港行:前三季度营收增长1.18% 净利润增长5.79%
10月29日,张家港行发布2025年第三季度报告。截至9月末,张家港行总资产达2212.01亿元,较上年末增长1.05%
2025-10-31 12:46:00
河南资本集团获国际信用评级A-,展望稳定
大河网讯 10月29日,国际信用评级机构S&P Global Ratings(以下简称:标普全球评级)发布公告
2025-10-31 12:35:00
宝钢股份在马鞍山新设钢管公司,注册资本10亿
近日,宝钢钢管(马鞍山)科技有限责任公司成立,法定代表人为薛建国,注册资本10亿人民币,经营范围包括钢、铁冶炼,钢压延加工
2025-10-31 10:12:00
福达股份在浙江平湖新设驱动公司
近日,平湖福达驱动有限公司成立,注册资本1亿元,经营范围包含:汽车零部件及配件制造;汽车零部件研发;汽车零配件批发;汽车零配件零售等。企查查股权穿透显示,该公司由福达股份(603
2025-10-30 14:12:00
中金公司等在安徽新设智算科创投资基金,出资额10亿
近日,中金智算(安徽)科创投资基金合伙企业(有限合伙)成立,出资额10亿元,经营范围包含:私募股权投资基金管理、创业投资基金管理服务。企查查股权穿透显示,该企业由中金公司(601
2025-10-30 14:12:00
湖南湘江科技创新院合伙企业成立,含AI及机器人业务
近日,湖南湘江科技创新院合伙企业(有限合伙)成立,出资额12.46亿元,经营范围包含:智能机器人的研发;人工智能应用软件开发;物联网技术研发;集成电路设计等。企查查股权穿透显示,
2025-10-30 14:12:00
千万网红仙女酵母自曝近1年无收入,其1分钟视频报价18万
曾凭城堡系列视频狂揽千万粉丝的现象级网红仙女酵母,自曝已近一年无收入,巅峰时她作品以50万赞为及格线。第三方数据显示,仙女酵母视频平台近30日掉粉2
2025-10-30 14:12:00
山东黄金等在福建成立矿业新公司
近日,山金矿业(福建)有限公司成立,注册资本1000万元,经营范围包含:矿物洗选加工;以自有资金从事投资活动;非金属矿及制品销售;工程管理服务等。企查查股权穿透显示,该公司由山东
2025-10-30 14:24:00