• 我的订阅
  • 科技

张亚勤:各国要在全球智能领域共同合作,将人工智能红线作为社会风险共同应对

类别:科技 发布时间:2024-03-25 21:06:00 来源:每日看点快看

本文转自:中国新闻网

中新网3月25日电 中国发展高层论坛2024年年会于2024年3月24-25日举行。3月24日下午举行了“人工智能发展与治理专题研讨会”,清华大学智能产业研究院院长、中国工程院院士张亚勤认为,未来五年随着各大领域大规模应用人工智能技术,将带来三方面风险。

张亚勤简要总结了人工智能大模型的发展趋势:一是多模态、多尺度、跨模态的新智能;二是未来五年要在整个架构上有大的突破,追随尺度定律(Scaling Law),但未必是transformer模型结构;三是智能逐渐向“人工智能手机”“人工智能PC”边缘侧延伸;四是可以实现定义任务、规划路径、自我升级、自我编码等的自主智能;五是信息式智能逐渐走向物理世界;六是大模型与生物体连结的生物智能。

张亚勤认为,未来五年随着各大领域大规模应用人工智能技术,将带来三方面风险,包括:信息世界的风险,包含错误、虚假信息的风险;已经出现的大模型幻觉问题,随着信息智能大规模应用延伸至物理智能、生物智能时,风险也会规模化;大模型与经济体系、金融体系、军事系统、电力网络相连接的风险。

如何防范这些风险问题,张亚勤提出五个长期建议。一是像标识广告一样,对人工智能生产的数字人等智能体进行标识。二是设立映射和注册机制。明确机器人作为从属体,必须映射到主体,这个主体可以是人或公司等法定实体,如果机器人出现问题,就可以追溯主体责任。三是建立分级监管体制机制。对应用在物理世界、生物系统等不同领域的大模型,分级监管。四是加大对大模型风险研究的投入,呼吁政府、科学家、技术从业者和企业家共同参与,一边发展,一边治理。五是制定人工智能发展的红线。目前北京人工智能国际安全对话已经达成了《北京AI安全国际共识》,提出人工智能发展的红线。各国要在全球智能领域共同合作,将人工智能红线作为社会风险共同应对。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-03-25 23:45:12

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

张亚勤:人形机器人取代人类还需5到10年;广泛运用智能体后风险增加两倍
...勤说,“deep seek用更好的资源、更开源的模式,是两年来人工智能领域最大的、最规模性的创新,也是中国对全球的贡献。”张亚勤说,AI发展还有一个趋势是,AI从信息智能走向
2025-03-26 18:29:00
...在来袭。在3月26日博鳌亚洲论坛年会中,多场分论坛针对人工智能展开热烈讨论。不少场次前已排起长队“限流”,场内更是人流爆满。人工智能分论坛门口排起长队今年AI领域有哪些新变化
2025-03-28 10:24:00
...否稳控“方向盘”中新社记者 王晓斌全球各大企业在AI(人工智能)技术赛道上竞相追逐,博鳌亚洲论坛2025年年会于3月26日举办的一场AI主题分论坛,关注相关的深层次话题:在A
2025-03-26 22:05:00
...院士、清华大学智能产业研究院院长张亚勤,分享了他对人工智能(AI)发展现状及未来趋势的深刻见解。他认为,AI发展应与风险控制并行,未来一定是人工智能和机器智能融合,风险很大但
2024-03-29 15:14:00
博鳌圆桌丨AI安全和发展如何平衡?并非掣肘关系,不能一再重复无法落地的原则
在人工智能快速发展的当下,如何平衡推进其应用与治理?3月26日,在博鳌亚洲论坛2025年年会上,各界专家对该问题进行了探讨。“在广泛运用Agent(智能体)之后,AI的安全风险至
2025-03-27 08:41:00
...中国工程院院士张亚勤:AI发展应与风险控制并行本报讯 人工智能发展未来是什么样的?3月27日上午,在博鳌亚洲论坛2024年年会分论坛——“AIGC改变世界”上,中国工程院院士
2024-03-28 00:21:00
博鳌现场|“现有的大语言模型像个黑匣子,难以确定其真正目标和潜在风险”
...在的人类,就像人类看四万年前的山顶洞人。未来一定是人工智能和机器融合的时代,我们必须正视AI(人工智能)带来的风险,如果不加以引导控制,可能会引起生存危机。”伴随Sora、C
2024-03-28 14:51:00
张亚勤:大模型出现对创业公司是一个机会
在过去几天的上海世界人工智能大会(WAIC)上,30余款大模型齐聚。阿里巴巴展示了一款AI图像生成器,商汤的日日新和科大讯飞的星火大模型也都在展会上亮相。在OpenAI的Chat
2023-07-09 23:26:00
...发展高层论坛2024年年会在北京召开。在当天下午举行的人工智能发展与治理专题研讨会上,清华大学智能产业研究院院长、中国工程院院士张亚勤指出,Sora的强大功能可能带来发展机遇
2024-03-25 15:21:00
更多关于科技的资讯:
省数据和政务服务局发布公告公开征集一批河北省高质量数据集河北日报讯(记者解楚楚)9月26日,河北省数据和政务服务局发布公告
2025-10-04 08:03:00
央媒看太原9月30日,央视财经频道《经济信息联播》栏目以《双节市场备货足美食特产受青睐》为题,报道了假期到来,太原市各大综合市场提前备货
2025-10-04 07:17:00
厦门网讯(厦门日报记者 朱道衡)近日,2025鼓浪屿世遗文创作品征集活动启动。此次活动面向全国(含港澳台地区)高校、企业
2025-10-03 08:37:00
厦门网讯(厦门日报记者 楚燕 通讯员 石青青)长假期间,许多人从忙碌的工作中解脱出来,趁机好好休息。可是,如果休息方式不得当
2025-10-03 08:37:00
渤海之潮涌动着澎湃的脉搏,海河之畔镌刻着科技的印记。10年前,一颗带有“清华”基因的种子在天津这片沃土扎根;10年后,它长成一棵枝繁叶茂的参天大树
2025-10-03 09:25:00
太燃了!无人机空中展旗!高新区国庆“氛围组”已上线!
2025-10-03 23:48:00
抖音生活服务联合北京卫视发起“老板驾到”直播活动,吸引用户下单超100万元团购券
9月29日,抖音生活服务联合北京卫视发起“老板驾到”直播活动,助力北京国庆中秋消费。抖音用户在@北京卫视 直播间下单超1万次
2025-10-03 18:36:00
“FutureBOT未来引力”2025北京机器人文化节首日盛况 打造国庆科技打卡新地标
国庆首日,“FutureBOT未来引力”2025北京机器人文化节在北京昌平超极合生汇正式拉开帷幕,成为国庆假期极具科技温度的打卡地
2025-10-03 19:06:00
走到白石山巅的尽头,这家建在悬崖边的“云端咖啡厅”绝对让你惊呼。
2025-10-03 11:37:00
泰康人寿发布新品“泰康百万药无忧(庆典版)医疗保险”(以下‬简称“百万药无忧”),以广覆盖、易投保、强保障、低费率为优势
2025-10-03 09:17:00
厦门网讯(厦门日报记者 翁华鸿 通讯员 林雨新)在近日举行的2025全球数据管理峰会“数据要素分论坛暨大数据统计与人工智能技术创新管理研讨会”上
2025-10-03 08:38:00
兴趣-实践-视野:达芬奇金奖少年带来的教育启示录
摘要:2025“你是达芬奇”全球青少年科学与艺术创新赛圆满落幕,其中金奖获奖少年的亲身实践告诉我们,在AI赋能的新时代
2025-10-02 16:22:00
单日调用近1万亿次,高德助力北斗规模化民用跨入新量级
2025年10月1日,随着国庆长假首日出行高峰的到来,高德基于北斗卫星导航系统的定位数量接近1万亿次,支撑导航总里程数超90亿公里
2025-10-02 22:31:00
10月1日,从太钢获悉,今年以来,太钢不锈进料加工团队以“精准备案、高效协同”为核心,在进料铬铁镍铁资源利用方面取得突破性进展
2025-10-02 17:39:00
厦门网讯(厦门日报记者 林露虹)记者昨日从中国移动咪咕公司获悉,该公司打造的“鼓浪屿AI伴游”服务已正式上线。市民和游客只需打开“鼓浪屿元宇宙”微信小程序
2025-10-02 08:57:00