• 我的订阅
  • 科技

张亚勤:各国要在全球智能领域共同合作,将人工智能红线作为社会风险共同应对

类别:科技 发布时间:2024-03-25 21:06:00 来源:每日看点快看

本文转自:中国新闻网

中新网3月25日电 中国发展高层论坛2024年年会于2024年3月24-25日举行。3月24日下午举行了“人工智能发展与治理专题研讨会”,清华大学智能产业研究院院长、中国工程院院士张亚勤认为,未来五年随着各大领域大规模应用人工智能技术,将带来三方面风险。

张亚勤简要总结了人工智能大模型的发展趋势:一是多模态、多尺度、跨模态的新智能;二是未来五年要在整个架构上有大的突破,追随尺度定律(Scaling Law),但未必是transformer模型结构;三是智能逐渐向“人工智能手机”“人工智能PC”边缘侧延伸;四是可以实现定义任务、规划路径、自我升级、自我编码等的自主智能;五是信息式智能逐渐走向物理世界;六是大模型与生物体连结的生物智能。

张亚勤认为,未来五年随着各大领域大规模应用人工智能技术,将带来三方面风险,包括:信息世界的风险,包含错误、虚假信息的风险;已经出现的大模型幻觉问题,随着信息智能大规模应用延伸至物理智能、生物智能时,风险也会规模化;大模型与经济体系、金融体系、军事系统、电力网络相连接的风险。

如何防范这些风险问题,张亚勤提出五个长期建议。一是像标识广告一样,对人工智能生产的数字人等智能体进行标识。二是设立映射和注册机制。明确机器人作为从属体,必须映射到主体,这个主体可以是人或公司等法定实体,如果机器人出现问题,就可以追溯主体责任。三是建立分级监管体制机制。对应用在物理世界、生物系统等不同领域的大模型,分级监管。四是加大对大模型风险研究的投入,呼吁政府、科学家、技术从业者和企业家共同参与,一边发展,一边治理。五是制定人工智能发展的红线。目前北京人工智能国际安全对话已经达成了《北京AI安全国际共识》,提出人工智能发展的红线。各国要在全球智能领域共同合作,将人工智能红线作为社会风险共同应对。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-03-25 23:45:12

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

张亚勤:人形机器人取代人类还需5到10年;广泛运用智能体后风险增加两倍
...勤说,“deep seek用更好的资源、更开源的模式,是两年来人工智能领域最大的、最规模性的创新,也是中国对全球的贡献。”张亚勤说,AI发展还有一个趋势是,AI从信息智能走向
2025-03-26 18:29:00
...在来袭。在3月26日博鳌亚洲论坛年会中,多场分论坛针对人工智能展开热烈讨论。不少场次前已排起长队“限流”,场内更是人流爆满。人工智能分论坛门口排起长队今年AI领域有哪些新变化
2025-03-28 10:24:00
...否稳控“方向盘”中新社记者 王晓斌全球各大企业在AI(人工智能)技术赛道上竞相追逐,博鳌亚洲论坛2025年年会于3月26日举办的一场AI主题分论坛,关注相关的深层次话题:在A
2025-03-26 22:05:00
...院士、清华大学智能产业研究院院长张亚勤,分享了他对人工智能(AI)发展现状及未来趋势的深刻见解。他认为,AI发展应与风险控制并行,未来一定是人工智能和机器智能融合,风险很大但
2024-03-29 15:14:00
博鳌圆桌丨AI安全和发展如何平衡?并非掣肘关系,不能一再重复无法落地的原则
在人工智能快速发展的当下,如何平衡推进其应用与治理?3月26日,在博鳌亚洲论坛2025年年会上,各界专家对该问题进行了探讨。“在广泛运用Agent(智能体)之后,AI的安全风险至
2025-03-27 08:41:00
...中国工程院院士张亚勤:AI发展应与风险控制并行本报讯 人工智能发展未来是什么样的?3月27日上午,在博鳌亚洲论坛2024年年会分论坛——“AIGC改变世界”上,中国工程院院士
2024-03-28 00:21:00
博鳌现场|“现有的大语言模型像个黑匣子,难以确定其真正目标和潜在风险”
...在的人类,就像人类看四万年前的山顶洞人。未来一定是人工智能和机器融合的时代,我们必须正视AI(人工智能)带来的风险,如果不加以引导控制,可能会引起生存危机。”伴随Sora、C
2024-03-28 14:51:00
张亚勤:大模型出现对创业公司是一个机会
在过去几天的上海世界人工智能大会(WAIC)上,30余款大模型齐聚。阿里巴巴展示了一款AI图像生成器,商汤的日日新和科大讯飞的星火大模型也都在展会上亮相。在OpenAI的Chat
2023-07-09 23:26:00
...发展高层论坛2024年年会在北京召开。在当天下午举行的人工智能发展与治理专题研讨会上,清华大学智能产业研究院院长、中国工程院院士张亚勤指出,Sora的强大功能可能带来发展机遇
2024-03-25 15:21:00
更多关于科技的资讯:
京东开启第6届孝老爱老购物节 发放亿元暖阳孝心券、免费送装拆旧
10月27日,在民政部养老服务司、北京市民政局的指导组织下,京东举办第6届孝老爱老购物节暨暖阳行动发布会。在适老消费需求高速增长
2025-10-28 12:01:00
方家铺子亮相深圳礼品展:AI赋能东方滋养,助力“一人一方”落地
摘要:方家铺子亮相深圳礼品展,以AI赋能个性化滋补,展现了东方养生的智能化新趋势。10月23日,为期4天的第33届中国(深圳)国际礼品及家居用品展览会圆满落幕
2025-10-28 12:04:00
京东七鲜京津冀布局再加速!石家庄首店12月裕华万达开业
石家庄的“新鲜”生活要来了!据官方确认,石家庄京东七鲜首店将于12月在裕华万达广场正式开业,为市民带来生鲜购物与生活方式的全新升级
2025-10-28 12:05:00
OPPO携手火山引擎,Find X9 新机里藏了个“AI旅拍创作神器”
近日,OPPO发布了Find X9系列新机,以“画质革命”为核心,全面升级了移动影像能力,致力于打造手机摄影的旗舰新标杆
2025-10-28 12:07:00
第八届世界声博会11月2日在合肥开幕!讯飞星火大模型升级版即将亮相
大皖新闻讯 10月28日,安徽省人民政府新闻办公室召开第八届世界声博会暨2025科大讯飞全球1024开发者节筹备情况新闻发布会
2025-10-28 13:23:00
智推互联:以“开拓求新”破传播边界,用“精进不止”筑服务壁垒
当AI浪潮席卷全球,企业品牌传播正面临前所未有的挑战。某企业市场部负责人看着一组棘手的数据:预算投入持续,但品牌声量始终不温不火
2025-10-28 13:51:00
记者走基层|裸眼3D,让影像“悬浮”在空中
10月27日,河北景优数字仿真科技有限公司,三维视觉设计师正在制作3D片源。河北日报记者 常方圆摄一只蜜蜂翩然“飞”离播放设备
2025-10-28 08:33:00
10月27日,第三届山西省智能制造推进大会在太原举行。在山西省卓越级智能工厂和智能制造优秀供应商授牌仪式上,太钢不锈钢股份有限公司
2025-10-28 07:23:00
从“复活”一只龙鸟到定义一个产业,越疆用具身智能撬动文化科技新生态
当电影《博物馆奇妙夜》中展品“活”过来的奇幻场景照进现实,一场由科技驱动的文旅产业变革正悄然拉开序幕。近日,越疆初息工厂宣布成功打造全球首个超仿生具身智能体——以多模态具身智能技术“复活”的中华龙鸟
2025-10-28 07:48:00
近400名人才角逐南京市“双创项目”人才“赛马”金陵城,创新与产业双向奔赴□南京日报/紫金山新闻记者 张安琪10月26日
2025-10-28 07:50:00
中国消费者协会与中国物品编码中心合作,于近日在“全国消协智慧315”小程序上线“消协帮您找,扫码辨商品”新功能。该功能依托编码中心国家商品数据库的权威信息
2025-10-28 07:58:00
近日,大金科工(天津)车业有限公司(以下简称“大金科工”)开业仪式在武清开发区举行。大金科工由大行科工(深圳)股份有限公司与金轮集团共同注资成立
2025-10-27 14:11:00
电竞赛事下沉 重构经济文化新生态
第十二届王者荣耀全国大赛举办颁奖礼第十二届王者荣耀全国大赛总决赛落地天津五大道民园广场无畏契约嘉年华 前王者荣耀职业联赛选手刺痛(右)与粉丝合影无畏契约瓦友社迎新季线下活动和平精英村镇赛广东清远站
2025-10-27 14:11:00
据IDC数据显示,2025年中国GEO市场规模突破200亿元,年复合增长率高达67%,超过78%的企业已将GEO纳入品牌增长与智能营销的核心战略
2025-10-27 14:20:00
中国品牌出海:从产品制造向品牌价值跃升
“不出海,就出局。”这句话听起来很极端,但折射出中国制造业在全球化时代的现实处境。今天,中国企业出海,已不再是讨生活般的生存选择
2025-10-27 14:23:00