• 我的订阅
  • 财经

博鳌现场|“现有的大语言模型像个黑匣子,难以确定其真正目标和潜在风险”

类别:财经 发布时间:2024-03-28 14:51:00 来源:澎湃新闻

博鳌现场|“现有的大语言模型像个黑匣子,难以确定其真正目标和潜在风险”

“未来100年后,我们看现在的人类,就像人类看四万年前的山顶洞人。未来一定是人工智能和机器融合的时代,我们必须正视AI(人工智能)带来的风险,如果不加以引导控制,可能会引起生存危机。”

伴随Sora、ChatGPT等接连诞生,人工智能正在引爆新一轮产业革命,在2024年博鳌年会上,中国工程院院士、清华大学智能产业研究院院长张亚勤谈到他心中的人工智能发展趋势。

“这是我第八年参加博鳌,也是第八次在现场讨论人工智能。”小i集团董事长兼首席执行官袁辉袁辉笑称,在他第一次参加时,当时的科技圈普遍认为人工智能的“奇点”还很遥远,如今科技发展瞬息万变,人工智能已成为人类需要思考和警惕的巨大挑战。

第四范式联合创始人胡时伟则在接受澎湃新闻记者采访时表示:“新质生产力是定义人工智能的模式和路径,人工智能是新质生产力重要的技术手段支撑和发展的重要引擎。这是国家战略层面的重要方向,我们要做的事情就是积极地去实现这个方向。”

人工智能的未来究竟会走向何方?现场,多位学者和企业家展开热议。

博鳌现场|“现有的大语言模型像个黑匣子,难以确定其真正目标和潜在风险”

大语言模型就像“黑匣子”

“现在的AI只是一个看似智能的信息处理工具,并不具备真正的人类理解能力。”中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅表示。

人工智能作为学科出现时,普遍被认为能精确描述人类的智能学习或是方方面面,当前的人工智能在行为上看起来有接近人类水平的表现,但在一些关键的人类从不犯错误的领域,人工智能不停犯错,这说明现在的人工智能系统还只是一个看似智能但还没有真正的智能能力的系统。

在曾毅看来,机器人如今仍然是通过行为的模拟,尽可能和人类的接近。“但即使人只能做到60%,机器能做到99%,那百分之一就是人和机器的差别。”

“人工智能是赋能所有行业的,现在已经像感觉空气一样感觉到它的存在,而且一旦断开就再也没有生存可能,如今人工智能已经浸润人们生活的每个方面,渗透到思考、呼吸以及每个动作,没有一个产业有理由拒绝人工智能。”袁辉表示,通用人工智能(AGI)最早的定义就是未来何时会具备人类一样的自我意识,那将是对人类产生终级挑战的物种。

“未来人类如何更好利用AI,将会是每个个体、乃至企业跑赢大盘的关键。”袁辉认为。

加州大学伯克利分校计算机科学教授斯图尔特·罗素表示,当前的人工智能系统仍然存在技术缺口,简单的模型扩展和数据增量并不能完全弥补这些差距。在他看来,现有的大语言模型像是一个“黑匣子”,其内部机制和运作方式并不透明,这使得人们难以确定其真正的目标和潜在风险。

人类在面对比自己更强大的机器时,应该如何保持掌控权?罗素呼吁,应当在人工智能领域进行更深入的研究,以实现所谓的“可证明的AI”,即能够证明其行为对人类有益的系统。

张亚勤则坦言,未来AI发展风险需要引起重视,人工智能加速了人类脑力的进化,未来一定是人工智能和机器智能融合。但风险很大,我们必须正视风险,如果不加以引导控制,这个风险会转化成为人类生存的风险。

博鳌现场|“现有的大语言模型像个黑匣子,难以确定其真正目标和潜在风险”

谈国际差距:有能力未来对标国际顶尖

在中美AI差距方面,袁辉表示,本质上从算法、数据和应用场景来看,各个国家有不同的优势。“中国从互联网开始,在应用领域是全球领先的。但我们需要在基础核心的技术研发领域进一步发力。”同时他表示,近年来无论是在专利、知识产权申请还是论文发表方面,从数量和质量方面都有很大的跃升。

科大讯飞副总裁刘聪则告诉澎湃新闻记者,中国确实和国际顶尖的AI水平存在一定差距,这是共识,但是这样的差距正在持续地追赶,在他看来,通用大模型的主战场还是底座大模型,中国大模型底座能力需要依托自主可控平台进行创新。科大讯飞去年与华为联合推出的首个支持万亿浮点参数训练的国产算力训练平台“飞星一号”,科大讯飞在今年1月30日发布讯飞星火大模型V3.5,同步推出星火语音大模型。讯飞星火V3.5七大核心能力全面提升,其中语言理解、数学能力超过GPT-4 Turbo,代码达到GPT-4 Turbo 96%,多模态理解达到GPT-4V 91%。

刘聪认为,中国有能力在算力平台上对标国际顶尖水平,目前,对标GPT-4当前能力的讯飞星火V4.0正在训练中,预计在2024年6月发布,将在中文能力上实现完全对标。

而在曾毅看来,中国未来人工智能发展不仅仅是要在最基础模型上进行颠覆式创新,更关键的是全自主的软硬件协同创新,虽然人工智能趋势是全球化产业链,但是中国要做好软硬件基础设施上不依赖于可能会脱钩断链技术的准备。不过,人工智能“脱钩断链”的做法可能得到全球反对,这会对全球产生更大的数字鸿沟。

他认为,为了避免这样的趋势,中国发展人工智能模型算法算力,未来应当它共享给全球。

博鳌现场|“现有的大语言模型像个黑匣子,难以确定其真正目标和潜在风险”

“AI人才最紧缺,机会才刚开始”

对于大模型和生成式AI的关系,张亚勤表示,前者是技术、后者是能力。因为有了预训练的、超大规模的、自监督式的大模型,生成式AI才具有巨大能量,未来大模型的走向将分为三个方向,其中,第一个是多模态,第二个是自主智能,第三个是边缘智能。

张亚勤表示,AI大模型走向自主智能,就可以制定目标、规划任务、自我制定路径、自我完成方案、自我编码。

在谈到AI是否会取代人类工作时,高通公司中国区董事长孟樸坦言,他并不焦虑,“我不太相信我们自己创造人工智能把我们完全替代,我倒更担心的是一部分掌握人工智能的人会抢占先机,人工智能时代,我们要利用人工智能,把最新的技术、最新的教育带到乡村,让所有的人都能掌握这些技术。”

在发展大模型产业中,算力、算法、数据和人才哪个最重要?

胡时伟告诉澎湃新闻记者,目前AI产业人才稀缺,“目前能解决超大规模集群的这些人才,肯定是稀缺的。另外,产业内还稀缺具备数字化思维,能够用人工智能的技术能够去解决行业问题,定义行业问题,并解决行业问题的人才。”

张亚勤则表示,上面这些因素都很重要,但长期来看的话,还是人才最重要,“现在人工智能发展阶段还处于42公里马拉松的第5公里,机会才刚刚开始。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-03-28 17:45:08

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

半年大模型,还在天上飞
...型的商业模式与落地问题得到了更深刻的展现。摸不清的黑匣子“AI不是物理,很少有理论上的重大技术突破,更多的是在模型结构、数据质量等维度做微调和小优化,甚至很多时候模型输出更好
2023-08-04 13:00:00
这家国际机构,让上市公司又爱又恨 | 36碳深度
...、评价维度主观……这些问题让ESG评级成为一个不透明的黑匣子。MSCI也不例外。外界普遍好奇:MSCI如何给一家公司做ESG评级
2024-05-29 09:43:00
纽约直升机坠河悲剧追踪:黑匣子缺失敲响警钟,监管风暴或将至
...生命,更因一个关键细节的缺失——飞行记录器(俗称“黑匣子”)的缺席,引发了对航空安全监管、运营标准乃至整个行业生态的深度拷问。美国国家运输安全委员会(NTSB)的最新调查进展
2025-04-19 16:44:00
AI武器频现战场,国际红十字会:AI的军事运用给平民带来重大风险
...件在某种程度上能够自我编程。但通常这种模型是一个“黑匣子”,人类极难对其进行预测、理解和解释,也难以测试机器学习系统以何种方式、在何种基础上实现特定评估或决策。一些机器学习系
2023-08-10 15:39:00
...新研究的一个关键创新在于打开了这类深度学习模型的“黑匣子”,弄清楚模型使用哪种信息来预测抗生素效力,这将有助于研究人员设计出比模型识别出的化合物效果更好的候选药物。未来他们还
2024-01-01 22:25:00
...新研究的一个关键创新在于打开了这类深度学习模型的“黑匣子”,弄清楚模型使用哪种信息来预测抗生素效力。未来他们还将更详细地分析上述两种化合物的化学性质和潜在临床用途,并利用这类
2024-01-01 22:02:00
“叛变者”的恐惧与信念:OpenAI技术灵魂人物Ilya Sutskever
...走的最根本原因就是安全问题。如今的生成式AI还是一个黑匣子,人们并不知道其中是如何运作的,只知道堆参数堆算力的“大力出奇迹”的方式,而担心AI安全的这一波技术人员担心,“知其
2023-11-23 16:02:00
...口通道前逐渐排起长队,好不热闹——3月27日上午9时,博鳌亚洲论坛2024年年会“AIGC改变世界”分论坛正式开始。会场近200把椅子座无虚席,满满当当,没有抢到位子的人选择
2024-03-28 07:20:00
新类胚胎模型打开人类发育“黑匣子” 【新类胚胎模型打开人类发育“黑匣子”】财联社12月14日电,美国匹兹堡大学的研究人员开发了源自成体细胞的新类胚胎模型,该模型复制了人类早期发育
2023-12-14 07:55:00
更多关于财经的资讯:
2025年9月4日“大众30”成份股报告
德尔股份股价涨逾5%本报综合消息 周四,受科创板大幅调整拖累,沪深A股双双走低。9月4日,上证综指下跌1.25%,深证成指下跌2
2025-09-04 22:16:00
扛不住内忧外患!美国能源巨头康菲计划裁员四分之一
财联社9月4日讯(实习编辑 滕润/编辑 齐灵)美国能源巨头康菲公司(ConocoPhillips)计划至2026年底前裁员四分之一
2025-09-04 12:38:00
特朗普白宫宴请科技领袖 看点却是新修的园子和缺席的首富
财联社9月4日讯(编辑 史正丞)根据白宫日程表,美国总统特朗普将在当地时间周四晚间举行宴会,招待库克、比尔·盖茨等二十多位科技行业大咖
2025-09-04 16:50:00
营收增速整体高于GDP增速!贵州辖区各上市公司完成上半年报告披露
近日,贵州辖区各上市公司完成2025年上半年报告披露,25家公司实现盈利,19家公司实现营业收入同比提升,过去5年同期的归母净利润和营业收入2项复合增长率分别位居全国第1位和第2位
2025-09-04 21:26:00
零售板块呈现结构性行情 机构关注四大核心方向
9月4日,A股零售板块延续强势表现,多只个股单日涨幅超过5%,汇嘉时代、国芳集团等多只股票强势涨停。在A股三大指数9月4日集体回调的背景下
2025-09-04 22:16:00
警银联手“反诈”出击!中国民生银行贵阳分行与属地反诈中心共筑安全防线
当“金融卫士”遇上“反诈先锋”,会碰撞出怎样的安全火花?近日,中国民生银行贵阳分行金铃铛反诈宣传队携手反诈中心,以“警银联动”的硬核阵容
2025-09-04 18:08:00
金融知识进景区!中国民生银行遵义红花岗支行织密反假货币“防护网”
为提升公众金融安全意识,普及反假货币知识,2025年9月1日,中国民生银行遵义红花岗支行组织工作人员走进世界文化遗产——海龙屯景区
2025-09-04 18:08:00
突发!子公司失火,文灿股份,全年业绩将受影响
4日盘后,文灿股份(603348)发布公告称,2025年9月2日清晨,公司全资子公司天津雄邦压铸有限公司(以下简称“天津雄邦”)后处理车间发生火灾事故
2025-09-04 19:46:00
毕节农商银行流仓桥支行:警银携手阻诈骗 八旬老人免损失
2025年8月22日,毕节农商银行流仓桥支行与毕节市七星关区反诈中心紧密协作,成功拦截一起针对八旬老人的“电商副业”投资诈骗
2025-09-04 18:09:00
《优质农产品》重磅报道:张宝山百年守正创新,在时光里熬出甘甜
大河网讯 近日,张宝山品牌传承人张小卫先生,受邀接受农业农村部主管期刊《优质农产品》专访,专访报道刊登于2025年8月刊“优质农产品采撷”栏目
2025-09-04 16:43:00
中原银行漯河分行组织开展2025年员工子女“金秋送暖 筑梦起航”助学活动
大河网讯 金秋九月蕴希望,筑梦起航向未来。为体现中原银行优秀企业文化内涵,增强员工的归属感,祝贺员工子女在2025年高考中取得硕果
2025-09-04 16:44:00
有呼必应 “移”路随行丨84岁老人遇通信难题,“心级服务之家”温情服务架起“连心桥”
在万物互联的AI时代,手机已成为人们生活不可或缺的必需品,智能上网带来便捷体验的同时,部分老年人却常因智能机操作故障陷入困境
2025-09-04 16:44:00
筑牢校园防线 守护青春“钱袋子”——中国太保产险河南分公司开展金融反诈进校园活动
大河网讯 为提升青少年金融风险防范意识,筑牢校园反诈防线,9月2日,中国太保产险河南分公司联合郑州市公安局金水分局反诈中心走进河南省工业学校
2025-09-04 16:44:00
警保联动筑防线 金融安全零距离——中国太保产险河南分公司开展反诈宣传进社区活动
大河网讯 为进一步提升社区居民,特别是老年群体的防诈意识和风险防范能力。8月29日,中国太保产险河南分公司携手郑州市公安局金水分局反诈中心
2025-09-04 16:44:00
这一板块尾盘异动!农业银行,创历史新高
9月4日,A股三大指数集体回调。截至收盘,上证指数下跌1.25%,报3765.88点;深证成指下跌2.83%,报12118
2025-09-04 16:46:00