• 我的订阅
  • 财经

博鳌现场|“现有的大语言模型像个黑匣子,难以确定其真正目标和潜在风险”

类别:财经 发布时间:2024-03-28 14:51:00 来源:澎湃新闻

博鳌现场|“现有的大语言模型像个黑匣子,难以确定其真正目标和潜在风险”

“未来100年后,我们看现在的人类,就像人类看四万年前的山顶洞人。未来一定是人工智能和机器融合的时代,我们必须正视AI(人工智能)带来的风险,如果不加以引导控制,可能会引起生存危机。”

伴随Sora、ChatGPT等接连诞生,人工智能正在引爆新一轮产业革命,在2024年博鳌年会上,中国工程院院士、清华大学智能产业研究院院长张亚勤谈到他心中的人工智能发展趋势。

“这是我第八年参加博鳌,也是第八次在现场讨论人工智能。”小i集团董事长兼首席执行官袁辉袁辉笑称,在他第一次参加时,当时的科技圈普遍认为人工智能的“奇点”还很遥远,如今科技发展瞬息万变,人工智能已成为人类需要思考和警惕的巨大挑战。

第四范式联合创始人胡时伟则在接受澎湃新闻记者采访时表示:“新质生产力是定义人工智能的模式和路径,人工智能是新质生产力重要的技术手段支撑和发展的重要引擎。这是国家战略层面的重要方向,我们要做的事情就是积极地去实现这个方向。”

人工智能的未来究竟会走向何方?现场,多位学者和企业家展开热议。

博鳌现场|“现有的大语言模型像个黑匣子,难以确定其真正目标和潜在风险”

大语言模型就像“黑匣子”

“现在的AI只是一个看似智能的信息处理工具,并不具备真正的人类理解能力。”中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅表示。

人工智能作为学科出现时,普遍被认为能精确描述人类的智能学习或是方方面面,当前的人工智能在行为上看起来有接近人类水平的表现,但在一些关键的人类从不犯错误的领域,人工智能不停犯错,这说明现在的人工智能系统还只是一个看似智能但还没有真正的智能能力的系统。

在曾毅看来,机器人如今仍然是通过行为的模拟,尽可能和人类的接近。“但即使人只能做到60%,机器能做到99%,那百分之一就是人和机器的差别。”

“人工智能是赋能所有行业的,现在已经像感觉空气一样感觉到它的存在,而且一旦断开就再也没有生存可能,如今人工智能已经浸润人们生活的每个方面,渗透到思考、呼吸以及每个动作,没有一个产业有理由拒绝人工智能。”袁辉表示,通用人工智能(AGI)最早的定义就是未来何时会具备人类一样的自我意识,那将是对人类产生终级挑战的物种。

“未来人类如何更好利用AI,将会是每个个体、乃至企业跑赢大盘的关键。”袁辉认为。

加州大学伯克利分校计算机科学教授斯图尔特·罗素表示,当前的人工智能系统仍然存在技术缺口,简单的模型扩展和数据增量并不能完全弥补这些差距。在他看来,现有的大语言模型像是一个“黑匣子”,其内部机制和运作方式并不透明,这使得人们难以确定其真正的目标和潜在风险。

人类在面对比自己更强大的机器时,应该如何保持掌控权?罗素呼吁,应当在人工智能领域进行更深入的研究,以实现所谓的“可证明的AI”,即能够证明其行为对人类有益的系统。

张亚勤则坦言,未来AI发展风险需要引起重视,人工智能加速了人类脑力的进化,未来一定是人工智能和机器智能融合。但风险很大,我们必须正视风险,如果不加以引导控制,这个风险会转化成为人类生存的风险。

博鳌现场|“现有的大语言模型像个黑匣子,难以确定其真正目标和潜在风险”

谈国际差距:有能力未来对标国际顶尖

在中美AI差距方面,袁辉表示,本质上从算法、数据和应用场景来看,各个国家有不同的优势。“中国从互联网开始,在应用领域是全球领先的。但我们需要在基础核心的技术研发领域进一步发力。”同时他表示,近年来无论是在专利、知识产权申请还是论文发表方面,从数量和质量方面都有很大的跃升。

科大讯飞副总裁刘聪则告诉澎湃新闻记者,中国确实和国际顶尖的AI水平存在一定差距,这是共识,但是这样的差距正在持续地追赶,在他看来,通用大模型的主战场还是底座大模型,中国大模型底座能力需要依托自主可控平台进行创新。科大讯飞去年与华为联合推出的首个支持万亿浮点参数训练的国产算力训练平台“飞星一号”,科大讯飞在今年1月30日发布讯飞星火大模型V3.5,同步推出星火语音大模型。讯飞星火V3.5七大核心能力全面提升,其中语言理解、数学能力超过GPT-4 Turbo,代码达到GPT-4 Turbo 96%,多模态理解达到GPT-4V 91%。

刘聪认为,中国有能力在算力平台上对标国际顶尖水平,目前,对标GPT-4当前能力的讯飞星火V4.0正在训练中,预计在2024年6月发布,将在中文能力上实现完全对标。

而在曾毅看来,中国未来人工智能发展不仅仅是要在最基础模型上进行颠覆式创新,更关键的是全自主的软硬件协同创新,虽然人工智能趋势是全球化产业链,但是中国要做好软硬件基础设施上不依赖于可能会脱钩断链技术的准备。不过,人工智能“脱钩断链”的做法可能得到全球反对,这会对全球产生更大的数字鸿沟。

他认为,为了避免这样的趋势,中国发展人工智能模型算法算力,未来应当它共享给全球。

博鳌现场|“现有的大语言模型像个黑匣子,难以确定其真正目标和潜在风险”

“AI人才最紧缺,机会才刚开始”

对于大模型和生成式AI的关系,张亚勤表示,前者是技术、后者是能力。因为有了预训练的、超大规模的、自监督式的大模型,生成式AI才具有巨大能量,未来大模型的走向将分为三个方向,其中,第一个是多模态,第二个是自主智能,第三个是边缘智能。

张亚勤表示,AI大模型走向自主智能,就可以制定目标、规划任务、自我制定路径、自我完成方案、自我编码。

在谈到AI是否会取代人类工作时,高通公司中国区董事长孟樸坦言,他并不焦虑,“我不太相信我们自己创造人工智能把我们完全替代,我倒更担心的是一部分掌握人工智能的人会抢占先机,人工智能时代,我们要利用人工智能,把最新的技术、最新的教育带到乡村,让所有的人都能掌握这些技术。”

在发展大模型产业中,算力、算法、数据和人才哪个最重要?

胡时伟告诉澎湃新闻记者,目前AI产业人才稀缺,“目前能解决超大规模集群的这些人才,肯定是稀缺的。另外,产业内还稀缺具备数字化思维,能够用人工智能的技术能够去解决行业问题,定义行业问题,并解决行业问题的人才。”

张亚勤则表示,上面这些因素都很重要,但长期来看的话,还是人才最重要,“现在人工智能发展阶段还处于42公里马拉松的第5公里,机会才刚刚开始。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-03-28 17:45:08

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

半年大模型,还在天上飞
...型的商业模式与落地问题得到了更深刻的展现。摸不清的黑匣子“AI不是物理,很少有理论上的重大技术突破,更多的是在模型结构、数据质量等维度做微调和小优化,甚至很多时候模型输出更好
2023-08-04 13:00:00
这家国际机构,让上市公司又爱又恨 | 36碳深度
...、评价维度主观……这些问题让ESG评级成为一个不透明的黑匣子。MSCI也不例外。外界普遍好奇:MSCI如何给一家公司做ESG评级
2024-05-29 09:43:00
纽约直升机坠河悲剧追踪:黑匣子缺失敲响警钟,监管风暴或将至
...生命,更因一个关键细节的缺失——飞行记录器(俗称“黑匣子”)的缺席,引发了对航空安全监管、运营标准乃至整个行业生态的深度拷问。美国国家运输安全委员会(NTSB)的最新调查进展
2025-04-19 16:44:00
AI武器频现战场,国际红十字会:AI的军事运用给平民带来重大风险
...件在某种程度上能够自我编程。但通常这种模型是一个“黑匣子”,人类极难对其进行预测、理解和解释,也难以测试机器学习系统以何种方式、在何种基础上实现特定评估或决策。一些机器学习系
2023-08-10 15:39:00
...新研究的一个关键创新在于打开了这类深度学习模型的“黑匣子”,弄清楚模型使用哪种信息来预测抗生素效力,这将有助于研究人员设计出比模型识别出的化合物效果更好的候选药物。未来他们还
2024-01-01 22:25:00
...新研究的一个关键创新在于打开了这类深度学习模型的“黑匣子”,弄清楚模型使用哪种信息来预测抗生素效力。未来他们还将更详细地分析上述两种化合物的化学性质和潜在临床用途,并利用这类
2024-01-01 22:02:00
“叛变者”的恐惧与信念:OpenAI技术灵魂人物Ilya Sutskever
...走的最根本原因就是安全问题。如今的生成式AI还是一个黑匣子,人们并不知道其中是如何运作的,只知道堆参数堆算力的“大力出奇迹”的方式,而担心AI安全的这一波技术人员担心,“知其
2023-11-23 16:02:00
...口通道前逐渐排起长队,好不热闹——3月27日上午9时,博鳌亚洲论坛2024年年会“AIGC改变世界”分论坛正式开始。会场近200把椅子座无虚席,满满当当,没有抢到位子的人选择
2024-03-28 07:20:00
新类胚胎模型打开人类发育“黑匣子” 【新类胚胎模型打开人类发育“黑匣子”】财联社12月14日电,美国匹兹堡大学的研究人员开发了源自成体细胞的新类胚胎模型,该模型复制了人类早期发育
2023-12-14 07:55:00
更多关于财经的资讯:
农行平阴孔村支行:上门服务加急办,绿色通道暖人心
“真是太感谢你们了!我母亲行动不便,本来还愁没法办业务,没想到你们直接上门,还这么快就办好,真是解了我们的燃眉之急!”近日
2025-09-19 18:26:00
农行济南堤口路支行:纸短情长破“无声”障碍,温情服务暖人心
“您别着急,有什么需求我们慢慢沟通。”近日,在农业银行堤口路支行的柜面窗口,工作人员将这句话工整地写在便签纸上,轻轻推到听障客户陈女士面前
2025-09-19 18:26:00
农行济南滨河支行:反诈知识小课堂 守护客户“钱袋子”
近日,农业银行济南滨河支行巧妙利用客户等候办理业务的时间间隙,在营业大厅开设“反诈知识小课堂”,为到店客户特别是老年客户讲解最新诈骗手法
2025-09-19 18:27:00
农行济南银河支行:暖心上门服务 重病老人授权难题轻松化解
近日,中国农业银行银河支行(以下简称“银河支行”)秉持“以客户为中心”的服务理念,主动为行动不便的重病老人提供上门服务
2025-09-19 18:27:00
农行济南历下工业北路支行:智慧缴费进校园,携手共筑新生态
近日,中国农业银行济南历下工业北路支行主动对接周边中小学校缴费高峰期,依托“智慧校园缴费平台”,一举解决周边学校学生家长餐费
2025-09-19 18:59:00
农行济南清河支行:开学“金融护航礼”,为大学生筑牢安全港湾
随着开学季的到来,不少刚入学、即将入学的大学生来到农行清河支行办理激活银行卡业务。工作人员借此机会,为大学生们普及反电信诈骗及银行卡用卡安全知识
2025-09-19 18:59:00
一张社保卡的“暖心奔赴”——农行济南金牛支行上门解困显温情
“社保卡丢了,老爷子的养老金取不出来,这可咋给老人看病啊……”电话里,刘先生的声音带着哭腔。原来,他的父亲因重病长期卧床
2025-09-19 19:00:00
广发银行邹城支行进菜市:守护“菜篮子”,也护好“钱袋子”
清晨菜市场人声鼎沸,不同于往常的是,银行工作人员的身影活跃在蔬菜摊位之间。广发银行邹城支行将“金融知识服务点”搬进了烟火气十足的邹城市凤凰山大市场
2025-09-19 19:31:00
平安人寿山东分公司2025年金融教育宣传周•为民办实事:临沂中支县域联动开展金融教育宣传周系列活动
为深入贯彻落实国家金融监管总局关于金融教育宣传周的工作部署,提升公众金融素养,防范化解金融风险,平安人寿临沂中支组织旗下沂水
2025-09-19 19:32:00
平安人寿山东分公司2025年金融教育宣传周•为民办实事:金融知识进商圈,平安守护在身边
九月金融教育宣传周期间,平安人寿河东支公司走进财源广场,开展“金融知识进商圈”宣传活动。河东支公司负责人带领宣传团队,向商户及过往市民发放金融风险提示
2025-09-19 19:33:00
金融教育宣传周丨中意人寿烟台中支金融知识“进农村”之走进西口渔村
为进一步普及金融知识,提升公众金融素养,中意人寿烟台中支积极落实国家金融监督管理山东监管局关于开展“2025年金融教育宣传周活动”的部署
2025-09-19 19:33:00
中国人寿财险受邀参加2025海洋合作发展论坛并出席海洋城市市长对话会
齐鲁晚报˙齐鲁壹点记者闫明 通讯员崔广勋由山东省人民政府、自然资源部主办的2025海洋合作发展论坛9月8日上午在青岛西海岸新区开幕
2025-09-19 19:34:00
平安人寿山东分公司2025年金融教育宣传周•为民办实事:风险提示送上门 ,临沂中支进社区
9月15日,平安人寿临沂社区金融网点走进金雀山街道清泉庄社区,开展“风险提示送上门,平安人寿进社区”公益宣传活动。活动现场
2025-09-19 19:34:00
金融教育宣传周丨中意人寿临沂中支走进企业开展金融教育宣传活动
为积极响应国家金融监管机构关于“金融消费者权益保护教育宣传周”的号召,积极践行金融机构社会责任,提升社会公众金融素养和风险防范意识
2025-09-19 19:34:00
平安人寿山东分公司2025年金融教育宣传周•为民办实事:临沂中支“金融小课堂”走进开元锦府,暖心服务获居民点赞
近日,平安人寿临沂中心支公司携手沂南支公司走进开元锦府小区党员活动中心,面向社区居民成功举办了一场贴近生活、实用生动的“金融小课堂”公益宣传活动
2025-09-19 19:34:00