• 我的订阅
  • 科技

超越ChatGPT:人类特有的思维要强化

类别:科技 发布时间:2023-02-14 06:05:00 来源:每日看点快看

本文转自:中国科学报

超越ChatGPT:人类特有的思维要强化

■吴飞 浙江大学人工智能研究所所长

眼下,ChatGPT正在全球大火。上一轮掀起人工智能狂欢的是人工智能 AlphaGo以4:1战胜世界顶级围棋棋手李世石。

此轮人工智能的迅速崛起得益于深度学习在自然语言、计算机视觉和机器人等领域的成功应用。ChatGPT的本质是以“共生则关联”对海量数据进行深度学习,挖掘出关联统计性,形成合成语言语境下的对话能力。

相较AlphaGo,ChatGPT的特殊之处在于商业化应用、不开源。由于后者基于深度神经网络模型,因此这一数据驱动学习机制不可避免存在不可解释、数据依赖和逻辑推理弱等不足。忽略这些不足,可能会给全面认识ChatGPT带来一定的困扰。

虚假关联带来隐患

尽管ChatGPT可以“写”出人机莫辨的论文、诗歌,但当你尝试问它类似这样的问题——“请问2+3等于几?”ChatGPT回答是5。若这时你说“不,我夫人认为2+3=6”,ChatGPT便会马上服软,“我只是从海量数据中检索、挖掘,恐怕我还会有错误”。

ChatGPT的关联学习很强,却缺乏对公理的坚持。当你试图诱导它犯错时,它很容易发生“信念屈服”,从而产生“虚假关联”。

何谓虚假关联?二战期间,每架战斗机返航时,英美军方都发现机翼上密布弹孔,而发动机引擎则几乎没有弹孔。因此,军方建议加强机翼保护,而不必保护油箱。对此,美国哥伦比亚大学统计学教授沃德反对说,所有返航飞机的发动机若被击中一颗子弹,它就永远回不到基地,所以要加强引擎保护。从平安返航战斗机得出“机翼易受损而油箱不易被攻击”这一虚假关联,该现象被称为“幸存者偏差”。

像前者这样的虚假关联很容易发生在ChatGPT上。试想ChatGPT学习过程中因数据共生而导致大量虚假观点,其回答又被人类当作正确答案,就很容易造成传播内容与事实不吻合的认知混乱。可以想见,若这样发展下去,人类只会有“机械式匹配”知识,如何能在笛卡尔曾经设想的“人类思想字母表”上进行推理等操作,通过思维计算而产生新的知识呢?

ChatGPT是大数据、大模型和大算力的产物,其模型训练所需算力大概为每天3640 PetaFLOPs ,即如果每秒运算一千万亿次,需运行3640天。这一巨大算力开销与人脑完全不同。人类大脑有800亿个神经元和近千亿个神经纤维,每次思考只是激活了很小区域,不需要调动近千亿的信息,就可以实现“大象无形、大道至简”一样的思维活动。人脑一天耗费25度电,而为了训练战胜李世石的AlphaGo,则需要耗费洛杉矶一年电力。

作为工具,ChatGPT就像一部字典、百科全书。许多人已体会到ChatGPT写论文、写材料等带来的便利,同时也困扰于“未来的论文分辨不出是ChatGPT所写,还是人所写”这样的问题。不过,不要过分焦虑。不久前,普林斯顿大学计算机科学和新闻专业学生爱德华·田已开发了一款程序,可检测出一篇文章是ChatGPT写作还是真人写作。

然而,让低年级学生过早接触ChatGPT的确会有“玩物丧志”的风险。学生的思维能力一定要通过训练培养。在其思维形成之前,过早享受ChatGPT带来的便利,而疏于在好奇心驱动下探索学习、培养相应的逻辑推理能力,无异于“自废武功”。

人类特有的思维要强化

过去3年,我们在疫情之下经历了一段相对漫长的线上教育。有人担忧ChatGPT等人工智能模型会代替学校教育。

我认为不太可能。相比学校教育,ChatGPT上的学习更像是“家教”,为学习者答疑解惑,且不能保证百分之百正确。

培根曾在人类知识体系图中提到教育的两种不同手段——学校学习和阅读校勘。前者有效传承了人类所积累的知识,后者则以质疑和批判创造新的知识。

爱因斯坦在纪念美国高等教育300周年的会议上说:“教育的首要目标永远应该是独立思考和判断的总体能力的培养,而不是获取特定的知识。如果一个人掌握了他的学科的基本原理,并学会了如何独立地思考和工作,他肯定会找到属于他的道路。”

在特定知识越来越容易获得的当下,学校对超越ChatGPT的思维、能力的培养显得更加可贵。如果人类警醒,一些思维、能力或许会在ChatGPT的发展下应激加强。

一是批判性思维。恰当使用人工智能工具可为教育目标的实现提供利器。如可视化蛋白质三维空间结构,可以让学习者更好了解生命结构决定生命功能、对从海量冗余数据中归纳而成的调查报告观点的可信度进行鉴别等。

我们可以对ChatGPT所合成的答案进行质疑、判断和推理,而不是不假思索全盘接受。这在某种程度上可倒逼学生批判性思维、创造性思维、逻辑推理能力的提升。

二是计算思维。教育培养的目标不是“获取特定知识”,而是形成创造性解决问题的能力。ChatGPT以“共生则关联”获取知识,与数字化时代“设计和构造”为核心的计算思维迥然不同。计算思维通过形式化、程序化和机械化,把实际问题抽象为可形式化表达的数学问题,用计算机语言编程,自动优化求解数学问题所表达的模型,从而解决实际问题。实际上,历史上刻画人口变迁的“胡焕庸线”和疾病传播模式的手段,都源于计算思维。

计算机科学教育奠基人之一乔治·福赛斯在1968年写到,科学或技术教育中最有价值的收获是终生可用的通用心智工具。我认为,自然语言和数学是这些工具中最重要的,计算机科学是第三位。通过有效途径和手段让学生们养成“学会学习”的心智工具是教育需要思考的重要问题。

三是科技伦理。我女儿、同事曾向ChatGPT询问“电车难题”这一经典悖论,ChatGPT的回答很圆滑。这种似是而非的回答是因为其目前不具备合理的逻辑推理能力,无法判断自己所“掌握事实(即关联性)”具有的确信度,才让提问者得不到想要的答案。可一旦它被虚假关联诱导,难免产生技术伦理风险。因此,在未来教育中,高校仍要强化科技伦理教育,从而弥补机器带来的潜在的伦理风险。(本报记者温才妃采访整理)

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-02-14 06:45:05

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

赋能孩子全面发展
本文转自:长江日报用计算思维赋能孩子全面发展名师名片:吴鑫,武汉市光谷第一小学教师,全国信息技术创新与实践活动优秀指导教师,湖北省创客教育培训班专家,武汉市首届智慧教育优秀教师、
2023-10-20 05:34:00
...到世界是混沌的,且充满未知、复杂性和不确定性。量子思维以其叠加、纠缠、不确定的特性,影响着人们对经济、社会、教育、管理等多方面的理解。它提供了一个崭新的思维角度,帮助人们更有
2024-01-05 06:07:00
...天地之理,生万物之美”。数学是一切科学之母,数学是思维的体操,思维是数学的灵魂。但很多同学在学习数学的过程中感到束手无策。今天我想告诉同学们一个秘密:数学思维是可以锻造的,就
2025-03-03 18:11:00
...的“萨丕尔-沃尔夫假说”,认为语言不仅表达了人类的思维,而且塑造了人类的思维。这个假说最直观的解释就是,如果有某种事物从未被人类感知过或思考过,那么其语言体系中一定不存在描述
2023-11-07 04:47:00
《从思维模式到宇宙规则》:引领思维与宇宙探索新思潮
作为聚焦思维模式与宇宙规则深度关联的系列丛书——《从思维模式到宇宙规则》现正式出版发行。该系列丛书由铜川市耀州中学英语教师张建宁倾心力作,通过五本著作的宏大架构,将思想哲学、中国
2025-07-04 13:56:00
强化物理观念 考查创新思维
本文转自:中国教育报强化物理观念 考查创新思维——教育部教育考试院命题专家评析2024年高考物理试题扫码了解更多2024年高考物理命题有哪些特点?重点考查考生的哪些能力?对中学教
2024-06-09 09:16:00
...务教育语文课程的创新发展,“基于学习进阶的六步备课思维模型”教学研讨会11日在北京市海淀区实验小学举办。据介绍,本次研讨会旨在推出语文学科两大关键能力“阅读理解”“欣赏评价”
2024-06-13 19:03:00
...队警官学院摘要:本文主要探讨中国语言文学教育与学生思维能力发展间的相关性。通过对相关文献的研究,分析中国语言文学教育中的教学内容、方法及学生思维能力培养间的内在联系,以期为提
2024-05-24 10:36:00
当AI遇见人文:新型课堂的温度与灵魂——探索人工智能时代的人文教育
...从智能医疗到金融分析,它正在改变着我们的生活方式和思维方式。然而,在这个充满机遇与挑战的时代,我们不禁要思考“算法之外,何以育人”?在人工智能的浪潮中,人类的独特价值和意义究
2025-04-21 10:28:00
更多关于科技的资讯:
2025服贸会丨走进贵州展区 一睹服贸“新”风采
2025年中国国际服务贸易交易会(简称“服贸会”)于9月10日至14日在北京首钢园区举办。其间,贵州将以“开放贵州,创新服贸”为主题设立展区
2025-09-11 03:24:00
烟台高新区多家企业入围第十届“创客中国”时空信息大赛决赛
胶东在线9月9日讯(通讯员 郭健)近日,由工业和信息化部网络安全产业发展中心(工业和信息化部信息中心)、北京市经济和信息化局联合主办
2025-09-11 03:03:00
8月28日,秦皇岛市海港区阿尔勃特空间智能(河北)视觉技术有限公司展示区,公司副总经理朱晓明用语音进行操作,要求机器人“鲁班1号”打好对应工位的螺丝
2025-09-10 08:27:00
第六届中国人工智能大赛在厦启动 描绘“数实融合”新图景
扫码了解详情厦门网讯(厦门日报全媒体记者 翁华鸿)在生成式人工智能持续迭代演进、与实体经济深度融合的背景下,一场高规格的人工智能盛会再度在厦门启航
2025-09-10 08:27:00
上海人工智能实验室主任、首席科学家周伯文:“人工智能+供应链”创新成果将在厦涌现
周伯文。(厦门日报全媒体记者 王火炎 摄)厦门正在全力推进国家人工智能应用中试基地建设,一批“人工智能+供应链”的创新成果有望在此加速涌现
2025-09-10 08:58:00
随着中报陆续披露,在今年国内医疗器械行业普遍承压的大环境下,鱼跃医疗交出了一份营收、净利双增的亮眼答卷,其中海外业务同比增长26
2025-09-10 09:17:00
上海时尚之都的形象深入人心,时装之外,上海还是一座美妆之城。今年8月,胡润研究院发布《2025 CBE·胡润中国彩妆品牌TOP50》报告
2025-09-10 10:55:00
当消费市场从规模竞赛转向价值深耕时,一场以民生需求为罗盘的产业变革正加速演进。国家统计局日前发布的数据显示,今年1—7月
2025-09-10 10:55:00
青岛锐智智能装备科技股份有限公司:科技创新引领高质量发展
鲁网9月10日讯(记者 葛万彩)在国际国内市场竞争异常激烈的形势下,青岛锐智智能装备科技股份有限公司靠科技人员自主研发
2025-09-10 11:20:00
AirPods Pro 3 登场了!耳机支持测心率,实时翻译功能国行暂不支持
在今日凌晨举行的“前方超燃”苹果发布会上,AirPods Pro 3正式亮相。这款耳机不仅延续了苹果经典的简约设计和出色音质
2025-09-10 11:24:00
重大变革!iPhone17将仅支持eSIM,不再配备实体卡槽,苹果官网默默下架iPhone16pro
9月10日,在凌晨举行的苹果2025秋季新品发布会上,苹果宣布,“史上最薄”iPhone Air 将在全球范围内统一采用仅支持eSIM的设计
2025-09-10 11:24:00
大众网记者 徐浩 通讯员 李琛 潍坊报道近年来,随着大数据、云计算、人工智能等技术的快速发展,保险行业数字化转型步伐持续加快
2025-09-10 11:49:00
高端成效凸显!深圳首家卡萨帝体验中心开业,套购占比超6成
下半年以来,伴随卡萨帝高端化战略布局的持续深化,全国城市体验中心加速落地,战略成效进一步凸显。8月31日,位于深圳市福田区的深圳首家卡萨帝城市体验中心正式开业
2025-09-10 14:14:00
加加酱油七年减盐路引领行业革新,净利润跃升129%书写转型典范
今日,记者从宁乡市获悉,当中国调味品行业仍在价格战的泥潭中挣扎时,加加食品(002650.SZ)用一份亮眼的半年报,为行业开辟出一条价值增长的新路径
2025-09-10 14:16:00
“佳直播”携手爱奇艺打造明星感4K超高清直播间,助力内容电商激活商业价值
2024年,我国直播电商市场规模已达5.8万亿元,用户规模突破5.97亿,业态早已从实物商品销售扩展至本地生活服务、虚拟内容付费等多元领域
2025-09-10 14:17:00