• 我的订阅
  • 科技

首个AI高考全卷评测结果发布:数学全都不及格

类别:科技 发布时间:2024-06-20 11:10:00 来源:大众报业·齐鲁壹点

6月19日,上海人工智能实验室发布首个AI高考全卷评测结果,月初开源的阿里通义千问大模型Qwen2-72B排名第一,在语数外三科420分的满分中获得303分,OpenAI的GPT-4o和上海人工智能实验室的书生·浦语2.0文曲星(InternLM2-20B-WQX)排名二三位。

首个AI高考全卷评测结果发布:数学全都不及格

本次评测采用全国新课标I卷,参与评测的所有开源模型,开源时间均早于高考,确保评测 “闭卷”性。全卷试题既包含选择、填空等“答案唯一性”题目,也包括简答、阅读理解及作文等主观题,在更加接近真实高考的环境中测试模型能力。大模型的成绩由具有高考评卷经验的教师人工评判,更加接近真实阅卷标准。

大模型数学成绩都不及格

因为受测的开源模型均为大语言模型,在评测过程中,仅输入文字题干(数学包含2道带图试题),英语听力部分(分值30分)不纳入此次评测。

结果,阿里Qwen2-72B以总分303分排名第一,其中语文124分(满分150分),数学70分(满分150分),英语109分(满分120分);GPT-4o以总分296分位居第二,其中语文111.5分,数学73分,英语111.5分;“书生·浦语”2.0文曲星以0.5分之差排名第三,其中语文112分,数学75分,英语108.5分。

首个AI高考全卷评测结果发布:数学全都不及格

7个大模型的语数外得分情况

可以看到,“AI考生”三甲都擅长文科,语文和英语成绩优良,然而它们的数学推理能力有待提升,高考数学成绩都不及格。目前,数学是所有大模型的短板,得益于上海人工智能实验室在数学推理上的投入,“书生·浦语”2.0文曲星在高考中得到75分,在所有受测模型中位居榜首,但仍存在较大的提升空间。

阅卷老师点评“考生”表现

对于这些“AI考生”的语数外水平,老师们给出了中肯的评价——

语文评卷显示,大模型的现代文阅读理解能力普遍较强,但是不同模型的文言文阅读理解能力差距较大。大模型写的作文更像问答题,虽然有针对性,但缺乏修饰,几乎不用人类考生都会使用的举例论证、引用论证、名人名言等手法。多数大模型不理解“本体”“喻体”“暗喻”等语文概念。对于文章中的一些“潜台词”,大模型还无法完全理解。

首个AI高考全卷评测结果发布:数学全都不及格

7个大模型的语文各题型得分情况

数学评卷显示,大模型的主观题回答相对凌乱,而且解题过程有迷惑性,甚至出现过程错误但得到正确答案的情况。大模型的公式记忆能力很强,但无法在解题过程中灵活运用。

首个AI高考全卷评测结果发布:数学全都不及格

7个大模型的数学各题型得分情况

大模型的英语整体表现良好,然而部分模型由于不适应一些题型,在七选五、完形填空等题型上得分较低。大模型写的英语作文普遍存在因超出字数限制被扣分的情况,而人类考生大多因为字数不够被扣分。

首个AI高考全卷评测结果发布:数学全都不及格

7个大模型的英语各题型得分情况

(综合自上观新闻、新民晚报)

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-06-20 15:45:03

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

...考语、数、外全卷能力测试。据OpenCompass于6月19日发布的评测结果,大模型的语文、英语考试水平还不错,但数学都不及格
2024-06-26 07:26:00
首个AI高考全卷评测结果发布:最高分303,数学全不及格
...能力测试。6月19日, OpenCompass发布了首个大模型高考全卷评测结果。语数外三科加起来的满分为420分,此次高考测试结果显示
2024-06-24 09:22:00
上海人工智能实验室公布首个ai高考全卷评测结果
...20日消息,上海人工智能实验室19日公布了首个AI高考全卷评测结果。据介绍,2024年全国高考甫一结束,该实验室旗下司南评测体系OpenCompass选取6个开源模型及GPT-4o进行高考“语数外”全卷能力测试
2024-06-20 10:19:00
...获国内头筹在极客公园最新发布的高考新课标Ⅰ卷大模型评测报告中,GPT-4o以562分排名文科总分第一。国内产品中,字节跳动旗下的豆包拔得头筹,成绩是542.5分。据介绍,本次
2024-06-26 11:14:00
用AI来做全国高考试卷,真的有人试了!结果:成绩偏科很严重
...,还真的有人试了。上海人工智能实验室近日公布了司南评测体系OpenCompass选取开源大模型测试今年高考的全国新课标I卷“语数外”的结果,为了确保“闭卷”考试,大模型的开源
2024-06-26 22:29:00
大模型权威报告:讯飞星火得分第一
...、物理、医学5个二级分类,题型上以单选和简答为主。评测结果中,讯飞星火78.50%的得分率排名第一。另外,讯飞星火在理科综合大类下80%的二级分类评测中得分率为第一,化学与生
2023-08-18 09:35:00
港中文团队提出大模型元推理范式,革新大模型的评价体系
...计意义思考不足,起码会带来以下几个潜在危害:其一,评测结果能否真实反映大模型的能力?如果对此认识不足,往往会过分夸大模型的效果。其二,会让人以为指标的提升,等价于大模型能力的
2024-03-04 10:23:00
王小川新公司「百川智能」发布首个开源中英文大模型,开源免费可商用 | 最前线
...其测试结果位于国内中文大模型的前列。在MMLU英文权威评测榜单上,baichuan-7B也超过了Meta旗下的LLaMA-7B
2023-06-15 16:53:00
智源评测体系发布 国内外“百模”评估结果出炉
...140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果。本次智源评测,分别从主观、客观两个维度考察了语言模型的简单理解、知识运用、推理能力、数学能力、代码能力、任务解
2024-05-17 17:26:00
更多关于科技的资讯:
京东物流首个海外智狼仓“圣诞季”在英国投用,Joybuy本地最快当日达
12月是“圣诞季”,节日氛围浓厚。为更好服务海外消费者,京东物流首个海外智狼仓在英国正式投用,一件件承载着圣诞祝福的特色礼品已陆续从该仓库发出
2025-12-25 15:02:00
浙江日报讯 (记者 赵静 共享联盟·温岭 梁伟伟 赵碧莹) “我们最新推出的裸足童鞋,就像是孩子脚上的‘第二层皮肤’。”日前
2025-12-25 08:41:00
浙江日报讯 (记者 拜喆喆) 日前,记者从杭州海关了解到,1至11月,浙江省跨境电商进口清单量达2.7亿单,货值达775
2025-12-25 09:12:00
浪潮计算机C86服务器登顶TPCx-IoT榜首,揭秘中国算力领先背后的创新密码
从技术追赶到能力并跑,再到关键领域的创新引领——中国算力产业正稳步实现发展阶段的新跨越。近日,浪潮计算机C86服务器在TPCx-IoT全球测评中登顶榜首
2025-12-25 10:11:00
广域铭岛五周年价值长卷|G+,为工业未来做加法
五年,是时间的刻度,更是价值的纵深。G+,是广域铭岛的符号,也是我们与产业同行的语言——为战略做加法,为技术做加法,为生态做加法
2025-12-25 10:57:00
人机连续对打羽毛球1452次杭州日报讯 “最终成绩为1452次,打破纪录,挑战成功!”12月22日下午,绍兴上虞杭州湾联合创新中心内
2025-12-25 06:39:00
邢翀 贺劭清 中国新闻社在全媒体技术深度重塑传播生态的背景下,短视频、直播等形式凭借其直观、快速、沉浸式的特性,成为体育新闻传播吸引流量的关键抓手
2025-12-25 06:44:00
数览“十四五” 解码杭州59家“新小龙”涌现的动力之源
制图 应茵每日商报讯 12月15日,由浙江省科技厅、省经信厅等部门指导的“浙江省科技新小龙探访和护航行动”正式揭晓结果
2025-12-25 07:10:00
周末日均客流三万人次,线下销量华北门店第一盒马石家庄首店何以领跑华北12月21日,石家庄勒泰中心负一层的盒马鲜生门店内
2025-12-25 07:49:00
当紧固件遇上AI,产业集群变身超级工厂——AI赋能千行百业一线故事(十八)11月19日9时许,位于邯郸市永年区的国智科技(河北)股份有限公司
2025-12-25 07:51:00
杭州日报讯 “快手一姐”蛋蛋(杨润心)在杭州注册新公司、曹颖一个月内组建团队完成首播、林依轮将团队整体南迁至杭州……这些直播电商行业的“重磅事件”
2025-12-25 07:09:00
农行固堤支行积极拥抱金融科技,全力推动网点智能化转型与服务升级。大力推广手机银行、网上银行等线上渠道,引导客户体验转账汇款
2025-12-24 08:41:00
“您站好,用手机拍正面、侧面、背面三张照片。3分钟后,您不仅能知道最适合自己的衣服尺寸,还能在电脑上实时看到自己穿上这件衣服的虚拟效果
2025-12-24 08:42:00
日前,中国进出口银行深圳分行向纵腾集团子公司香港亿格有限公司发放境外投资贷款,精准助力企业提升跨境电商海外仓运营效能,为跨境电商行业高质量发展注入金融活水
2025-12-24 08:44:00
苏州市镇江商会副会长单位【旭智文化】荣膺2025年度省级专精特新中小企业称号
近日,江苏省工业和信息化厅正式公布2025年度省级专精特新中小企业名单。苏州市镇江商会副会长单位苏州旭智新文化科技有限公司凭借在数字展馆领域的创新研发
2025-12-24 09:03:00