• 我的订阅
  • 科技

谷歌揭秘大模型不会数r原因:嵌入维度是关键,不止分词器问题

类别:科技 发布时间:2024-09-07 09:48:00 来源:量子位

GPT-5有3-5万亿参数,由7000块B100炼成?!

一夜间,下面这张图在网上疯转:

谷歌揭秘大模型不会数r原因:嵌入维度是关键,不止分词器问题

仔细看,这是三星高管Jung Bae Lee(李禎培)在一场高级管理层峰会(CEO Summit)上演讲。

谷歌揭秘大模型不会数r原因:嵌入维度是关键,不止分词器问题

上面明晃晃写着GPT-5 3-5T、B100 7000、HBM3E 8TB/s。

网友发现,不只是三星高管有“剧透”,OpenAI日本办事处负责人Tadao Nagasaki最新演讲中也有一张这样的照片:

上面展示,就在今年,将推出“GPT Next”,比GPT-4强大100倍。

谷歌揭秘大模型不会数r原因:嵌入维度是关键,不止分词器问题

巧了,今年早些时候,微软 CTO Kevin Scott也有这么一张图:

谷歌揭秘大模型不会数r原因:嵌入维度是关键,不止分词器问题

一系列消息拼凑起来,网友炸开锅,纷纷表示等不及了。

OpenAI:我们有很多事情要跟大家讲

除了上面的PPT,有网友从OpenAI相关域名更新中发现了华点。

谷歌揭秘大模型不会数r原因:嵌入维度是关键,不止分词器问题

就在昨天,更新中含有”staging”(cdn.staging.openai.com),网友推测这可能意味着该设置是为了测试接近生产环境的配置。

谷歌揭秘大模型不会数r原因:嵌入维度是关键,不止分词器问题

在往下看,8月29号似乎有一个新的关于“video”的域名,是Sora吗?

有意思的是,在传言满天飞的时候,OpenAI这边也有新动作了。

不是澄清,而是表示:有很多事情要告诉您。

就此新开设了一个新闻账号——OpenAI Newsroom。

再联系到之前的草莓、猎户座的爆料。

最近关于OpenAI要推出新模型的消息越来越密集,网友纷纷表示,这下GPT-5真的要来了。

有网友分析:

2到3倍的提升,意味着:使用了新架构,可在不需要更多计算的情况下,保持指数级能力增长;LLM已经趋于稳定。

不过,除了期待,也有大量网友表示希望这一次是真的,可别又是光打雷不下雨的炒作……

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-09-07 11:45:09

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

数势科技智能分析AI Agent 何以在市场中脱颖而出?
...有指令都会被精确映射到一系列预定义的要素上,如时间维度、地域维度、公司维度等。以该零售客户的问题为例,大模型仅需将“最近三个月”识别为时间要素,“商品”识别为产品维度,“好评
2024-12-30 17:00:00
自动化、可复现,基于大语言模型群体智能的多维评估基准
...业生产目标,还是科学场景辅助需求,评估 LLM 在精细化维度上的能力都是至关重要的,例如:数学及其专门分支领域,如代数、几何、概率和微积分。 不同类型的推理能力,例如符号推理
2024-10-23 12:03:00
GPT-4正在变笨
...是,你说对了!大模型确实在变笨! 论文试图通过多种维度评估GPT的表现为何让人感到如此不稳定和不一致,于是为GPT3
2023-07-20 22:34:00
国内第一款AI搜索来了!首发实测:0广告、自动总结成文
...信息来源不仅是高度相关的,同时也保持了广泛的视角和维度,从而实现搜索结果的丰富性和深度。最后通过召回用户之前查询的搜索结果,提高搜索结果与用户交互的连贯性,打造了一种更自然、
2023-08-25 10:42:00
更快、更强、更经济!港大开源大模型RAG系统LightRAG
...果的影响。为了评估模型的性能,我们采用了基于LLM的多维度比较方法。具体定义了全面性、多样性、赋能性和总体表现四个评估维度。这些维度从不同角度衡量模型的回答质量,确保评估的全
2024-10-15 09:57:00
大模型惨遭国内各领域专家组团“投毒”
...令)微调。但这次项目有点不同,主要有两个方面:更多维度的反馈。以往常见的对齐操作,主要是基于人类示范回答监督微调(SFT)
2023-07-16 14:23:00
...教师胜任力模型,从专业素养、专业知识、专业技能3大维度的27个子维度出发,分析教师在教师胜任力上的优势和短板,为有关方面提供教师分层分类培养方案提供精准的建议。对企业来说,同
2023-02-15 07:15:00
菲尔兹奖得主亲测GPT-4o,经典过河难题破解失败!最强Claude 3.5回答离谱,LeCun嘲讽LLM
...数却始终难以超过48%。但这种情况并没有持续很久。各个维度的分数持续猛涨,2023年3月,GPT-4在HellaSwag上的各项得分就逼近
2024-07-01 08:58:00
关于暗物质隐藏地点的新理论
...挑战,但近两年,有科学家提出的一个创新性概念——暗维度场景,这为我们提供了一种可能的解答路径,因为它至少在一定程度上回应了关于宇宙构成的一些根本性问题。这一理论不仅为暗物质的
2024-05-11 14:02:00
更多关于科技的资讯:
杭州日报讯 一名眼科医生可以为行业带来多少改变?杭州明视康眼科医院院长张君告诉你,从打破技术垄断开始。多年来,从跨国企业屈光技术专家转型为国内顶尖的眼科临床医生
2026-01-15 06:48:00
王智超摘要:数字化转型已成为企业应对市场竞争、实现高质量发展的核心驱动力。在数字技术与实体经济深度融合的背景下,传统企业管理模式面临信息传递滞后
2026-01-15 07:02:00
全球前25位!来自浙江的他成为中国唯一登榜学者
近日,国际权威学术平台F1000旗下期刊《F1000Research》发布了一份重量级文献计量分析报告《Top Performers in a Decade of Otolary
2026-01-15 07:49:00
杭州日报讯 机器人时而挥舞手臂,时而变换队形,还会配合歌曲《恭喜发财》做出俏皮的转头动作,工程师则在一旁记录数据调整参数……最近
2026-01-15 07:49:00
旧厂房变身消费新地标每日商报讯 “原本是带孩子来参加动漫展,没想到顺便试驾了新款新能源汽车,还能领餐饮补贴,这样的消费体验太省心了
2026-01-15 07:49:00
大皖新闻讯 为什么偏偏是饺子?时光回到14年前,袁记云饺创始人袁亮宏或许不曾想到,这样一个寻常巷口里诞生的“饺子店”
2026-01-14 21:19:00
大热!机器人行业招聘同比增长37%
2026年是“十五五”规划开局之年,发展新质生产力已摆在更加突出的战略位置。回望2025年,新质生产力相关产业已在实践中形成并展示出对高质量发展的推动力和支撑力
2026-01-14 21:40:00
江南时报讯 日前,昆山农商银行联合海联海律师事务所、昆山市交通运输局举办“聚势低空,共创未来”低空经济产业沙龙活动。活动汇聚昆山市低空经济领域企业代表
2026-01-14 21:49:00
江南时报讯 去年以来,泗阳农商银行以华为“广、深、高、速”的客户洞察框架为指引,深入洞察不同客户群体在生产、经营、生活中的“急难愁盼”
2026-01-14 21:49:00
中新经纬1月14日电 据“CHALI官方”公众号消息,14日,广州茶里集团有限公司(简称“茶里公司”)发布关于近期相关舆情的声明
2026-01-14 21:55:00
北京海淀:开展健康小家电质量检查行动
近日,北京市海淀区市场监管局开展了健康小家电质量检查行动。检查聚焦豆浆机、养生壶、煮蛋器等小家电,核查生产许可证、3C认证证书及质量检验报告,确保所售商品符合国家强制性标准。中国
2026-01-14 17:59:00
中国消费者报福州讯(陈梅冰 记者张文章)为助力辖区企业及个体工商户把握新媒体发展机遇,1月13日,福建省厦门市翔安区市场监管局协同翔安区个体私营企业协会举办题为“新媒体时代
2026-01-14 17:59:00
随着健康养生理念的深入,鲜炖燕窝凭借“新鲜炖煮、冷链配送、营养保留完整”的优势,成为越来越多人的滋补首选。但市场上品牌林立
2026-01-14 19:35:00
承包你的厨房 这就是河南“食”力丨UP!豫新潮③
大河网讯 在中国食品产业的版图上,河南以其令人瞩目的“硬核”数据占据着举足轻重的地位,这里生产了全国二分之一的火腿肠、三分之一的方便面
2026-01-14 17:06:00
荆楚网(湖北日报网)讯(记者齐一璇 通讯员袁嘉晨)近日,华中农业大学信息学院科研成果再传捷报,两项重要研究成果分别斩获省级
2026-01-14 14:29:00