- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
外媒Semianalysis近日对OpenAI今年3月发布的GPT-4大模型进行了揭秘，其中包括GPT-4模型架构、训练和推理的基础设施、参数量、训练数据集、token数、成本、混合专家模型（MixtureofExperts）等具体的参数和信息。▲图源 Semianalysis外媒...……更多
2023-07-14 22:06:00模型,架构,混合,参数,专家,模型
...日)，美国科技巨头Meta推出了其最强大的开源人工智能(AI)模型Llama 4，Llama 4目前有两个的版本，名为Scout和Maverick。Meta表示，Llama 4是一个多模态大模型，它能够处理和整合各种类型的数据，包括文本、视频、图像和音频，并且可...……更多
2025-04-07 06:44:00架构,混合,模型,专家,模型,人工智能
2024年，全球主流企业加快推出MoE大模型，1-5月发布千亿以上大模型均采用MoE优化架构，且数量超过近三年总和。MoE大模型架构凭借平衡大模型训推成本和计算效率等优势，更适合处理大规模数据和复杂任务，已成谷歌、OpenAI、...……更多
2024-11-04 16:00:00研究方向,模型,现状,方向,趋势,研究
...领域中，序列建模是一项至关重要的任务。然而，现有的模型在捕捉长程依赖关系和高效建模序列方面仍面临诸多挑战。因此，北京大学林宙辰、徐鑫提出了一种全新混合序列建模架构 ——MixCon，它为解决这些难题带来了创新...……更多
2024-10-16 13:34:00序列,架构,北大,混合,团队,性能
...而，构建一个兼具强大性能与高效运算的大规模时序预测模型始终是一个巨大的挑战。此外，高质量的大型公共时间序列数据库的匮乏进一步加剧了这一难题。近日，由来自普林斯顿大学、格里菲斯大学等全球多地的华人国际科...……更多
2024-10-23 09:55:00时序,模型,团队,训练,参数,突破
...：林志佳马斯克（Elon Musk）真的实现了他的承诺——把大模型Grok-1开源了。钛媒体App获悉，北京时间3月18日早上，“硅谷钢铁侠”、亿万富翁马斯克旗下AI初创公司xAI宣布，其研发的大模型Grok-1正式对外开源开放，用户可直接通...……更多
2024-03-20 13:44:00马斯,马斯克,模型,全球,马斯,马斯克
...东西8月21日消息，今天，微软一口气甩出3款超强轻量级模型！微软本次发布的轻量级模型系列名为Phi-3.5，适合在内存和算力受限的环境中运行，均支持128k上下文长度。Phi-3.5-mini-instruct主要面向基础快速推理任务，Phi-3.5-MoE-instru...……更多
2024-08-22 09:49:00上下文,微软,架构,模型,上下,性能
...之心开源社区有福了。说到做到，马斯克承诺的开源版大模型 Grok 终于来了！今天凌晨，马斯克旗下大模型公司 xAI 宣布正式开源 3140 亿参数的混合专家（MoE）模型‘Grok-1’，以及该模型的权重和网络架构。这也使得Grok-1成为当...……更多
2024-03-18 11:51:00马斯,马斯克,权重,架构,模型,参数
...只用1890美元、3700 万张图像，就能训练一个还不错的扩散模型。现阶段，视觉生成模型擅长创建逼真的视觉内容，然而从头开始训练这些模型的成本和工作量仍然很高。比如 Stable Diffusion 2.1 花费了 200000 个 A100 GPU 小时。即使研...……更多
2024-07-30 09:37:00从头,模型,训练,参数,掩蔽,训练
元象XVERSE发布中国最大MoE开源模型：XVERSE-MoE-A36B，该模型总参数255B，激活参数36B，达到100B模型性能的「跨级」跃升。同时训练时间减少30%，推理性能提升100%，使每token成本大幅下降。在多个权威评测中，元象MoE效果大幅超越多...……更多
2024-09-18 13:36:00中国,商用,模型,参数,模型,专家
... checkpoint、训练日志和训练数据都已经开源。尽管大语言模型 (LM) 在各种任务上取得了重大进展，但在训练和推理方面，性能和成本之间仍然需要权衡。对于许多学者和开发人员来说，高性能的 LM 是无法访问的，因为它们的构建...……更多
2024-09-06 10:01:00推理,模型,成本,参数,模型,训练
...武静静编辑｜邓咏仪放弃造车后的苹果，正在加速入局大模型战争。当地时间3月15日，苹果就披露了两个关键大模型动作。其中一个值得关注的是苹果的收购事件。彭博社报道称，苹果已经收购了一家加拿大AI初创公司DarwinAI。...……更多
2024-03-16 18:14:00模型,苹果,参数,焦点,分析,公司
日前，OpenAI 发布 o1-preview，问鼎最强大语言模型，引发业内轰动。也正因如此，国内也产生了质疑的声音：为何大模型领域国内追赶了一两年，差距好像没见缩小，甚至是扩大了。差距真的是在扩大吗？事实可能并非如此。根...……更多
2024-09-16 17:42:00家国,模型,差距,国产,模型,架构
快科技2月13日消息，据报道，字节跳动豆包大模型Foundation团队近日宣布了一项重要创新成果——UltraMem稀疏模型架构。这一架构通过将计算和参数解耦，在保证模型效果的同时，有效解决了推理过程中的访存问题，为人工智能...……更多
2025-02-13 19:51:00豆包,字节,推理,架构,模型,团队
...新闻网2023年4月17日，昆仑万维发布自研双千亿级大语言模型“天工1.0”。即将到来的2024年4月17日，在“天工”大模型一周年之际，昆仑万维重磅宣布，“天工3.0”正式开启公测！“天工3.0”采用4千亿级参数MoE混合专家模型，并...……更多
2024-04-01 19:56:00万维,昆仑,模型,将于,同步,参数
...互能力将是未来数字人发展的重要方向。 腾讯混元大模型赋能AIGC应用落地 推进产业智能化升级 腾讯云大模型产品专家屈蕾
腾讯混元大模型历经迭代日趋成熟，坚持全链路自主研发技术，支持众多场景的创新应用，实现技...……更多
2024-06-26 12:45:00腾讯,落地,升级,智能,产业,应用
...研究人员，利用延迟掩蔽、MoE、分层扩展等策略，将扩散模型的训练成本降到了1890美元。训练一个扩散模型要多少钱？之前最便宜的方法（Wuerstchen）用了28400美元，而像Stable Diffusion这样的模型还要再贵一个数量级。大模型时代...……更多
2024-08-13 09:42:00文生,高质量,模型,参数,模型,训练
...日，来自微软的研究人员开源了使用全新方法训练的MoE大模型，不走寻常路，且编码和数学表现出色。继Phi家族之后，微软又开源了新的混合专家大模型——GRIN MoE。与Phi-3.5同样的个头（16 * 3.8B），却采用了截然不同的训练方法...……更多
2024-11-12 09:57:00专家,微软,路径,模型,模型,专家
...et系列的原班人马推出了新一代架构：BitNet a4.8，为1 bit大模型启用了4位激活值，支持3 bit KV cache，效率再突破。量化到1 bit的LLM还能再突破？这次，他们对激活值下手了！近日，BitNet系列的原班人马推出了新一代架构：BitNet a4.8...……更多
2024-12-06 09:55:00架构,激活,新一代,模型,突破,激活
...团副总裁、政企业务总裁李强表示，腾讯不仅通过自研大模型服务千行百业，也拥有坚实的AI基础设施服务，为中国大模型产业繁荣发展提供技术支撑。去年9月，腾讯全链路自研的腾讯混元大模型正式亮相。根据沙利文的权威报...……更多
2024-05-24 17:14:00长三角,腾讯,集群,模型,产业,世界
9月13日，OpenAI发布具有推理能力的人工智能模型“o1”，备受行业瞩目。o1通过模仿人类的思维过程，强化学习和“思维链”技术，引导模型自主解决问题。这一特点在解决复杂问题，尤其是在科学、编码和数学等领域，展现出...……更多
2024-09-16 17:42:00架构,模型,思维,能力,模式,模型
...闻网中新网北京6月3日电 (记者 夏宾)近年来，为了追求大模型的智慧能力，各国公司不停加码投入，4月，Meta宣布追加10亿美元投资，用于其AI芯片研发和AI数据中心建设；亚马逊为了建设新数据中心投入110亿美元。但在大模型扩...……更多
2024-06-03 14:07:00模型,效率,成本,模型,推理,成本
...者是汪海洋，北京大学20级博士生，目前主要关注是通用模型的架构设计和学习算法。指导教授主要包括王立威，北京大学智能学院教授；Bernt Schiele，德国马普计算所教授；Federico Tombari 谷歌人工智能科学家等。新一代通用灵活...……更多
2024-11-15 09:51:00马普,北大,网络,模型,增量式,增量
...机系的三年级博士生，研究方向涉及 MLSys 和高效大语言模型。师从栗力、须成忠教授。大型语言模型（LLMs）虽然在适应新任务方面取得了长足进步，但它们仍面临着巨大的计算资源消耗，尤其在复杂领域的表现往往不尽如人意...……更多
2024-10-22 09:57:00对称,架构,性能,参数,矩阵,任务
刚刚开源的 Grok，一举拿下迄今为止“全球最大开源模型”称号。马斯克又搞了个全球第一。Grok开源美东时间3月17日，xAI 正式宣布开源大模型Grok-1的权重和网络架构。xAI 表示，开源版大模型Grok-1是一个由 xAI 从头开始训练的 314...……更多
2024-03-18 11:50:00马斯,马斯克,模型,全球,马斯,马斯克
OpenAI o1的横空出世，开启了大模型演化的新范式——Inference law（推理定律）。正如英伟达AI科学家Jim Fan所说，o1的出现标志着大模型研发者开始把集中在训练阶段的投入，开始转移到了推理过程。Jim还引用了机器学习先驱Rich Sut...……更多
2024-09-21 09:45:00模型,实测,协作,三个,提示,工程
...功的关键是注意力机制。注意力机制让基于 Transformer 的模型关注与输入序列相关的部分，实现了更好的上下文理解。然而，注意力机制的缺点是计算开销大，会随输入规模而二次增长，Transformer 也因此难以处理非常长的文本。...……更多
2024-09-03 09:59:00线性,新作,混合,作者,模型,线性
全球开源前二，来自中国大模型的Aha时刻。如果一个技术用3年时间，从默默无闻到改变世界，我们称其为第N次工业革命；如果这个技术从论文到落地的过程中，头部玩家如走马灯更迭，百亿流量砸下去只听一声响就陷入沉寂，...……更多
2025-07-02 13:31:00一群,进化论,偏执,进化,模型,技术
...13日消息，近日，苹果公司推出了300亿参数的多模态AI大模型MM1.5，该版本是在前代MM1的架构基础上发展而来的。该模型继续遵循数据驱动的训练原则，着重探究在不同训练周期中混合各类数据对模型性能产生的影响，相关模型文...……更多
2024-10-13 10:57:00模型,苹果,模型,苹果公司,数据,苹果
作者 ｜杨逍编辑｜苏建勋随着基座大模型的竞争初见分晓，如何将AI落地到各行各业成为行业关注的问题。北京医者信息科技有限责任公司（以下简称“医者AI”）成立于2023年，由清华计算机博士、医学博士及AI健康领域成功创...……更多
2023-10-31 11:44:00医者,清华,健康管理,模型,团队,创业
更多关于科技的资讯：
01、什么是车联网和智能网联汽车车联网车联网是指以智能网联汽车为载体，通过蜂窝移动通信与直连通信网络，运用互联网、大数据
2025-09-25 22:31:00
9月25日正午，杭州云栖大会现场2号馆小舞台，云栖通道如期开通。这是一个为广大AI产业从业者、创业者以及大模型开发者提供的专属交流平台
2025-09-25 20:58:00
北京，2025年9月24日——北京 CBD 核心区再添重磅力作！今日，备受瞩目的 Z3 超甲级写字楼项目正式揭开神秘面纱
2025-09-25 13:43:00
9月19日，中国电信山东公司、天翼物联科技公司与青岛海信日立在青岛举行联合实验室揭牌仪式，标志着三方战略合作迈入全方位深度融合的新阶段
2025-09-25 13:43:00
9月24日至26日，全球云计算与 AI 领域年度旗舰盛会 ——2025 云栖大会在杭州云栖小镇盛大启幕。本届大会以“云智一体・碳硅共生”为核心主题
2025-09-25 13:44:00
为落实《个人征信电子授权安全技术指南》（JR/T 0299—2024）金融行业标准，规范金融机构在个人征信电子授权中的技术操作
2025-09-25 13:44:00
秋意渐浓，北京迎来一场文玩行业盛会。9月24日至28日，以“国潮觉醒 文玩新生”为主题的2025全国文玩大会于潘家园市场（西区）盛大举行
2025-09-25 13:46:00
如今，微短剧已然从“内容新贵”成长为拉动数字经济的重要力量。因为“轻、快、密”的内容节奏，短剧得以迅速占领用户的碎片时间
2025-09-25 13:46:00
日前，北京市工商联、通州区人民政府联合召开2025北京民营企业百强发布会。会上，网易有道凭借持续的创新能力和稳健的业绩表现
2025-09-25 10:06:00
近日，首批龙晶PR型有晶体眼人工晶状体植入手术在济南爱尔眼科医院完成，作为“尝鲜吃螃蟹”的人，患者脸上洋溢着发自内心满意的微笑
2025-09-25 11:20:00
观赛有了更佳的趣味性与沉浸感金科院数字科技赋能国际赛艇大赛南报网讯（通讯员陆慧记者姜静实习生黄佳琪）2025南京·大学生国际赛艇公开赛近日在外秦淮河畔举行
2025-09-25 07:38:00
提升“双盲”模式下的评标质效雄安新区面向评标专家智能问答系统正式上线河北日报讯（见习记者康晓博）只需轻点鼠标，远在外地的评标专家就能获得精准指引
2025-09-25 07:58:00
大模型算出爆款，红枣变致富“金枣”——看沧县红枣及干坚果食品加工产业如何实现数字化转型9月18日，河北华聚食品有限公司的工人忙着打包红枣产品
2025-09-25 07:59:00
9月17日，兴业银行信用卡中心与美团企业版在上海签署战略合作协议，共同打造“金融+生活”开放生态。根据协议，双方将基于开放共享
2025-09-24 07:24:00
金洽会上51个重点产业项目签约，计划投资802.21亿元——一串串数字，见证企业对南京的高度认可□南京日报/紫金山新闻记者张甜甜9月23日
2025-09-24 08:11:00