- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...横空出世，开启了大模型演化的新范式——Inference law（推理定律）。正如英伟达AI科学家Jim Fan所说，o1的出现标志着大模型研发者开始把集中在训练阶段的投入，开始转移到了推理过程。Jim还引用了机器学习先驱Rich Sutton的经典...……更多
2024-09-21 09:45:00模型,实测,协作,三个,提示,工程
最近，以 OpenAI o1 为代表的 AI 大模型的推理能力得到了极大提升，在代码、数学的评估上取得了令人惊讶的效果。OpenAI 声称，推理可以让模型更好的遵守安全政策，是提升模型安全的新路径。然而，推理能力的提升真的能解决...……更多
2024-11-08 09:46:00诱导,推理,安全性,对话,安全,攻击
...始人、董事长兼首席执行官李彦宏透露，百度文心大模型推理成本已降至1%。李彦宏表示，自发布以来，百度不断降低文心大模型的推理成本，“文心一言”3.5版本的推理成本是3.0版本的1%。通过推理成本的不断降低，越来越多...……更多
2024-03-02 01:59:00进一,采用率,李彦,文心,产品,文心
...能效果——记忆能力提升3倍、速度提升7倍的同时，实现推理吞吐量的5倍提升。 至于为何另辟蹊径，寻求非Transformer的大模型路径，岩芯数智CEO刘凡平指出，以大规模著称的Transformer，在实际应用中的高算力和高成本，让不少中...……更多
2024-01-29 06:31:00模型,机制,公司,模型,架构,岩芯
...占绝对大头的因素——算力。 现在提及大模型的训练和推理，很多人的第一反应或许就是想到了GPU。诚然GPU在高性能上占据着一定的优势，但它所存在“硬伤”也是比较明显，那便是供应不足、价格昂贵。何以破局？国产大模...……更多
2024-07-10 20:45:00梯队,模型,国产,玩家,模型,英特
...，从跨模态预训练、到下游任务的微调都可以完成。而在推理端，他们为该领域量身定制地打造了生物与AI融合的计算引擎。这个值得说道说道。因为在我们日常大模型语境中，可能只需要针对AI模型本身进行推理优化，就能在...……更多
2024-11-07 09:50:00模型,重构,生命科学,序列,生命,基础
...话会上还表示，自发布以来，百度不断降低文心大模型的推理成本，目前已降低至去年3月版本的1%。随着推理成本的降低，越来越多的用户和企业开始使用文心大模型。百度2023年年报显示，2023年百度实现总营收1345.98亿元，归属...……更多
2024-03-26 11:37:00港股,直线,苹果,功能,手机,文心
...题。此外，AI模型升级迭代的背后是对海量数据的训练和推理，2012年以来全球算力需求快速增长，但算力服务器集群之间的数据交换需要数据中心内部的网络互联做配套，从而激发出对高速率光模块的大量需求，推动光模块行业...……更多
2024-02-29 10:44:00席卷而来,赛道,细分,三个,观察,机构
...云推出全面升级的GPU云服务，通过全新优化GPU套件，多GPU推理服务性能可最大提升100%。针对调用GPU算力最常用的容器技术，阿里云推出ACK云原生AI套件，帮助开发者及企业更高效地开发和部署AI应用，加速大模型应用落地。随着A...……更多
2024-07-19 17:21:00阿里,推理,模型,性能,升级,服务
...的合同工进行人工标注。他强调，来自专家的、包含复杂推理的数据是未来人工智能的必备条件。
传统的数据来源，比如从Reddit等社区的评论中抓取数据存在局限性。Scale AI构建了一些流程，模型先输出一些内容，例如撰写研...……更多
2024-09-26 13:37:00华裔,收入,突破,创业,数据,数据
...于算法和硬件上的提升，今年大模型的反应速度提升了，推理成本也降下来了，但仍然没办法在速度、智能、成本三者上达到很好的平衡。所以我们尝试用开放的思路解题，独创了一种专家协作模型技术架构CoE，召集了几乎行业...……更多
2024-11-05 09:45:00干货,意图,用户,搜索,搜索,模型
...千亿参数MoE架构模型。MoE架构中基于多个专家并行机制，推理时只激活部分专家，以稀疏性压缩了参数数量和推理成本。“这就可以极大地节省算力耗费”。而率先掀起价格战的幻方DeepSeek-V2，就是其通过架构创新，实现了大模...……更多
2024-05-25 10:34:00何方,价格战,深度,模型,价格,模型
...绍下Hyung Won Chung，从公布的o1背后人员名单来看，他属于推理研究的基础贡献者。资料显示，他是MIT博士（方向为可再生能源和能源系统），去年2月加入OpenAI担任研究科学家。加入OpenAI之前，他在Google Brain负责大语言模型的预训...……更多
2024-09-21 09:36:00教会,核心,任务,作者,学习,模型
...训练。
故而，Step-2总参数量达到万亿级别，每次训练或推理所激活的参数量也超过了市面上的大部分Dense模型。此外，Step-2的训练过程中，阶跃的系统团队突破了6D并行、极致显存管理、完全自动化运维等关键技术，支撑起了整...……更多
2024-11-22 09:54:00指令,模型,国产,全球,模型,模态
...，李彦宏透露，自发布以来，百度不断降低文心大模型的推理成本，目前已降低至2023年3月版本的1%。随着推理成本的降低，越来越多的用户和企业开始使用文心大模型。这意味着不论是对于企业还是开发者，基于文心大模型开...……更多
2024-02-29 13:45:00全球,模型,文心,李彦,应用,智能
...拥有一个AI Agent。“如果说2024年是大模型落地应用之年，推理就会越来越重要。此前在训练芯片市场上，英伟达一骑绝尘，占有绝对的市场占有率，那么今天，推理芯片市场没有垄断性的巨头。这不仅是万亿级、万亿颗芯片的蓝...……更多
2024-03-30 18:00:00陈宁,云天,推理,董事长,芯片,董事
...类模型低 75%。端侧友好：量化后端侧内存仅占 6 GB；端侧推理速度高达 18 tokens/s，相比上代模型快 33%。并且发布即支持 llama.cpp、ollama、vllm 推理；且支持多种语言。统一高清框架，高效能力一拖三：小钢炮的传统优势 OCR 能力延...……更多
2024-08-07 09:42:00多图,小钢炮,模态,上端,手机,视频
...比之前更加乐观。他认为，“成本不是核心问题，Token的推理成本可能在接下去的一年还会再降低十倍，甚至更多。公司更应该关注的是用户体验。让AI使用成本降低到人工成本以下，可能就是一两年的时间。”他表示，“核心...……更多
2024-10-30 13:59:00扬清,成本,推理,人工,对话,扬清
...的 agent，是关键的一步。而这篇论文就重点研究了扩展「推理期计算」（inference-time computation）这个问题。研究团队分析了扩展测试时计算的两种主要机制：（1）针对密集的、基于过程的验证器奖励模型进行搜索；（2）根据测...……更多
2024-09-18 09:49:00智商,选手,模型,博士,领先,年代
...展开紧密协作，共同致力于本土算力和大型模型的训练与推理技术的发展。11月初，云从科技在投资者关系平台上答复投资者关心的问题时称，公司已与华为签署了全面合作框架协议，并已联合发布了从容大模型训推一体化解决...……更多
2023-11-15 10:18:00南沙,华为,独角兽,概念股,概念,科技
...MGSM（跨语言数学能力）提升 2.3%，而DROP（文本段落分析推理）则下降了 3%。但与此同时，杀手级应用仍未出现。根据第三方网站SimilarWeb的监测数据，早在去年6月，ChatGPT流量即已见顶，当月其网站与移动客户端的全球流量（PV）...……更多
2024-06-21 09:16:00微软,路径,模型,先后,苹果,玩家
...破，由 OpenAI 与 Figure 共同做出。OpenAI 提供负责提供视觉推理和语言理解，而 Figure 的神经网络提供快速、低水平、灵巧的机器人动作。机器人所做出的所有行为都是出于已经学习过，内化了的能力，而不是来自远程操作。研究...……更多
2024-03-14 19:00:00模型,决策,机器,机器人,机器,模型
大模型预训练“缩放定律”定律失效？模型推理成“解药”，英伟达一家独大格局要变天？“缩放定律”指导下，AI大模型预训练目前遭遇瓶颈。据路透12日报道，硅谷主要AI实验室的新模型训练计划目前普遍进展不顺，新模型...……更多
2024-11-13 14:09:00英伟,争论,逻辑,意味,根本,策略
...练效率提升到了原来的5.1倍，周均训练有效率达到98.8%，推理性能提升了105倍，推理的成本降到了原来的1%。会上，百度发布了文心大模型4.0的工具版，该工具版可以让开发者体验代码解释器功能，开发者不仅可以通过自然语言...……更多
2024-04-16 17:57:00李彦,模态,之路,必经,模型,场景
...模型的短板，此前行业也多次讨论过大模型的数学和复杂推理能力较差，即便是目前最好的大模型GPT-4也仍然有很大进步空间。最近的一次，第一财经曾在6月报道过，根据司南评测体系OpenCompass的高考全卷测试，包括GPT-4在内，7...……更多
2024-07-17 11:56:00实测,模型,模型,数学,小数,问题
...历新一轮技术范式的变化，预训练 Scaling Law 放缓之后，推理时间计算成为了新的性能提升关键。两个月前，OpenAI o1 的诞生再次引领了大模型技术的突破。从后训练阶段入手，通过更多的强化学习、原生的思维链和更长的推理时...……更多
2024-11-19 09:50:00模型,国产,模型,推理,能力,数学
...据具体询问的内容，模型只会激活不同的专家子模块进行推理，在吞吐量一定的情况下，可以更快地完成推理、给出回答。这让Grok-1拥有了更快的生成速度和更低的推理成本，简而言之就是更好的使用体验和性价比。根据xAI公布...……更多
2024-08-13 09:50:00马斯,马斯克,测试版,路线,测试,模型
...理陈宁介绍，DeepEdge10是国内首创的国产14nm Chiplet大模型推理芯片，采用自主可控的国产工艺，内含国产RISC-V核，支持大模型推理部署。依托自研芯片DeepEdge10创新的D2D chiplet架构打造的X5000推理卡，已适配并可承载SAM CV大模型、Lla...……更多
2023-11-16 18:36:00云天,推理,芯片,模型,芯片,云天
...湖大学工学院助理教授（研究）杨林易。o1 作为 OpenAI 在推理领域的最新模型，大幅度提升了 GPT-4o 在推理任务上的表现，甚至超过了平均人类水平。o1 背后的技术到底是什么？OpenAI 技术报告中所强调的强化学习和推断阶段的 Sca...……更多
2024-10-15 09:56:00框架,团队,联合,模型,过程,步骤
...在MMLU（多任务语言理解）、Knowledge（知识）、Reasoning（推理）、Comprehension（理解）等关键指标上均超越了Meta Llama 2的13B模型。这一个故事，在2024年2月1日的发布会上，也被AI模型层公司面壁智能的CEO李大海不断提起。对标Mistral..……更多
2024-02-03 16:03:00适配,推理,模型,主流,成本,智能
更多关于科技的资讯：
本文转自：人民网-上海频道人民网上海3月2日电 （记者龚莎）3月1日，外贸“新春第一展”——第33届华东进出口商品交易会（以下简称“华交会”）在上海新国际博览中心开幕
2025-03-02 19:52:00
快科技3月2日消息，一般来说，卫星发射升空后如果遇到故障，想要救援几乎是不可能的，但是中国却创造了一个奇迹！2024年3月13日
2025-03-02 20:09:00
继谷歌、微软之后，亚马逊近日也发布了自家的第一代量子计算芯片 Ocelot，首次实现了可扩展的玻色子纠错架构，与目前的量子纠错方式相比成本可以降低超过90%
2025-03-02 20:39:00
韩国的生育率一直都是全球最低，2023年韩国的生育率来到了历史最低水平，育龄女性的生育率只有0.72，这意味着每100个育龄女性只会生72个孩子
2025-03-02 20:39:00
快科技3月2日消息，今日晚间，比亚迪携手大疆在深圳举办智能车载无人机系统发布会，并将该系统正式定名为“灵鸢”。据介绍，“灵鸢”让汽车获得垂向视野
2025-03-02 21:09:00
快科技3月2日消息，比亚迪携手大疆在深圳举办智能车载无人机系统发布会，并将该系统正式定名为“灵鸢”。除已经上市的仰望U8（越野玩家版）外
2025-03-02 21:39:00
快科技3月2日消息，国铁集团近日正式发文，明确在建的京唐城际始发站正式名称为“北京城市副中心”站，一共7个字(不包含末尾的站字)
2025-03-02 21:39:00
万众期待的 SU7 Ultra 前天上市了， 52.99 万的价格直接把社媒引爆了。雷总之前还说目标一年卖一万辆，结果发布会当晚就完成了
2025-03-02 21:39:00
大自然有自己的规则，鲜艳的颜色通常代表了危险信号，拥有鲜艳颜色的动物，它们很显眼，时刻在提醒潜在捕食者不要招惹自己。那么
2025-03-02 22:09:00
中国蓝新闻 眼下，以中国网络文学、网络影视剧、网络游戏为代表的文化出海“新三样”，在海外市场屡创佳绩。正加快建设高水平文化强省的浙江
2025-03-02 22:21:00
快科技3月2日消息，日前，比亚迪官方宣布第二代元PLUS智驾版将于3月5日正式上市。此次发布的新车最大亮点是有望全系标配天神之眼C-高阶智驾三目版（DiPilot 100）
2025-03-02 16:09:00
快科技3月2日消息，据媒体报道，谷歌联合创始人谢尔盖·布林（Sergey Brin）发布内部信，督促员工每周工作60小时
2025-03-02 16:09:00
快科技3月2日消息，英伟达与联发科合作开发的首款Arm架构PC芯片NVIDIA N1X的工程机现身Geekbench跑分平台
2025-03-02 16:09:00
快科技3月2日消息，著名围棋棋手、世界冠军柯洁发微博称：“你们怎么知道我全款拿下小米SU7 Ultra啦”，并配上了付款记录
2025-03-02 16:09:00