- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...利用 Checkpoint 保存过程中 GPU 到 CPU 内存拷贝 ( D2H 复制)，序列化，本地存盘，上传到存储系统各个阶段的执行独立性。此外，不同训练进程共同分担 Checkpoint 存取任务的并行处理潜力也没有被充分发掘。这些系统设计上的不足增...……更多
2024-08-09 09:37:00万卡,训练,豆包,脆皮,大为,模型
...法来了：将图（Graph）转换为适合Transformer架构的线性token序列。belike：这种最新图线性化方法，反映了自然语言中局部依赖性和全局对齐性两个关键属性，即：不仅需要保留基于前文上下文预测下一个token的能力（局部依赖性）...……更多
2024-12-03 13:33:00序列,推理,模型,文本,性能,结构
...tion团队近日宣布了一项重要创新成果——UltraMem稀疏模型架构。这一架构通过将计算和参数解耦，在保证模型效果的同时，有效解决了推理过程中的访存问题，为人工智能领域带来了新的突破。据了解，UltraMem架构巧妙地将计算...……更多
2025-02-13 19:51:00豆包,字节,推理,架构,模型,团队
...的示例，这里运行具有四个输入 token 和四个输出 token 的序列。每种颜色代表不同的序列。
我们可以扩展相同的技巧，从而运行具有 2048 个输入 token 和 128 个输出 token 的 Llama 3 70B。每个 batch 中包含用于一个序列的 2048 个输入 to.……更多
2024-06-27 09:24:00辍学生,哈佛,芯片,速度,芯片,模型
...这个过程中，会运行带有四个输入token和四个输出token的序列；每种颜色代表一个不同的序列。同样的技巧，就可以扩展到2048个输入token和128个输出token的Llama-3-70B上。要让每个batch，都包含一个序列的2048个输入token，和127个不同...……更多
2024-06-27 09:25:00小哥,英伟,哈佛,华裔,推理,芯片
...中，LLM会被呈现一系列token，然后会被问到给定的token在序列中出现了多少次。
之所以Transformer会在这类问题上遇到困难，一个关键因素是Softmax注意力机制的均值特性。直观上，解决计数任务的一种简单方法是让查询token关注所...……更多
2024-09-09 13:36:00小哥,原地,外国,论文,小哥,研究者
...时，Genesis 能够自动生成符合物理规律且视觉连贯的动画序列，同时智能控制相机运动，确保最佳观察视角。在机器人控制方面，Genesis 展现出了全方位的能力。系统能够自动生成各种复杂的机器人控制策略，从四足机器人的各...……更多
2024-12-20 09:22:00顶尖,生成,模型,团队,物理,引擎
...址：https://arxiv.org/pdf/2410.01201v1最近，大家重新对用循环序列模型来解决 Transformer 长上下文的问题产生了兴趣，出现了一大批有关成果，其中 Mamba 的成功引爆了 AI 圈，更是点燃了大家的研究热情。Bengio 和他的研究团队发现，这...……更多
2024-10-15 09:56:00图灵奖,图灵,得主,新作,序列,训练
...是RNN的锅。与Transformer相比，RNN模型的一大优势是应对长序列的能力。比如Mamba，内部状态大小始终保持不变，计算随序列长度线性增长，吃得多，消化快。理论虽如此，但实际情况却是，目前的这些RNN模型在长上下文中的有效...……更多
2024-11-28 12:03:00长上,清华,下文,团队,状态,作者
...IPS 2024 Workshop on Time Series in the Age of Large Models 接收。时间序列预测是人类理解物理世界变化的重要一环。自去年底以来，时序预测领域正在经历重大转型，从传统的「单一数据集训练单一模型」的模式逐步转向「通用预测基础模...……更多
2024-11-01 09:27:00时序,下一代,视角,模型,基础,设计
...人系统——基于多尺度3D模型的WetaAvatar 4.0，通过整合「序列猴子」的强大文案生成能力以及「魔音工坊」的高质量语音合成技术，我们进一步强化了数字人的呈现效果，实现高度仿真的外观，同时还精心打造了生动的表情，媲...……更多
2024-04-09 14:00:00重磅,全新,数字,系统,数字,系统
...而却步。其内部架构的复杂性，让决策过程难以解释；长序列处理困难和无法控制的幻觉问题也限制了大模型在某些关键领域和特殊场景的广泛应用。随着云计算和边缘计算的普及，行业对于高效能、低能耗AI大模型的需求正不...……更多
2024-01-29 06:31:00模型,机制,公司,模型,架构,岩芯
...在短问答方面表现出明显的优势，而通过优化的Transformer架构或位置编码来扩展上下文窗口长度的策略对长上下文理解的提升有限。△不同LLM在LooGLE上展现的长文本理解能力△不同模型在LooGLE短程问答上的性能△不同模型在LooGLE...……更多
2024-08-08 09:39:00基准,北大,生成,模型,文本,评估
...快推出MoE大模型，1-5月发布千亿以上大模型均采用MoE优化架构，且数量超过近三年总和。MoE大模型架构凭借平衡大模型训推成本和计算效率等优势，更适合处理大规模数据和复杂任务，已成谷歌、OpenAI、阿里、腾讯等企业控制成...……更多
2024-11-04 16:00:00研究方向,模型,现状,方向,趋势,研究
...编辑部注意力是 Transformer 架构的关键部分，负责将每个序列元素转换为值的加权和。将查询与所有键进行点积，然后通过 softmax 函数归一化，会得到每个键对应的注意力权重。尽管 SoftmaxAttn 中的 softmax 具有广泛的用途和有效性...……更多
2024-09-19 12:02:00注意力,机制,苹果,注意力,研究,近器
...果卷积的形式也使得模型具备视频编解码具备从前向后的序列独立性，便于通过微调的方式向更高帧率与更长时间泛化。从工程部署的角度，智谱基于时间维度上的序列并行（Temporal Sequential Parallel）对变分自编码器进行微调及...……更多
2024-07-27 09:30:00亦庄,甲子,生成,模型,视频,模型
AMD采用Zen 4 + Zen 4c混合架构的Phoenix 2芯片其实早就用在面相掌机市场的Ryzen Z1处理器上，而AMD并没有让该芯片止步于此，现在他们把这款芯片正式推向移动市场，新推出Ryzen 5 7545U和Ryzen 3 7440U处理器就是拥有Zen 4c内核的混合架构...……更多
2023-11-04 09:25:00内核,架构,处理器,混合,推广,处理
...至尊版，首次采用专为智能手机设计的第二代自研Oryon CPU架构，同时在GPU、NPU、影像、连接等各方面都实现了飞跃，各家手机厂商的终端产品也即将纷纷登场。发布会后，快科技采访了高通的多位技术高管，对于骁龙8至尊版的...……更多
2024-10-25 00:57:00架构,混合,成本,高通,性能,架构
...规则，放弃了奔腾、赛扬品牌，新系列部分归属酷睿i5/i3序列，部分则直接叫做Intel处理器序列。摩方的MorefineM9就是首批采用IntelN系列平台的迷你机之一，体积只有0.5升，比一个游戏手柄还要小，或者只相当于紧凑型键盘的三分...……更多
2023-02-10 13:15:00测试,单通道,性能,赛扬,功耗,频率
...的控制器技术与“中央计算+区域控制”新一代电子电气架构实现突破，叠加人工智能大模型的强势赋能，自动驾驶通用泛化能力显著加强；基础设施端，5G+V2X车联网支持的C-ADAS功能、云端数据闭环能力等网联通信技术不断完善...……更多
2024-01-11 10:19:00汽车行业,年度,汽车,行业,技术,技术
...年（最快或1月）未来，比亚迪海洋网中，海豹成为轿车序列，海狮则是SUV序列。广州车展首发亮相的这款海狮07EV，定位中型SUV，车身外部尺寸为4830/1925/1620mm，轴距为2930mm，预计售价在20-26万。新车将于明年上半年上市，上市即...……更多
2023-11-24 09:31:00广州,车展,阿尔法,雷克,阿尔,发动机
...定义模块生成和多领域数据集评估，有效提高了复杂时间序列任务的推理能力和准确性。实验结果表明，TS-Reasoner在金融决策、能源负载预测和因果关系挖掘等多个任务上，相较于现有方法具有显著的性能优势。随着近年来大型...……更多
2024-10-29 09:55:00推理,时间序列,序列,框架,难题,突破
...生命语言，而非自然语言，意味着不仅能处理复杂的生物序列，为药物研发、精准医疗等领域助力；还能开启更多的前沿突破，比如在基因进化、合成生物学、设计/创造生命等方面创造价值……这样一个与我们每个人都息息相...……更多
2024-11-07 09:50:00模型,重构,生命科学,序列,生命,基础
...于设计更高效的基于 Margin 的损失函数或者更复杂的网络架构，以此来帮助卷积神经网络更好地捕捉细腻度的人脸特征。近年来，无监督学习和图神经网络的成功已经表明了数据结构在提升模型泛化能力中的重要性。大规模人脸...……更多
2024-10-18 09:46:00人脸,拓扑,新作,模型,团队,人脸
...的目标，研究人员从扩散模型的基础模块DiT入手。首先，序列长度是Transformer计算成本的大敌，需要除掉。对于图像来说，就需要在不影响性能的情况下，尽量减少参加计算的patch数量（同时也减少了内存开销）。减少图像切块...……更多
2024-08-13 09:42:00文生,高质量,模型,参数,模型,训练
...，使得全模态对齐变得更加复杂。在不到两周的时间内，北大对齐小组基于 Llama-3.2-Vision 的 11B 预训练版本进行后训练 (Post-Training) 对齐微调得到 Beaver-Vision-11B，表现出了比 Meta 微调的 Llama-3.2-11B-Vision-In……更多
2024-10-18 09:47:00模态,指令,框架,模态,模型,数据
...度的状态空间模型，它能够以线性计算复杂度实现对输入序列的有效建模，在近几个月受到了广泛的关注。本文给出了一个十分有趣的发现：强大的 Mamba 模型与通常被认为性能不佳的线性注意力有着内在的相似性：本文用统一...……更多
2024-12-11 09:53:00阿里,清华,线性,视角,注意力,模型
...现，从而大大降低了部署成本。
谷歌团队在重新设计的架构上构建了Gemma 2，使得这位Gemma家族的新成员既能提供卓越的性能，又具有高效的推理能力。简要概括一下，性能、成本、推理是它的突出特点：性能卓越：Gemma 2 27B模...……更多
2024-06-29 09:37:00诚意,经济,模型,训练,性能,注意力
...建模为相机运动，ObjCtrl-2.5D 将三维轨迹表示为相机姿态序列，从而无需训练即可使用现有的相机运动控制 I2V 生成模型（CMC-I2V）进行物体运动控制。为了使最初为全局运动控制而设计的 CMC-I2V 模型适应于处理局部物体运动，他...……更多
2024-12-13 09:19:00推理,模型,思维,空间,模型,生成
...术摸索和调研工作，迅速形成了3种氢能市域列车的车辆架构、氢能设备选型和布置方案。“3套方案形成后，我们立即展开了分析工作，对每套方案的车辆重量分布、轴重、动力性能、模态、气动阻力等关键特性进行了逐一分析...……更多
2024-04-04 01:16:00骄傲,作品,石磊,中车,列车,氢能
更多关于科技的资讯：
近日，苏州移动开展了油机合路器应用试点，成功解决了大功率节点机房的发电难题，为防汛抗台等应急发电工作提供了全新的解决方案
2025-03-03 13:58:00
中新经纬3月3日电 据路透社援引彭博新闻社报道，欧洲奢侈品集团普拉达(Prada)正接近与美国品牌集团Capri达成洽购知名奢侈品牌范思哲(Versace)的协议
2025-03-03 14:03:00
快科技3月3日消息，对于华为来说，正在全面推行的纯血鸿蒙生态中，PC也是必不可缺的一环。有数码博主爆料称华为可能在4月下旬发布鸿蒙PC
2025-03-03 14:09:00
近日，美的空调打造了一场别开生面的新品品鉴活动——以DeepSeek为主讲人推出了全新的美的鲜净感空气机T6，这场全AI主导的新品发布
2025-03-03 14:09:00
快科技3月3日消息，据国外媒体报道称，日本研发了一款人工智能(AI)驱动的仿人机器人，希望在未来可承担起老年人的护理者角色
2025-03-03 14:09:00
快科技3月3日消息，今日，理想汽车宣布，理想旗下首款纯电SUV——理想 i8将于今年7月发布上市。理想汽车CEO李想今天下午发文
2025-03-03 14:09:00
快科技3月3日消息，AMD RX 9070系列正式发布，即将解禁上市，各家品牌厂商都规划了不少产品，讯景更是一口气拿出了多达六款
2025-03-03 14:09:00
近几年，许多耳鼻喉科医生都发现“突发性耳聋”有越来越年轻化的趋势。患者来到医院常见的表述就是“突然一下就什么都听不到了”
2025-03-03 14:39:00
快科技3月3日消息，今日，努比亚手机发布努比亚Flip 2新品发布会直播预告，并公布产品部分亮点，新机将于3月4日16:00正式发布
2025-03-03 14:39:00
在烟草行业数字化转型的关键时期，浪潮数字商业凭借深厚的技术积累和对烟草行业的深入洞察，近日推出了以大模型技术+数字员工3
2025-03-03 14:42:00
随着无人机技术的快速发展和低空应用场景的日益丰富，低空经济的智能化发展已成为推动低空经济高质量发展的重要方向。在此背景下
2025-03-03 14:44:00
本文转自：人民网-北京频道据朝阳区数据局消息，坐落在北京市朝阳区核心地带酒仙桥的E级智算中心——北京数字经济算力中心正式宣告基础设施落成
2025-03-03 14:48:00
鲁网3月3日讯在AI迅猛发展的浪潮中，如何快速掌握人工智能的最新工具，成为每个职场人、创作者、企业管理者和研究者的必修课
2025-03-03 14:49:00
在数字经济蓬勃发展的今天，电商已成为驱动全球经济活力与增长的关键力量，极大地拓宽了市场边界，促进了商品与服务的全球流通
2025-03-03 15:00:00
当传统厂商还在为码表增加0.1英寸屏幕时，酷骑品牌已经凭借一辆酷骑智能自行车=导航仪+防盗器+数据中枢+社交终端，结合AI技术和APP
2025-03-03 15:01:00