- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...的出现打破了这一局面，它可以随上下文长度的增加实现线性扩展。随着 Mamba 的发布，这些状态空间模型 (SSM) 在中小型规模上已经可以与 Transformer 匹敌，甚至超越 Transformer，同时还能维持随序列长度的线性可扩展性，这让 Mamba...……更多
2024-09-03 09:59:00线性,新作,混合,作者,模型,线性
...中单一非对称形状的各向异性量子点已被证明可以发出强线性偏振光，例如纳米线、纳米棒等。这些非对称的单一量子点的线性偏振能大于 70%。但是因为尺寸的不均一性等原因，如何将其在薄膜和器件中有序排列仍是一个待解...……更多
2024-04-02 10:26:00晶格,偏振光,偏振,线性,纳米,发射
...架构QIREN 的总体架构如图 3 所示，由 N 个混合层和末端的线性层组成。该模型以坐标作为输入并输出信号值。数据最初进入混合层，从 Linear 层和 BatchNorm 层开始，得到：然后被输入到数据重新上传量子电路 QC 中。在图 2 (b) 和 (c...……更多
2024-06-27 09:24:00量子,信号,内存,指数,网络,量子
...中，作者探索了不同的门控函数。首先使用的是最流行的线性投影门控函数，它通过一个线性层来生成专家子集的分配结果。此外，作者提出了一种新的门控机制，利用从预训练模型的 token 表示中得出的聚类中心来指导专家分...……更多
2024-11-01 09:27:00时序,下一代,视角,模型,基础,设计
...即velocity）上进行了实验，包括DiT中改进后的DDPM和SiT中的线性随机插值，但实际中也同样可以考虑其他的训练目标。所用模型默认严格遵循SiT和DiT的原始结构（除非有特别说明），包括B/2、L/2、XL/2三种参数设置，如表1所示。
...……更多
2024-10-23 09:55:00新作,速度,训练,学习,模型,训练
...（input gate、output gate、forget gate）和输入的分量，都通过线性投影和非线性激活函数来得出，并且依赖于上一个时刻的隐藏状态ht-1。
这些值再经过线性和非线性计算，得到本时刻的输出ct和隐藏状态ht。GRU在LSTM的基础上做了一...……更多
2024-10-26 09:53:00高下,新作,大道,门控,模型,训练
...推测解码。最终，研究人员将Zephyr-7B、Llama-3 8B提炼为了线性RNN模型（混合Mamba和Mamba2），且性能与蒸馏之前的标准模型相当。整个训练过程只使用了20B的token，效果却能够与使用1.2T个token从头开始训练的Mamba 7B模型，以及使用3.5T...……更多
2024-09-06 10:01:00推理,更快,性能,模型,输出,训练
...Infini-attention。它通过将压缩记忆（compressivememory）整合到线性注意力机制中，用来处理无限长上下文。压缩记忆允许模型在处理新输入时保留和重用之前的上下文信息。它通过固定数量的参数来存储和回忆信息，而不是随着输入...……更多
2024-04-14 02:57:00大内,机制,上下文,模型,处理,上下
...推理更为高效。相反，传统 RNN 的瓶颈在于其训练，需要线性训练时间（通过时间反向传播），这导致其最终被淘汰。人们对循环序列模型重新产生兴趣，是因为许多新的架构可以高效地进行并行训练。研究者对比了训练传统 RNN...……更多
2024-10-15 09:56:00图灵奖,图灵,得主,新作,序列,训练
...。要超越普通人的认知就得掌握更多的思维模型。01、非线性思维由于人类长期的进化结果，我们更倾向于用“线性”思维方式理解世界。然而，世界的本质是非线性的。这个世界之所以有些人能取得巨大成功，而大部分人平平...……更多
2024-04-25 19:22:00旭东,模型,思维,投资,思维,脆弱
...获宇宙学依赖性和宇宙结构形成的时间演化。
模拟器将线性位移场映射到特定红移处对应的非线性位移。模拟器是一个神经网络，包含对Ω和红移z处的线性增长因子D(z)的依赖性进行编码的样式参数。研究人员在六维N-body相空间...……更多
2024-09-20 13:34:00暗物质,仿真,宇宙,突破,结构,粒子
...维数据时，传统的数据分析方法往往过分依赖于特征间的线性相关性。尽管这些线性方法能够简化数据的表示形式，但它们在捕捉数据中的复杂模式方面却显得力不从心。一个典型的例子是，高维数据往往聚集在低维流形附近，...……更多
2024-02-01 10:58:00高维,清华大学,清华,团队,合作,方法
...的学科，它非常广泛，在许多领域都有各种各样的应用。线性代数是数学的一部分，理解和应用起来尤其困难。在我看来，关于线性代数的许多课程和开源工具都需要大量的计算。对于刚接触线代的新人来说，这可能是个问题。...……更多
2024-01-26 10:19:00原理,线性代数,代数,线性,直观,机器
...存在性能不如 Softmax 注意力且可能增加额外开销的情况。线性 RNN 模型线性 RNN 模型如 Mamba 等通过将序列表示为状态空间并利用扫描操作，以线性时间复杂度提供了序列建模的新解决方案。然而，它们可能缺乏复杂序列建模任务...……更多
2024-10-16 13:34:00序列,架构,北大,混合,团队,性能
...不错的短期机会。第三点是AI的赋能。传统量化投资中，线性思维容易导致模型错失有效的因子收益信息，在因子的挖掘端和合成端都欠缺非线性思维。而机器学习则能很好地构建非线性模型，扩展到文本、图像等非线性数据的...……更多
2023-11-03 10:54:00长城,基金,投资,因子,投资,市场
...扩展的长期交通预测成为可能。在patch操作后，作者使用线性转换和正余弦位置编码PE以得到最终时空嵌入表征Er ∈ ℝ^(P×d)，它被用于后续组件的输入，如下：时空上下文编码为了捕捉交通数据中固有的复杂时空模式，模型整合...……更多
2024-09-02 13:34:00路况,样本,模型,交通,交通,模型
...现了高达10.6倍的速度提升，且这一提升几乎与GPU数量成线性关系。背后团队简单介绍一下提出PAB的团队成员，总共有4位。尤洋教授想必大家都比较熟悉了，清华计算机系硕士，UC伯克利博士，毕业后加入新加坡国立大学计算机...……更多
2024-06-29 09:30:00新纪元,新作,实时,生成,团队,这是
...我纠错进行了理论分析。值得一提的是，他们并没有使用线性注意力机制下的线性回归任务进行理论分析，而是使用真实世界LLM在用的softmax多头注意力机制的transformer结构，并利用Bradley-Terry 模型和 Plackett-Luce 模型（LLM对齐的实...……更多
2024-11-19 09:48:00推理,北大,团队,解释,能力,理论
...。值得注意的是，T-MAC的计算性能会随着比特数的降低而线性提高，这一现象在基于反量化去实现的GPU和NPU中是难以观察到的。这进一步使得T-MAC能够在2比特下实现单核每秒10个token，四核每秒28个token，大大超越了NPU的性能。采...……更多
2024-08-10 09:52:00新技,微软,提速,新技术,模型,手机
...题组还发现了大模型推理能力和推理步骤数量有着绝对的线性关系，在示范里推理步骤越多，最后模型做推理题或者逻辑题的正确率越高。这一能力可以解决一些问题，比如大家设计 prompt 的时候不会注意到步骤的问题，而本次...……更多
2024-03-15 10:41:00罗格,罗格斯,推理,模型,团队,概念
...控制。许多日常设备，如恒温器和巡航控制系统，都使用线性控制器。由于这些设备算法简单，所以很难控制复杂行为（例如混沌）系统。因此，自动驾驶汽车等先进设备通常依赖基于机器学习的控制器。研究的主要作者、俄亥...……更多
2024-05-14 02:21:00模型,能力,数字,系统,控制,控制器
...度的升高而显著增加，羰基物质类别与温度升高呈中等正线性Pearson相关性。仅对于呋喃类物质，未发现与温度的线性关系。图3. 通过Pearson线性相关分析得到的热解温度与物质类别之间的相关矩阵。
本研究所采用的热解温度对...……更多
2024-03-19 10:53:00生成,温度,物质,控制,食品,健康
...整个数据集，然后按照此前 OLMo 论文中的方法，将学习率线性衰减到 0。
自适应论文作者从指令调优和偏好调优两方面，基于之前的开放模型，构造了 OLMoE-1B-7B-INSTRUCT。在指令调优集中，他们增加了更多的代码和数学数据，以...……更多
2024-09-06 10:01:00推理,模型,成本,参数,模型,训练
...（可扩展插值 Transformer）模型的逐层行为，该模型使用了线性插值和速度预测（velocity prediction）进行训练。他们研究的重点是扩散 Transformer 和当前领先的监督式 DINOv2 模型之间的表征差距。他们从三个角度进行了研究：语义差...……更多
2024-10-15 09:57:00模型,训练,方法,模型,训练,视觉
...资的决胜因素。同时，AI的引入改变了传统量化只能通过线性的方式看待规律的角度，采用非线性的方式，极大提升了模型自适应的能力。可以说人工智能模型为主动量化基金注入了“灵魂”，而正在发行的富国致航量化就采用...……更多
2024-02-03 00:45:00富国,震荡,基金,富国,基金,投资
...代价值？如何以现代的舞台语汇表现宋代的文化气韵？非线性叙事《苏堤春晓》一改传统历史剧的叙事方式，以非线性叙事方式结构全剧，以艺术主题的逻辑取代了线性的叙事时间发展逻辑。比如，戏的开端是苏轼反对王安石变...……更多
2024-05-10 09:22:00苏堤,春晓,非线性,苏轼,人生,苏东
...微特电机龙头，成长性优异公司主营微特电机，产品包括线性执行器、混合式步进电机、直流电机、音圈电机四大类，主要应用于医疗器械及工业自动化板块。公司产品定位中高端，线性执行器为行业领先产品，呼吸机配套音圈...……更多
2024-01-03 15:14:00微特,风起,微特电机,人形,产业链,机器人
...更好地理解某个模型的自变量和因变量之间的关系。算法线性/逻辑回归：对因变量和一个或多个自变量之间的线性关系进行建模的一种统计方法——可用于了解基于t-检验和系数的变量之间的关系。决策树：一种机器学习算法，...……更多
2023-01-25 13:00:00算法,机器,学习,算法,数据,学习
...国立大学仇成伟教授、郭强兵博士等合作，在二维材料非线性量子光源研究中取得重大突破——首次实现超薄的量子光源，厚度可低至46纳米。据介绍，这是目前国际报道的最薄非线性量子光源。研究成果近日发表于国际著名学...……更多
2023-01-06 22:03:00非线性,量子,光源,厚度,纳米,量子
...衡专家之间的负载。此外，作者还考虑了分层缩放方法，线性增加Transformer块的宽度（即注意力层和前馈层中的隐藏层尺寸）。由于视觉模型中的更深层倾向于学习更复杂的特征，因此在更深层中使用更多的参数将带来更好的性...……更多
2024-08-13 09:42:00文生,高质量,模型,参数,模型,训练
更多关于科技的资讯：
快科技1月13日消息，据新浪科技报道，小米近日在内部宣布人事调整，原集团战略合作部总经理徐然转岗，该职位由魏娜接任，向集团总裁卢伟冰汇报
2025-01-13 16:53:00
快科技1月13日消息，有博主发布了一则理想AES（全自动紧急转向）功能救车主一命的视频。行车记录仪显示，1月9日，理想车主夜间驾车在高速上行驶
2025-01-13 16:53:00
快科技1月13日消息，近日，河南省人民政府办公厅发布的《关于印发推动2025年第一季度经济“开门红”若干政策措施的通知》中提出
2025-01-13 16:53:00
快科技1月13日消息，联想新一代ThinkBook 14/16 2025款笔记本近日在国内电商平台开启预售，搭载英特尔酷睿5 220H和酷睿7 250H双平台
2025-01-13 16:53:00
快科技1月13日消息，领克900 EM-P这款6座插混大型SUV的纯电续航信息已被工信部披露。据悉，车辆将配备43.3千瓦时和50千瓦时的电池组
2025-01-13 16:53:00
1月13日消息，据气象台消息，在冷空气持续影响下，广东近日迎来了此轮冷空气过程的最低气温。1月12日上午8时，广州从化吕田镇录得全市最低气温仅-3
2025-01-13 16:53:00
快科技1月13日消息，今天上午，号码为“13110000000”的中国联通手机号拍卖成功，尾号7个“0”吸引了无数人围观
2025-01-13 16:53:00
快科技1月13日消息，苹果公司近期似乎陷入了“坏消息”的漩涡，2025年开年以来，苹果股价在前8个交易日中有6天下跌，累计跌幅超过5%
2025-01-13 16:53:00
齐鲁晚报·齐鲁壹点 张妍2024年山东家电市场整体向好发展。无论是传统家电的换新，还是消费升级类智能家电的普及，在实实在在的以旧换新政策的优惠补贴下
2025-01-13 17:09:00
齐鲁晚报·齐鲁壹点 张唯 2024年的消费市场像一场“生活方式大改造”，运动与健康成为其中的亮眼主题。为深入了解洞悉山东消费者在时尚消费上的趋势与偏好
2025-01-13 17:10:00
本文转自：人民网-江西频道S1000型浮空风力发电系统在共青城市试飞成功。潘成摄人民网共青城1月13日电 近日，在江西省共青城市鄱阳湖模型试验研究基地
2025-01-13 17:13:00
快科技1月13日消息，将今日发射的蓝色起源重型火箭新格伦（New Glenn）在首飞倒计时的最后几分钟终止起飞，现场工作人员立刻排空了所有燃料
2025-01-13 17:23:00
快科技1月13日消息，据报道，1月9日，在宝鸡市凤翔高新技术产业开发区，随着吨级液氢电动垂直起降无人机平稳降落，标志着北京和陕西两地企业联合开发的国内首架吨级液氢电动垂直起降无人机试飞成功
2025-01-13 17:23:00
前阵子在短视频平台刷到一个有趣的视频，一位网友分享了一只长得像叶子一样的宠物昆虫，他在视频中声称这只昆虫自己从小养到大
2025-01-13 17:23:00
快科技1月13日消息，小米汽车宣布，小米SU7上市后首个冬季，陆续被众多媒体、用户进行冬季实测。最近在懂车帝2024冬测中
2025-01-13 17:23:00