- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...。现阶段，视觉生成模型擅长创建逼真的视觉内容，然而从头开始训练这些模型的成本和工作量仍然很高。比如 Stable Diffusion 2.1 花费了 200000 个 A100 GPU 小时。即使研究者使用最先进的方法，也需要在 8×H100 GPU 上训练一个多月的...……更多
2024-07-30 09:37:00从头,模型,训练,参数,掩蔽,训练
...推进了一大步：论文地址：https://arxiv.org/abs/2407.15811——从头开始训练一个11.6亿参数的扩散模型，只需要1890美元！对比SOTA有了一个数量级的提升，让普通人也看到了能摸一摸预训练的希望。更重要的是，降低成本的技术并没有...……更多
2024-08-13 09:42:00文生,高质量,模型,参数,模型,训练
只要改一行代码，就能让大模型训练效率提升至1.47倍。拥有得州大学奥斯汀分校背景四名华人学者，提出了大模型训练优化器Cautious Optimizers。在提速的同时，Cautious能够保证训练效果不出现损失，而且语言和视觉模型都适用。...……更多
2024-11-28 09:58:00训练,模型,团队,速度,代码,华人
...次开源的意义，有热心网友也帮忙总结了：对于任何想要从头开始训练模型或微调现有模型的人来说，数据管理过程是必须研究的。当然，除了OpenAI和苹果，上周Mistral AI联合英伟达也发布了一个12B参数小模型。
HuggingFace创始人...……更多
2024-07-23 09:33:00苹果,一口,模型,一口气,训练,过程
...重和网络架构。xAI 表示，开源版大模型Grok-1是一个由 xAI 从头开始训练的 3140 亿个参数混合专家模型。据介绍，基础模型基于大量文本数据进行训练，没有针对任何具体任务进行微调；3140 亿参数的 MoE 模型，在给定 token 上的激...……更多
2024-03-18 11:50:00马斯,马斯克,模型,全球,马斯,马斯克
...且需要高度同步，一次错误就可能导致整个训练工作必须从头再来。报告显示，为期45天的预训练阶段中，总共出现了466次工作中断，其中47次是计划内的自动维护，419次是意外的，且大部分都来自硬件问题，GPU又是最多的，占...……更多
2024-07-29 11:30:00时报,模型,训练,参数,训练,错误
...基于已有模型通过upcycle（向上复用）开始训练，不然就从头开始训练。Upcycle方式所需算力相对更低、训练效率更高，但随随便便就到这种方式的天花板了。比如基于拷贝复制得到的MoE模型，非常容易出现专家同质化严重的情况...……更多
2024-11-22 09:54:00指令,模型,国产,全球,模型,模态
...size 的 scaling。Scaling model 是通常改变模型结构，往往需要从头训练整个模型，带来了过多的资源消耗，使其越来越不切实际。在本文中，研究团队使用 token 这一概念建模所有的计算，即将 model parameters 也视为一种 token，网络的...……更多
2024-11-15 09:51:00马普,北大,网络,模型,增量式,增量
...了整个模型的推理速度。为什么要把Llama变成Mamba？因为从头开始训练一个大模型太贵了。Mamba也火了这么长时间了，相关的研究每天都有，但自己训练大尺寸Mamba模型的却很少。目前比较有名的是AI21的Jamba（进化到了1.5版本，最...……更多
2024-09-06 10:01:00推理,更快,性能,模型,输出,训练
...业创新步伐基于腾讯混元的开源模型，开发者及企业无需从头训练，即可直接用于推理，并可基于腾讯混元系列打造专属应用及服务，能够节约大量人力及算力。同时，各大模型研发团队均可基于腾讯混元模型进行研究与创新，...……更多
2024-12-04 09:48:00文生,腾讯,模型,参数,社区,视频
...领域正在经历重大转型，从传统的「单一数据集训练单一模型」的模式逐步转向「通用预测基础模型」。目前虽然有不少基础模型已经提出，但如何有效地在高度多样化的时序数据上训练基础模型仍是一个开放问题。近期，来自...……更多
2024-11-01 09:27:00时序,下一代,视角,模型,基础,设计
...界主流的个性化精品数字人通常属于在单个目标人数据上从头训练的小模型，虽然这种小模型能够有效地学到说话人的外表和说话风格，这种做法存在低训练效率、低样本效率、低鲁棒性的问题。相比之下，近年来许多工作专注...……更多
2024-11-01 09:27:00模型,高质量,训练,数字,个性,模型
...来的，其中稀疏记忆格式保持了真实的存储大小；研究者从头开始训练了一个具有 2.4B 非嵌入参数的 Memory3 模型，其性能超过了更大规模的 SOTA 模型。它还比 RAG 具有更好的性能和更快的推理速度；
此外，Memory3 提高了事实性并...……更多
2024-07-11 09:33:00维南,领衔,院士,新作,模型,存储
...了优化。 2、自定义模型构建：允许用户根据自己的需求从头开始构建模型，提供灵活的模型架构设计工具。 3、训练环境配置：提供所需的计算资源，包括GPU、TPU等加速硬件，以及相应的软件环境。 4、超参数调优：帮助用户...……更多
2024-08-07 09:45:00模型,服务,平台,科技,模型,数据
...了自动提示词工程的概念、原理和工作流程，并通过代码从头实现了这一方法。自动提示词工程是什么？自动提示词工程（APE）是指自动生成和优化 LLM 提示词的技术，目标是提升模型在特定任务上的性能。其基于提示词工程的...……更多
2024-09-10 13:39:00从头,人工,提示,指南,工程,提示
...们想了解更多 OpenAI 的开放部分’。回到模型本身，Grok-1 从头开始训练，并且没有针对任何特定应用（如对话）进行微调。相对的，在 X（原 Twitter）上可用的 Grok 大模型是微调过的版本，其行为和原始权重版本并不相同。
Grok-1...……更多
2024-03-18 11:51:00马斯,马斯克,权重,架构,模型,参数
...k-1的参数是最多的。XAI官网的信息还显示，Grok-1是由他们从头开始训练的模型，此次发布的是预训练阶段结束时的原始基础模型检查点，预训练阶段在去年10月份完成。这也就意味着他们开源的模型，没有进行针对对话等任何具...……更多
2024-03-18 20:19:00马斯,马斯克,模型,是在,马斯,马斯克
...适配大模型预训练预训练是指，使用数万亿个token数据，从头开始训练LLM的过程，通常使用自监督算法进行训练。最常见的情况是，训练通过自回归预测下一个token（也称为因果语言建模）。预训练通常需要数千个GPU小时（105-107...……更多
2024-08-27 12:03:00小白,长文,千字,基础,指南,训练
...一个由xAI 2023年10月使用基于JAX和Rust的自定义训练堆栈、从头开始训练的3140亿参数的混合专家（MOE）模型，远超OpenAI的GPT模型。而此次开源的模型是是Grok-1预训练阶段的原始基础模型，没有针对任何特定应用（例如对话）进行微...……更多
2024-03-20 13:44:00马斯,马斯克,模型,全球,马斯,马斯克
...型都是在大语言模型LLM之上生长出多模态的应用，而并非从头开始训练的多模态的大模型，这是多模态大模型目前“不能言说的秘密”。
图源：中信建投证券谷歌自己也提到，到目前为止，创建多模态模型的标准方法基本是针...……更多
2023-12-07 10:31:00强悍,模型,模态,模型,训练,能力
...流配送等关键领域具有重要意义。然而，现有的轨迹相关模型往往受限于特定任务、区域依赖、轨迹数据规模和多样性困乏等问题，限制了模型的泛化能力和实际应用范围。近日，来自于香港科技大学（广州）、南方科技大学、...……更多
2024-11-23 09:42:00轨迹,模型,驱动,基础,全球,轨迹
...ear替换注意力（MHA）和前馈网络（FFN）中的线性投影，以从头开始学习1.58 bit权重。对于激活值，采用混合量化和稀疏化策略来减轻异常值维度引入的误差。图2说明了模型大小为7B的BitNet b1.58中，每个模块输入的分布。注意力层...……更多
2024-12-06 09:55:00架构,激活,新一代,模型,突破,激活
...在聊天基准测试和一般基准测试中优于使用数万亿 token 从头开始训练的开源混合 Mamba 模型。此外，该研究还提出了一种硬件感知推测解码算法，可以加快 Mamba 和混合模型的推理速度。
论文地址：https://arxiv.org/pdf/2408.15237该研...……更多
2024-09-03 09:59:00线性,新作,混合,作者,模型,线性
...都要先获得这个场景里的这些数据，根据你所用的模型，从头开始去训练，尽管之前模型不像现在的模型参数这么大，一亿个参数在去年可能还算是一个挺大的，今年大家都说10亿是小模型，其实也是很大规模的模型。图像、语...……更多
2023-12-21 14:31:00模型,升级,开放,服务,模型,应用
...识也就是，较小的模型可以借助教师模型的指导，获得比从头开始训练更好的性能。为此，Meta在预训练阶段融入了来自Llama 3.1 8B和70B模型的logits（模型输出的原始预测值），并将这些较大模型的输出则用作token级的目标。后训练...……更多
2024-09-27 13:39:00模态,宝宝,模型,图像,训练,文本
...亿稠密模型能够促进整个开源社区的发展，让大家不需要从头开始训练万亿参数模型，也就不需要从头解决收敛的问题。”具身智能得益于大模型的通用能力，机器人有了注入“灵魂”的可能。王仲远提到，智能体很可能会成为...……更多
2024-06-16 23:38:00背后,故事,模型,智能,技术,研究院
...小分别为130M、370M和780M，另外3个模型（36M、47M、85M）则从头开始训练。
实验结果上图展示了在Mamba-2 780M上无训练长度泛化方法的结果。我们可以看到，虽然LongMamba大大提高了模型的长度泛化性（3倍以上），但它在较短的序列...……更多
2024-11-28 12:03:00长上,清华,下文,团队,状态,作者
...Net b1.58将每个参数仅用三元值表示，但是所有这些都需要从头开始训练模型，并不是谁都有预算来进行LLM预训练。而Huggingface Transformers最近整合了BitNet b1.58，运用了一些技巧，使得现有模型可以直接微调到1.58bit。感兴趣的童鞋...……更多
2024-10-23 12:05:00模型,微软,推理,框架,参数,模型
...现上，特别是小人脸、高速镜头等场景有明显提升。3、从头到尾用full attention（全注意力）的机制，没有用时空模块，提升画面流畅度。混元视频生成模型采用统一的全注意力机制，使得每帧视频的衔接更为流畅，并能实现主体...……更多
2024-12-04 09:50:00腾讯,权重,推理,模型,参数,代码
...十亿个值，从而尽可能减少存储参数所需的空间。让我们从头开始，探索数值是如何表示的，然后再进行优化。如何表示数值数值存储的形式通常是浮点数（floting point number，或简称为floats）：一个带有小数点的正数或负数。这...……更多
2024-08-01 09:38:00干货,可视化,模型,工程师,指南,工程
更多关于科技的资讯：
新疆网讯 12月27日， 由中国农业银行乌鲁木齐分行打造的全疆首家贵金属旗舰店，在农业银行乌鲁木齐天山区支行正式营业，消费者可一站式获得贵金属鉴赏
2024-12-28 22:27:00
12月28日消息，据媒体报道，最近一段时间，微短剧走红网络，这些剧涉及的题材五花八门，以快节奏、高密度、强冲突、多反转著称
2024-12-28 22:39:00
江南时报讯（记者 邓雯婷）12月28日上午，国际知名动漫平台“布雷福思朵”中国大陆首店在南京夫子庙水游城落户，吸引了众多动漫迷与消费者的关注
2024-12-28 22:46:00
快科技12月28日消息，今天，南京地铁7号线中段正式开通运营，标志着全线实现贯通。其中，清凉山站作为南京最深的地铁站，一经亮相便在南京人的朋友圈里刷屏
2024-12-28 20:09:00
12月28日消息，微博话题“16岁男孩每天只睡5小时头先秃了”引发热议。据媒体报道，16岁的小周由妈妈带至医院脱发门诊就诊
2024-12-28 20:09:00
快科技12月28日消息，博主定焦数码爆料，除华为外，目前只有三星在布局三折叠屏，其他家都没有三折或者折叠PC的计划，不过三星三折叠屏难以做到大规模的铺货
2024-12-28 20:39:00
据湖南消防12月28日消息，近日，湖南省郴州市桂东县发生了一起紧急救援事件。一名女子在深夜拨打报警电话，声音急促且含糊不清
2024-12-28 21:09:00
快科技12月28日消息，据灯塔专业版，截至今晚19时09分，2024年贺岁档（11月22日—12月31日）档期票房（含预售）突破25亿
2024-12-28 21:09:00
2024年，快递件量已突破1500亿件，增速仍高。国家邮政局本月公布的数据显示，今年1-11月，快递业务量累计完成1572
2024-12-28 22:09:00
快科技12月28日消息，今天，小米汽车正式步入一周年。与此同时，“小米车主故事”专栏正式开启，记录真实美好的个人故事，他们也许职业不同
2024-12-28 17:09:00
如果比较关注低价显卡，你或许会发现最近的魔改显卡多了好多，尤其是某鱼有很多超大显存的显卡，比如860元的魔改RX5600拥有12GB显存
2024-12-28 17:09:00
快科技12月28日消息，据官方公布消息显示，中国电子飞腾系列国产CPU总销量突破1000万片。中国电子飞腾系列国产CPU总销量近日突破1000万片
2024-12-28 17:09:00
快科技12月28日消息，博主厂长是关同学透露，华为Mate 70系列从元旦开始会陆续增加货源，这批次供货Pro版会多一些
2024-12-28 17:39:00