- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...。现阶段，视觉生成模型擅长创建逼真的视觉内容，然而从头开始训练这些模型的成本和工作量仍然很高。比如 Stable Diffusion 2.1 花费了 200000 个 A100 GPU 小时。即使研究者使用最先进的方法，也需要在 8×H100 GPU 上训练一个多月的...……更多
2024-07-30 09:37:00从头,模型,训练,参数,掩蔽,训练
...推进了一大步：论文地址：https://arxiv.org/abs/2407.15811——从头开始训练一个11.6亿参数的扩散模型，只需要1890美元！对比SOTA有了一个数量级的提升，让普通人也看到了能摸一摸预训练的希望。更重要的是，降低成本的技术并没有...……更多
2024-08-13 09:42:00文生,高质量,模型,参数,模型,训练
只要改一行代码，就能让大模型训练效率提升至1.47倍。拥有得州大学奥斯汀分校背景四名华人学者，提出了大模型训练优化器Cautious Optimizers。在提速的同时，Cautious能够保证训练效果不出现损失，而且语言和视觉模型都适用。...……更多
2024-11-28 09:58:00训练,模型,团队,速度,代码,华人
...次开源的意义，有热心网友也帮忙总结了：对于任何想要从头开始训练模型或微调现有模型的人来说，数据管理过程是必须研究的。当然，除了OpenAI和苹果，上周Mistral AI联合英伟达也发布了一个12B参数小模型。
HuggingFace创始人...……更多
2024-07-23 09:33:00苹果,一口,模型,一口气,训练,过程
...重和网络架构。xAI 表示，开源版大模型Grok-1是一个由 xAI 从头开始训练的 3140 亿个参数混合专家模型。据介绍，基础模型基于大量文本数据进行训练，没有针对任何具体任务进行微调；3140 亿参数的 MoE 模型，在给定 token 上的激...……更多
2024-03-18 11:50:00马斯,马斯克,模型,全球,马斯,马斯克
...且需要高度同步，一次错误就可能导致整个训练工作必须从头再来。报告显示，为期45天的预训练阶段中，总共出现了466次工作中断，其中47次是计划内的自动维护，419次是意外的，且大部分都来自硬件问题，GPU又是最多的，占...……更多
2024-07-29 11:30:00时报,模型,训练,参数,训练,错误
...基于已有模型通过upcycle（向上复用）开始训练，不然就从头开始训练。Upcycle方式所需算力相对更低、训练效率更高，但随随便便就到这种方式的天花板了。比如基于拷贝复制得到的MoE模型，非常容易出现专家同质化严重的情况...……更多
2024-11-22 09:54:00指令,模型,国产,全球,模型,模态
...size 的 scaling。Scaling model 是通常改变模型结构，往往需要从头训练整个模型，带来了过多的资源消耗，使其越来越不切实际。在本文中，研究团队使用 token 这一概念建模所有的计算，即将 model parameters 也视为一种 token，网络的...……更多
2024-11-15 09:51:00马普,北大,网络,模型,增量式,增量
...了整个模型的推理速度。为什么要把Llama变成Mamba？因为从头开始训练一个大模型太贵了。Mamba也火了这么长时间了，相关的研究每天都有，但自己训练大尺寸Mamba模型的却很少。目前比较有名的是AI21的Jamba（进化到了1.5版本，最...……更多
2024-09-06 10:01:00推理,更快,性能,模型,输出,训练
...业创新步伐基于腾讯混元的开源模型，开发者及企业无需从头训练，即可直接用于推理，并可基于腾讯混元系列打造专属应用及服务，能够节约大量人力及算力。同时，各大模型研发团队均可基于腾讯混元模型进行研究与创新，...……更多
2024-12-04 09:48:00文生,腾讯,模型,参数,社区,视频
...领域正在经历重大转型，从传统的「单一数据集训练单一模型」的模式逐步转向「通用预测基础模型」。目前虽然有不少基础模型已经提出，但如何有效地在高度多样化的时序数据上训练基础模型仍是一个开放问题。近期，来自...……更多
2024-11-01 09:27:00时序,下一代,视角,模型,基础,设计
...界主流的个性化精品数字人通常属于在单个目标人数据上从头训练的小模型，虽然这种小模型能够有效地学到说话人的外表和说话风格，这种做法存在低训练效率、低样本效率、低鲁棒性的问题。相比之下，近年来许多工作专注...……更多
2024-11-01 09:27:00模型,高质量,训练,数字,个性,模型
...来的，其中稀疏记忆格式保持了真实的存储大小；研究者从头开始训练了一个具有 2.4B 非嵌入参数的 Memory3 模型，其性能超过了更大规模的 SOTA 模型。它还比 RAG 具有更好的性能和更快的推理速度；
此外，Memory3 提高了事实性并...……更多
2024-07-11 09:33:00维南,领衔,院士,新作,模型,存储
...了优化。 2、自定义模型构建：允许用户根据自己的需求从头开始构建模型，提供灵活的模型架构设计工具。 3、训练环境配置：提供所需的计算资源，包括GPU、TPU等加速硬件，以及相应的软件环境。 4、超参数调优：帮助用户...……更多
2024-08-07 09:45:00模型,服务,平台,科技,模型,数据
...了自动提示词工程的概念、原理和工作流程，并通过代码从头实现了这一方法。自动提示词工程是什么？自动提示词工程（APE）是指自动生成和优化 LLM 提示词的技术，目标是提升模型在特定任务上的性能。其基于提示词工程的...……更多
2024-09-10 13:39:00从头,人工,提示,指南,工程,提示
...们想了解更多 OpenAI 的开放部分’。回到模型本身，Grok-1 从头开始训练，并且没有针对任何特定应用（如对话）进行微调。相对的，在 X（原 Twitter）上可用的 Grok 大模型是微调过的版本，其行为和原始权重版本并不相同。
Grok-1...……更多
2024-03-18 11:51:00马斯,马斯克,权重,架构,模型,参数
...k-1的参数是最多的。XAI官网的信息还显示，Grok-1是由他们从头开始训练的模型，此次发布的是预训练阶段结束时的原始基础模型检查点，预训练阶段在去年10月份完成。这也就意味着他们开源的模型，没有进行针对对话等任何具...……更多
2024-03-18 20:19:00马斯,马斯克,模型,是在,马斯,马斯克
...适配大模型预训练预训练是指，使用数万亿个token数据，从头开始训练LLM的过程，通常使用自监督算法进行训练。最常见的情况是，训练通过自回归预测下一个token（也称为因果语言建模）。预训练通常需要数千个GPU小时（105-107...……更多
2024-08-27 12:03:00小白,长文,千字,基础,指南,训练
...一个由xAI 2023年10月使用基于JAX和Rust的自定义训练堆栈、从头开始训练的3140亿参数的混合专家（MOE）模型，远超OpenAI的GPT模型。而此次开源的模型是是Grok-1预训练阶段的原始基础模型，没有针对任何特定应用（例如对话）进行微...……更多
2024-03-20 13:44:00马斯,马斯克,模型,全球,马斯,马斯克
...型都是在大语言模型LLM之上生长出多模态的应用，而并非从头开始训练的多模态的大模型，这是多模态大模型目前“不能言说的秘密”。
图源：中信建投证券谷歌自己也提到，到目前为止，创建多模态模型的标准方法基本是针...……更多
2023-12-07 10:31:00强悍,模型,模态,模型,训练,能力
...流配送等关键领域具有重要意义。然而，现有的轨迹相关模型往往受限于特定任务、区域依赖、轨迹数据规模和多样性困乏等问题，限制了模型的泛化能力和实际应用范围。近日，来自于香港科技大学（广州）、南方科技大学、...……更多
2024-11-23 09:42:00轨迹,模型,驱动,基础,全球,轨迹
...ear替换注意力（MHA）和前馈网络（FFN）中的线性投影，以从头开始学习1.58 bit权重。对于激活值，采用混合量化和稀疏化策略来减轻异常值维度引入的误差。图2说明了模型大小为7B的BitNet b1.58中，每个模块输入的分布。注意力层...……更多
2024-12-06 09:55:00架构,激活,新一代,模型,突破,激活
...在聊天基准测试和一般基准测试中优于使用数万亿 token 从头开始训练的开源混合 Mamba 模型。此外，该研究还提出了一种硬件感知推测解码算法，可以加快 Mamba 和混合模型的推理速度。
论文地址：https://arxiv.org/pdf/2408.15237该研...……更多
2024-09-03 09:59:00线性,新作,混合,作者,模型,线性
...都要先获得这个场景里的这些数据，根据你所用的模型，从头开始去训练，尽管之前模型不像现在的模型参数这么大，一亿个参数在去年可能还算是一个挺大的，今年大家都说10亿是小模型，其实也是很大规模的模型。图像、语...……更多
2023-12-21 14:31:00模型,升级,开放,服务,模型,应用
...识也就是，较小的模型可以借助教师模型的指导，获得比从头开始训练更好的性能。为此，Meta在预训练阶段融入了来自Llama 3.1 8B和70B模型的logits（模型输出的原始预测值），并将这些较大模型的输出则用作token级的目标。后训练...……更多
2024-09-27 13:39:00模态,宝宝,模型,图像,训练,文本
...亿稠密模型能够促进整个开源社区的发展，让大家不需要从头开始训练万亿参数模型，也就不需要从头解决收敛的问题。”具身智能得益于大模型的通用能力，机器人有了注入“灵魂”的可能。王仲远提到，智能体很可能会成为...……更多
2024-06-16 23:38:00背后,故事,模型,智能,技术,研究院
...小分别为130M、370M和780M，另外3个模型（36M、47M、85M）则从头开始训练。
实验结果上图展示了在Mamba-2 780M上无训练长度泛化方法的结果。我们可以看到，虽然LongMamba大大提高了模型的长度泛化性（3倍以上），但它在较短的序列...……更多
2024-11-28 12:03:00长上,清华,下文,团队,状态,作者
...Net b1.58将每个参数仅用三元值表示，但是所有这些都需要从头开始训练模型，并不是谁都有预算来进行LLM预训练。而Huggingface Transformers最近整合了BitNet b1.58，运用了一些技巧，使得现有模型可以直接微调到1.58bit。感兴趣的童鞋...……更多
2024-10-23 12:05:00模型,微软,推理,框架,参数,模型
...现上，特别是小人脸、高速镜头等场景有明显提升。3、从头到尾用full attention（全注意力）的机制，没有用时空模块，提升画面流畅度。混元视频生成模型采用统一的全注意力机制，使得每帧视频的衔接更为流畅，并能实现主体...……更多
2024-12-04 09:50:00腾讯,权重,推理,模型,参数,代码
...十亿个值，从而尽可能减少存储参数所需的空间。让我们从头开始，探索数值是如何表示的，然后再进行优化。如何表示数值数值存储的形式通常是浮点数（floting point number，或简称为floats）：一个带有小数点的正数或负数。这...……更多
2024-08-01 09:38:00干货,可视化,模型,工程师,指南,工程
更多关于科技的资讯：
快科技3月4日消息，在智能化配置泛滥的当下，加大加多屏幕似乎成为了主流，然而大道至简，近日，多家欧洲车企正以"反向操作"重拾基础款车型战略
2025-03-04 19:11:00
快科技3月4日消息，随着AI的快速发展，日本政府也投入了约10亿日元（约合4879万人民币）的研发经费，试图开发一款用于判断儿童是否遭受虐待的AI工具
2025-03-04 19:11:00
快科技3月4日消息，近日，微信iOS版和安卓版均出现了热更新。此次更新使得清理变得更细致，释放出更多的存储空间。打开手机微信APP界面
2025-03-04 19:11:00
快科技3月4日消息，据报道，全国人大代表、58同城董事长兼CEO姚劲波聚焦住房租赁市场，拟提交一份《关于进一步保护承租人合法权益》的建议
2025-03-04 19:41:00
摩尔线程科研团队近日发布了一项新的研究成果《Round Attention：以轮次块稀疏性开辟多轮对话优化新范式》，使得端到端延迟低于现在主流的Flash Attention推理引擎
2025-03-04 19:41:00
快科技3月4日消息，话题“麦当劳变成了没有情绪的中年人”登上热搜。据媒体报道，有博主发图比较2009年和2025年的麦当劳门店装饰变化
2025-03-04 19:41:00
图片来源：网络出品 | 搜狐科技作者 | 张莹编辑 | 杨锦小游戏流水第一的移动游戏公司，并非外界耳熟能详的三七互娱、点点互动
2025-03-04 20:02:00
快科技3月4日消息，小米SU7 Ultra首次在海外亮相，这次小米选择了全球豪车发源地欧洲。小米集团王化表示，即便是看惯了豪车的欧洲人
2025-03-04 20:11:00
天猫颐莲旗舰店，颐莲玻尿酸喷雾300ml*2标价200元，今日下单领取96元优惠券+20元品类券，到手价为54元，折合每瓶约27元
2025-03-04 20:11:00
天猫网易严选旗舰店，网易严选纯色纯棉短袖T恤日常售价39 元，今日下单3件可用19元券，点击【送给朋友】选项，根据提示下单
2025-03-04 20:11:00
电磁炉凭借它的便捷性给小伙伴们带来许多方便，特别是聚会吃个火锅美哉美哉！但市面所售的电磁炉品牌型号众多，有很多小伙伴不知道该如何选择
2025-03-04 20:36:00
在日语学习日益受到重视的今天，羊驼教育凭借其独特的沉浸式学习体验和高效备考策略，成为了众多日语学习者的首选品牌。作为羊驼教育旗下的一条成熟业务线
2025-03-04 20:37:00
3月4日下午，在位于重庆两江新区的重庆艺臻供应链（集团）有限公司（以下简称“艺臻集团”）总部，重庆大学产业技术研究院与重庆艺臻云智能科技有限公司（以下简称“艺臻科技”）举行了“天枢云擎联合研究与创新中心”成立签约暨揭牌仪式
2025-03-04 20:47:00
3月3日，由国家能源局、山西省能源局、太原市能源局多名专家组成的评审团，现场评审科达自控总承包建设的晋能控股同忻矿选煤厂智能化项目
2025-03-04 20:55:00
多彩贵州网讯（本网记者 张鸿杰 通讯员 杨焙）近日，贵州高速集团接入DeepSeek人工智能大模型，通过“自主可控+开源协同”双引擎驱动
2025-03-04 21:37:00