- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...作者将 MMCL 方法分为四类主要方法，即基于正则化、基于架构、基于重放和基于提示的方法。基于正则化的方法：由于训练中参数的自由移动导致灾难性遗忘，基于正则化的方法旨在对参数施加约束来减少遗忘。
基于架构的方...……更多
2024-11-14 09:46:00模态,清华,中文,联合,学习,模态
...经过多年的发展，逐渐发展成了统一的纯解码器Transformer架构。反观现有的多模态大模型架构仍然处于混乱状态，开源模型在选择LLM主干、视觉编码器以及训练数据方面都存在差异，性能优异的闭源多模态大模型也没有公布相关...……更多
2024-09-24 13:36:00英伟,模态,文本,性能,模态,模型
...投入大的挑战，华为中国政企业务副总裁郭振兴提出了“架构优先、先易后难，化零为整，缓进急战”十六个字原则，加速推进AI与制造行业深度融合的进程。基于统一平台，将AI大模型应用逐步落地在向制造强国的迈进过程中...……更多
2024-05-22 15:37:00方法论,华为,架构,制造业,生成,方法
...使用了哪些数据？其中有多少合成数据？为什么不使用MoE架构？后训练与RLHF流程是如何进行的？模型评估是如何进行的？我们什么时候可以见到Llama 4？Meta是否会发展agent？恰逢Llama 3.1刚刚发布，Meta科学家就现身播客节目Latent Sp...……更多
2024-07-29 09:33:00科学家,训练,科学,模型,训练,基准
9月27日，2024中国算力大会在河南郑州拉开帷幕。作为全球领先的算力基础设施和服务提供商，联想集团参会参展并携手异构智算产业联盟承办2024异构智算产业生态联盟技术论坛。论坛发布了新一代AI服务器、AI应用部署解决方...……更多
2024-10-18 13:09:00力大,中国,生态,产业,联盟,技术
...的360通过其首创的CoE(Collaboration of Experts，专家协同)技术架构及混合大模型对“慢思考”进行落地实践，该技术架构已落地在360 AI搜索、360 AI浏览器等多款产品中。AI助手通过CoE架构还接入了很多小参数专家模型，在回答简单问...……更多
2024-09-16 17:42:00架构,模型,思维,能力,模式,模型
...型，但后来有朋友告知，这个大厂新模型完全就是LLaMA的架构，但为了表示不一样，把代码里面的名字从LLaMA改成了他们的名字，然后换了几个变量名。此外，海外也有工程师直接指出了这一点。“我们是小公司也不想得罪大佬...……更多
2023-11-14 17:11:00李开复,扬清,阿里,副总,模型,成果
...材”可以帮助大模型更好地适应不同类型的问题。模型的架构和训练过程，包括模型大小和训练超参数的选择，对于模型性能很重要，可以理解为在“建造大模型大楼”的过程中，需要选择“合适的建筑材料”和“施工方法”。...……更多
2024-03-16 18:14:00模型,苹果,参数,焦点,分析,公司
...86B等。MoE（Mixture of Experts）是业界最前沿的混合专家模型架构 ，将多个细分领域的专家模型组合成一个超级模型，打破了传统扩展定律（Scaling Law）的局限，可在扩大模型规模时，不显著增加训练和推理的计算成本，保持模型性...……更多
2024-09-18 13:36:00中国,商用,模型,参数,模型,专家
...igurable Dataflow Unit）为代表的动态可重构数据流（Dataflow）架构的芯片，能够通过并行处理和高效数据移动来优化性能和效率，近年越来越被认为是一个重要的发展方向。数倍于 GPU 推理性能来自 SambaNova 最新一代 RDU SN40L近日的芯...……更多
2024-10-21 09:55:00英伟,霸主,推理,模型,地位,时代
...于设计更高效的基于 Margin 的损失函数或者更复杂的网络架构，以此来帮助卷积神经网络更好地捕捉细腻度的人脸特征。近年来，无监督学习和图神经网络的成功已经表明了数据结构在提升模型泛化能力中的重要性。大规模人脸...……更多
2024-10-18 09:46:00人脸,拓扑,新作,模型,团队,人脸
...内存使用量的公开可用的最有效工具，与FSDP相比，根据架构和参数数量，其速度最多可提高26%。通过使用YaFSDP缩短大型语言模型的训练时间，可以节省高达20%的图形处理器资源。Yandex公司高级开发人员、YaFSDP开发团队成员米哈...……更多
2024-06-18 16:13:00处理器,图形,模型,高达,训练,语言
...语言模型Gemini1.0、云端AI芯片TPUv5p外，还推出了超级电脑架构AIHypercomputer。获悉，AIHypercomputer电脑架构号称“软硬结合”，整合了为AI优化的硬件、开源软件、主流深度学习框架，并号称采用灵活的定价模式，便于商业及研究部...……更多
2023-12-08 03:32:00架构,电脑,架构,深度,任务,硬件
...成更困难、更复杂的任务。“空天·灵眸”3.0版内核工作架构是基于热传导，这是联合团队自主研发的一套小而精的原创性架构。受传热学物理思想启发，联合团队将场景目标间视觉语义传播建模为热能扩散过程，从而使该架构...……更多
2024-09-23 11:53:00空天,遥感,首届,模型,大会,基础
...星通话，首个端侧应用70亿参数大模型，首次亮相的潮汐架构等诸多前沿技术。此次宣布的全新技术组合将全面落地下一代旗舰产品FindX7系列，为2024年旗舰手机树立全新的技术标杆，并为消费者带来刷新标准的创新旗舰体验发布...……更多
2023-12-28 10:13:00模型,参数,应用,技术,模型,芯片
...Cun在2022年推出了JEPA（JointEmbeddingPredictiveArchitectures）模型架构，次年基于JEPA架构开发了一款“I-JEPA”图片预测模型，目前又推出了一款名为“V-JEPA”的视频预测模型。据介绍，相关JEPA架构及I-JEPA/V-JPA模型主打“预……更多
2024-02-18 04:39:00模型,视频,模型,研究人员,人员,研究
...以及剑桥大学的研究者联合提出了一种全新的非对称 LoRA 架构 —— HydraLoRA。与传统 LoRA 需要对所有任务使用相同的参数结构不同，HydraLoRA 引入了共享的 A 矩阵和多个独立的 B 矩阵，分别处理不同的任务，从而避免任务间的干扰...……更多
2024-10-22 09:57:00对称,架构,性能,参数,矩阵,任务
...一个模型，同时胜任所有任务？近些年来，包括Transformer架构在内的一系列工作，虽然在细分任务上展现出色的性能，但由于缺乏灵活和通用的时序特征的提取能力，无法成为通用的模型架构。为了解决这些问题，来自MIT、港科...……更多
2024-10-30 09:58:00时序,架构,团队,领先,任务,升级
...学习三巨头之一的Yoshua Bengio，带领团队推出了全新的RNN架构，以大道至简的思想与Transformer一较高下。在Transformer统治的AI时代之下，散落在世界各地的「RNN神教」信徒，一直相信并期待着RNN回归的那天：毕竟，凭借强大的顺序...……更多
2024-10-26 09:53:00高下,新作,大道,门控,模型,训练
...出得更早，方法更前瞻，落地应用也更快。他们所采用的架构，已经可以和o1匹敌，如果更新到下一代大模型，甚至还有可能实现领先。没错，这次周鸿祎和OpenAI所采用的路线殊途同归，不谋而合了。360首创的CoE架构，已经可以...……更多
2024-09-21 09:50:00周鸿,前瞻,应用,模型,推理,协作
...型大小）实现了更好的性能。最后，作者结合 Transformer 架构的最新进展，例如逐层缩放、使用 MoE 的稀疏 Transformer，以提高大规模训练的性能。作者提出的低成本训练 pipeline 减少了实验开销。除了使用真实图像，作者还考虑在...……更多
2024-07-30 09:37:00从头,模型,训练,参数,掩蔽,训练
硬件发展速度跟不上 AI 需求，就需要精妙的架构和算法。根据摩尔定律，计算机的速度平均每两年就会翻一倍，但深度学习的发展速度还要更快，如图 1 和 2 所示。可以看到，AI 对算力的需求每年都以 10 倍幅度增长，而硬件速...……更多
2024-09-07 09:44:00高性能,架构,深度,多年,成本,学习
...披露了更具参考意义的信息，主要包括从数据准备、模型架构、训练方案及优化策略几个方面。数据准备依托快手在视频技术领域的多年积累，可灵大模型团队已经构建了完备的标签体系，包括从视频基础质量、美学、自然度等...……更多
2024-06-14 09:10:00快手,中国,生成,视频,模型,文生
...此之外，他还谈到当前大模型的局限性、以目标驱动的AI架构，包括利用世界模型进行推理和规划，最后强调了开源AI的重要性。对于未来发展，他提到，最终机器将超越人类智能，但它们将受到控制，因为它们是目标驱动的。...……更多
2024-10-18 09:42:00模型,人类,水平,语言,系统,模型
【新智元导读】Time-MoE采用了创新的混合专家架构，能以较低的计算成本实现高精度预测。研发团队还发布了Time-300B数据集，为时序分析提供了丰富的训练资源，为各行各业的时间序列预测任务带来了新的解决方案。在当今以数...……更多
2024-10-23 09:55:00时序,模型,团队,训练,参数,突破
...队提出了一种名为归一化Transformer（nGPT）的新型神经网络架构。这一架构在超球面（hypersphere）上进行表示学习，能够显著提升大型语言模型（LLM）的训练速度，最高可达20倍，同时保持了模型的精度。nGPT架构的核心在于将所有...……更多
2024-10-20 15:52:00速度,训练,全新,模型,球面,上下文
...供赋能，如知识中心、研报撰写、机构自建产品线等，助力大模型技术满足多样化的复杂场景需求。RAG技术即检索增强生成是该模型的一大技术特点。基于此，在具体应用中，可自由定制构建企业的知识库，以及提供智能客服、...……更多
2024-07-11 12:56:00两江,证券行,重庆,新区,模型,证券
...本，秒生1K质量高清图。英伟达联合MIT清华团队提出的Sana架构，得益于核心架构创新，具备了惊人的图像生成速度，而且最高能实现4k分辨率。一台16GB的4090笔记本，仅需0.37秒，直接吐出1024×1024像素图片。如此神速AI生图工具，...……更多
2024-10-18 09:49:00英伟,清华,架构,大片,性能,笔记本
...名为Attention is all you need 的论文，其中所提出的Transformer架构，为当下大热的ChatGPT、Gemini等大模型打下基础，人工智能领域从此变天。论文的八位作者，也被称为“Transformer八子”。不过，八位作者后来也陆续离开谷歌。除Lukasz K.……更多
2024-03-22 00:03:00架构,模型,对话,模型,数据,资源
...用扩散模型（diffusionprobabilisticmodels）技术，基于Transformer架构，但为了解决Transformer架构核心组件注意力机制的长文本、高分辨率图像处理等问题，扩散模型用可扩展性更强的状态空间模型（SSM）主干替代了传统架构中的注意力...……更多
2024-02-16 18:44:00文生,奥尔,奥尔特曼,特曼,模型,提示
更多关于科技的资讯：
五年连获七家世界知名轴承制造企业认证一根轴承钢转动全球——“铁疙瘩”怎样变成“金娃娃”（九）前不久，河钢集团石钢公司收到日本某国际知名轴承企业高碳铬轴承钢的认证邮件
2025-09-28 08:04:00
锚定新赛道 壮大新动能超31亿元新一代工业软件基地项目开工南报网讯（记者刘安琪）项目兴则产业兴，项目强则经济强。9月26日上午
2025-09-28 07:43:00
近日，山东省轻工联社发布《关于公布2025年度山东省中小企业服务支撑机构名单的通知》，山东移动成功入选。作为推动中小企业数字化转型的主力军
2025-09-27 08:11:00
在数字化浪潮席卷而来的今天，信息传输网络如同城市的“神经网络”，是智慧城市运转的核心支撑。作为这一无形“生命线”的守护者
2025-09-27 12:34:00
9月24日-25日，新城控股“2025第八届商业年会暨吾悦商管第一届悦链计划合伙人大会”在上海西岸美高梅酒店举行，新城控股集团董事长王晓松及公司高管
2025-09-27 12:37:00
25日上午，以“上山下山·食在晋安”为主题的晋安区“一县一桌菜”云上发布会举行，12道“云端”盛宴引爆味蕾。
2025-09-27 13:53:00
河北新闻网讯（张新）2025年，是我国“十四五”规划收官之年，也是“双碳”目标提出五周年。在此背景下，央视《东方时空》栏目近日推出“可控核聚变专题”
2025-09-27 14:45:00
9月25日，国网山西省电力公司发布消息，该公司成功完成配电网无人机电力北斗定位服务的全面应用，标志着该公司依托电力北斗高精度定位服务
2025-09-27 19:56:00
谢志强，现任中科汇理信息技术研究院党支部书记、秘书长、中科产学研合作一体化人才培育开发平台项目主任。历任中国银行总行风险管理部业务经理
2025-09-27 20:20:00
在第四届全球数字博览会上，贵州工匠行科技有限公司展出的SomaSeek具身智能平台，让机器人彻底告别了遥控器，也能听会说
2025-09-27 22:17:00
齐鲁晚报·齐鲁壹点 胡晓雪 李国栋9月26日，2025潍坊纺织服装产业国际精准对接活动在奎文区成功举办，本次活动以“我帮企业组主场·我为企业找订单”为主题
2025-09-27 22:22:00
齐鲁晚报·齐鲁壹点 陶春燕 山东省宇捷轴承制造有限公司是国家级专精特新重点“小巨人”企业、国内最大的调心滚子轴承生产企业
2025-09-27 20:05:00
当小区突发故障停电，地下车库里业主们的电动汽车，瞬间变身为一个巨大“充电宝”，为消防、通风和应急照明系统供电，守护社区安全
2025-09-27 12:35:00
随时“云端”办公，自由“安放”工位，数字游民社区兴起数字游民在南京：我推着房间找邻居南京首个乡村数字游民社区坐落于浦口草圣书乡景区
2025-09-26 08:14:00