- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
随着 AI 模型的参数量越来越大，对算力的需求也水涨船高。比如最近，Llama-3.1 登上了最强开源大模型的宝座，但超大杯 405B 版本的内存就高达 900 多 GB，这对算力构成了更加苛刻的挑战。如何降低算力的使用成本和使用门槛，...……更多
2024-10-09 09:52:00模型,跟着,博客,模型,参数,训练
...之心开源社区有福了。说到做到，马斯克承诺的开源版大模型 Grok 终于来了！今天凌晨，马斯克旗下大模型公司 xAI 宣布正式开源 3140 亿参数的混合专家（MoE）模型‘Grok-1’，以及该模型的权重和网络架构。这也使得Grok-1成为当...……更多
2024-03-18 11:51:00马斯,马斯克,权重,架构,模型,参数
【新智元导读】前谷歌科学家Yi Tay重磅推出「LLM时代的模型架构」系列博客，首篇博文的话题关于：基于encoder-only架构的BERT是如何被基于encoder-decoder架构的T5所取代的，分析了BERT灭绝的始末以及不同架构模型的优缺点，以史为...……更多
2024-07-22 09:39:00科学家,江湖,科学,博客,模型,目标
...）计划的一部分，主要用于提升广告投放和其他内容推荐模型的效率。据Meta介绍，首个MTIA芯片将专注于AI推理。Meta软件工程师Joel Coburn表示，Meta最初考虑将GPU用于推理任务，但后来发现GPU并不不太适合推理工作。“GPU在真实模...……更多
2023-05-19 14:00:00英伟,功耗,芯片,细节,芯片,模型
在推出开源大模型LLaMA2近一年之后，Meta的新一代大模型LLaMA3即将面世。在4月9日伦敦举行的一次活动中，Meta确认计划在下个月内首次发布LLaMA3。据了解，该模型将有多个具有不同功能的版本。但Meta并没有披露LLaMA3的参数规模。...……更多
2024-04-10 22:40:00模型,参数,模型,伯格,参数,扎克
就在刚刚，Meta 发布了其最先进开源大型语言模型的下一代产品——Llama 3。据介绍，Llama 3 在 24K GPU 集群上训练，使用了 15T 的数据，提供了 8B 和 70B 的预训练和指令微调版本，可以支持广泛的应用。同时，Llama 3 在广泛的行业...……更多
2024-04-20 11:03:00模型,训练,参数,数据,全球,模型
...著的能力跟进，可见其技术发展与创新的潜力。除了Gemini模型外，Gemma这一系列轻量级的SOTA开放模型似乎与我们距离更近。它基于Gemini模型相同的研究和技术构建，旨在让每个人都拥有构建AI的工具。谷歌持续扩展Gemma家族，包...……更多
2024-06-29 09:37:00诚意,经济,模型,训练,性能,注意力
最近一段时间，随着 OpenAI o1 模型的推出，关于大型语言模型是否拥有推理能力的讨论又多了起来。比如苹果在前段时间的一篇论文中指出，只要给模型一些干扰，最聪明的模型也会犯最简单的错误（参见《给小学数学题加句「...……更多
2024-10-23 12:05:00推理,模型,能力,论文,社区,模型
【新智元导读】适逢Llama 3.1模型刚刚发布，英伟达就发表了一篇技术博客，手把手教你如何好好利用这个强大的开源模型，为领域模型或RAG系统的微调生成合成数据。Epoch AI上个月刚刚发文，结果。真实数据稀缺可能不再是问题...……更多
2024-07-30 09:38:00手把,英伟,最新技术,模型,代码,数据
...量问题而导致难产的节骨眼，Meta毫不客气发了它的视频模型“Movie Gen”，并直接用一个完整的评测体系宣告自己打败了Sora们。而且更狠的是，Meta还“杀人诛心”，虽然这模型目前和Sora一样还没对外开放，但它把新模型的95页技...……更多
2024-10-08 09:51:00模型,不用,奇迹,视频,视频,模型
...司台智云近日在AIHPCconAI超算年会上发布企业级大型语言模型“福尔摩斯大模型”。▲图源：华硕官网华硕董事长施崇棠表示，自去年生成式AI横空出世后，华硕观察到企业客户希望用生成式AI进行新一波生产力革命。在华硕博客...……更多
2023-05-21 16:53:00福尔,摩斯,福尔摩斯,子公,华硕,子公司
...，今天要讲的这个博主的教程，更侧重于代码实现部分，模型的权重则用已经训练好的。对此，博主解释称这篇教程的重点在于提供一个简单且易于破解的完整技术介绍。这对还不理解GPT背后概念的盆友，算是非常友好了。还有...……更多
2023-02-20 15:06:00网友,教程,代码,架构,教程,部分
...焦点。今年4月，一家名为Open AI的公司公布旗下的DALL-E 2模型，其用文字生成图像的质量之高，让人震惊——以前，“AI画画”还只是一小群人的游戏，AI画出来的画，像出自小学生之手一样朴实稚拙。但很快，大家发现AIGC进步神...……更多
2022-12-21 18:46声音,焦点,分析,全球,视频
...搜索引擎，也未推出GPT-4.5或GPT-5，而是发布了GPT-4系列新模型GPT-4o以及AI聊天机器人ChatGPT的桌面版本，聚焦多模态和端侧应用。此前OpenAI公司CEO奥尔特曼（Sam Altman）就已经否认了公司将会发布GPT-5，他表示新版GPT非常“神奇”。...……更多
2024-05-14 14:39:00实测,人机,更快,模型,成本,速度
...量化」的基本概念和分支方法进行了全方位总结。大语言模型（LLM）通常过于庞大，无法在消费级硬件上运行。这些模型的参数可能超过数十亿，通常需要显存较大的GPU来加速推理过程。因此，越来越多的研究开始关注如何缩小...……更多
2024-08-01 09:38:00干货,可视化,模型,工程师,指南,工程
...时刻。在22分钟完整版采访视频中，他们分享了自己对新模型的思考，以及背后的开发故事。OpenAI o1团队采访的完整版视频，终于上线了！全程22分钟，o1研发团队在项目Bob McGrew组织下，一起分享了「啊哈」时刻。有的人提到，...……更多
2024-09-23 09:50:00整版,金牌,团队,人类,时刻,视频
...谷歌公司宣布推出其规模最大、功能最强大的新大型语言模型Gemini，其最强大的TPU（张量处理单元）系统“Cloud TPU v5p”以及来自谷歌云的人工智能超级计算机。v5p是今年早些时候全面推出的Cloud TPU v5e的更新版本，谷歌承诺其速...……更多
2023-12-07 10:21:00最先,模型,比斯,模型,哈萨,人工智能
...后，开发者们甚至还发现，Reflection可能就是个「套壳」模型，而且还是连套三家的那种（Claude/GPT/Llama）。这下子，Reddit和X等平台上，立刻掀起了质疑的声浪。
左右滑动查看为此，Shumer承诺将和Glaive创始人Sahil Chaudhary一起调查...……更多
2024-10-08 09:47:00神坛,光速,团队,世界,模型,基准
人工智能（AI）聊天机器模型ChatGPT风潮狂飙超过百日，包括马斯克在内的商界大佬、科技巨头以及各国政府都已开始着手围剿GPT。钛媒体App获悉，北京时间4月25日凌晨的RSA 2023大会上，美国科技巨头谷歌（Google）宣布推出基于Sec...……更多
2023-04-25 14:30:00模型,英伟,中国,马斯,芯片,马斯克
快科技6月14日消息，摩尔线程与全学科教育AI大模型“师者AI”联合宣布，双方已完成大模型训练测试。师者AI基于摩尔线程夸娥（KUAE）千卡智算集群，完成了其70亿参数大模型的高强度训练测试。整个训练过程用时一周，训练...……更多
2024-06-14 11:37:00摩尔,师者,集群,线程,模型,训练
...：乔杨 好困【新智元导读】能抗衡AlphaFold 3的生命科学大模型终于出现了。初创公司Evolutionary Scale AI发布了他们最新的98B参数蛋白质语言模型ESM3。不仅支持序列、结构、功能的all-to-all推理，团队还在实验中发现，它设计的新蛋...……更多
2024-06-27 09:31:00进化史,力作,老将,蛋白质,进化,蛋白
... checkpoint、训练日志和训练数据都已经开源。尽管大语言模型 (LM) 在各种任务上取得了重大进展，但在训练和推理方面，性能和成本之间仍然需要权衡。对于许多学者和开发人员来说，高性能的 LM 是无法访问的，因为它们的构建...……更多
2024-09-06 10:01:00推理,模型,成本,参数,模型,训练
...人 、新加坡国立大学校长青年教授尤洋发表了题为《大模型训练的关键技术》的主题演讲。尤洋指出，庞大的AI模型规模对模型训练提出了挑战，现有的硬件设备已无法满足训练所需的大量计算资源和储存空间需求。为解决上述...……更多
2023-05-28 18:37:00峰会,产业发展,创始人,颠覆,模型,训练
大模型的发展已经进入了万亿级参数时代。DeepMind 联合创始人穆斯塔法・苏莱曼（Mustafa Suleyman）预测， 仅在未来三年内，大模型规模以惊人的速度继续扩张，将增长 1000 倍。一方面，模型的参数量与其能够处理和学习的复杂性...……更多
2024-06-24 09:42:00新宠,模型,正在,模型,参数,训练
首个开源的ChatGPT低成本复现流程来了！预训练、奖励模型训练、强化学习训练，一次性打通。最小demo训练流程仅需1.62GB显存，随便一张消费级显卡都能满足了。单卡模型容量最多提升10.3倍。相比原生PyTorch，单机训练速度最高...……更多
2023-02-15 15:47:00流程,成本,模型,训练,内存,参数
元象XVERSE发布中国最大MoE开源模型：XVERSE-MoE-A36B，该模型总参数255B，激活参数36B，达到100B模型性能的「跨级」跃升。同时训练时间减少30%，推理性能提升100%，使每token成本大幅下降。在多个权威评测中，元象MoE效果大幅超越多...……更多
2024-09-18 13:36:00中国,商用,模型,参数,模型,专家
首个开源的ChatGPT低成本复现流程来了！预训练、奖励模型训练、强化学习训练，一次性打通。最小demo训练流程仅需 1.62GB 显存，随便一张消费级显卡都能满足了。单卡模型容量最多提升 10.3倍。相比原生PyTorch，单机训练速度最...……更多
2023-02-17 14:37:00流程,成本,模型,训练,内存,参数
迎着技术风口，2024年将是AI大模型应用的浪潮年。业界认为，大模型将对金融业产生长远的、深刻的影响。1月28日，针对大模型在各业务场景的应用成效、对大模型算力的开发和提升，多机构向北京商报记者透露了自研大模型...……更多
2024-01-29 21:36:00模型,之路,金融业,落地,观察,训练
...城实验室主任高文发表演讲，分享了鹏城实验室在打造大模型平台上的进展。他表示，大模型训练首先需要一个平台。“现在要想训练一个大模型，需要有几千块卡，甚至上万块卡。”他介绍到，鹏城实验室在2020年就搭建了这...……更多
2024-06-05 13:00:00高文,院士,实验室,模型,训练,实验
...在用行动来表明战斗力，比如前些天复旦大学推出的 MOSS 模型，一经开放试用，便冲上热搜。一时间眼花缭乱，让人生疑。有钱就能训出模型？以美团大佬带资入组为代表，很多创业者和投资人盯上了 ChatGPT，作为一个 NLPer，我...……更多
2023-03-01 03:00:00模型,训练,达摩,参数,能力,集群
更多关于科技的资讯：
今年10月，我国首个国产移动操作系统——华为原生鸿蒙操作系统正式发布，这也是继苹果iOS和安卓系统后，全球第三大移动操作系统
2024-11-25 13:42:00
微软宣布推出EdgeGameAssist预览版，这是一个专为PC游戏优化的微软Edge浏览器特殊版本，能够集成在Windows11系统的GameBar中
2024-11-25 13:44:00
NVIDIA下一代显卡RTX5090的规格逐渐揭晓，最新消息显示，RTX5090所采用的GB202GPU尺寸为744平方毫米（ 24*31mm）
2024-11-25 13:45:00
在当今科技飞速发展的时代，企业的研发实力成为其立足市场、引领行业的核心竞争力。时代顺成，作为一家在科技创新领域崭露头角的企业
2024-11-25 13:45:00
这一代锐龙79800X3D的表现技惊四座，尤其是游戏性能断崖式领先Intel。现在，更强的锐龙99950X3D也要来了
2024-11-25 13:47:00
吉利汽车宣布，其全新车型吉利银河星舰7EM-i将于12月6日上市，先享提车价为10.98-14.28万元。这款新车在广州车展上首次亮相
2024-11-25 13:50:00
近日，多款卫生巾因实际长度短于外包装标明长度，被消费者质疑“偷工减料”。网友实测发现，多款知名品牌的卫生巾内吸收层长度
2024-11-25 13:51:00
极米H6系列投影仪今日正式亮相，该款投影仪拥有1200CVIA/lm流明亮度，售价4199元。据介绍，极米H6投影仪标准版采用DLP显示技术（显示芯片
2024-11-25 13:56:00
小米官方今日宣布：欧普护眼台灯元睿2PRO接入米家App，支持小米澎湃智联，提供远程、语音等控制方式。据介绍，用户可使用米家App 远程开启
2024-11-25 13:58:00
距离Rico辞职创业、成立专注研发小游戏的“在逃牛马工作室”已经过去了一年。这是个7人小团队，第一款试水产品发布在TapTap上
2024-11-25 14:02:00
本文转自：人民网-上海频道出彩临港人 | 以"她"力量引领生物医药产业新航向——记上药控股有限公司副总经理宋潞潞生物医药产业
2024-11-25 14:06:00
信用卡业务发展已历经近四十载春秋，在推动消费升级、促进经济转型以及构建信用体系方面发挥了不可或缺的作用。然而，随着国内外环境的变迁和监管体系的完善
2024-11-25 14:22:00
快科技11月25日消息，吉利汽车近日宣布，吉利缤越家族累计生产达到第100万辆整车，同时缤越L车型将于11月27日上市
2024-11-25 14:29:00
快科技11月25日消息，英国影视界及游戏界最高奖项“英国电影与电视艺术学院奖”(BAFTA)宣布，《黑神话：悟空》首席表演总监Beth Park荣获BAFTA“最佳突破奖”提名
2024-11-25 14:29:00
记者近日从驻津央企中海油能源发展装备技术有限公司获悉，由该公司设计研发中心自主研发的工程建设管理系统在中国海洋石油国际有限公司北京总部
2024-11-25 14:30:00