- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
微软开源1bit大模型推理框架！现在1000亿参数大模型量化后单CPU可跑，速度可达每秒5-7个token。就是今年爆火论文The Era of 1-bit LLMs的官方代码实现，开源不到一周GitHub已揽获7.9k Star。传统大模型参数以16位浮点数（如FP16或BF16）形...……更多
2024-10-23 12:05:00模型,微软,推理,框架,参数,模型
落地端侧被认为是大模型走向普及的关键。个人PC和智能手机是当前受众最为广泛的两大终端品类。2023年下半年以来，全球范围内各大PC、手机厂商纷纷通过硬件扩容，尝试将大模型在物理意义上融入终端。直到近期，大模型融...……更多
2024-06-21 09:16:00微软,路径,模型,先后,苹果,玩家
...增强的专业智能体” 相关工作，并带来了知识图谱与大模型结合最新研发成果 —— 知识增强大模型服务框架 KAG。梁磊介绍，专业领域增强大模型服务框架 KAG 通过图谱逻辑符号引导决策和检索，显著提升了垂直领域决策的精准...……更多
2024-09-13 13:33:00知识,准确率,推理,蚂蚁,框架,模型
...东西8月21日消息，今天，微软一口气甩出3款超强轻量级模型！微软本次发布的轻量级模型系列名为Phi-3.5，适合在内存和算力受限的环境中运行，均支持128k上下文长度。Phi-3.5-mini-instruct主要面向基础快速推理任务，Phi-3.5-MoE-instru...……更多
2024-08-22 09:49:00上下文,微软,架构,模型,上下,性能
2024年，全球主流企业加快推出MoE大模型，1-5月发布千亿以上大模型均采用MoE优化架构，且数量超过近三年总和。MoE大模型架构凭借平衡大模型训推成本和计算效率等优势，更适合处理大规模数据和复杂任务，已成谷歌、OpenAI、...……更多
2024-11-04 16:00:00研究方向,模型,现状,方向,趋势,研究
...会已拉开帷幕，微软在本次活动中发布了旗下最小的语言模型Phi-2，共有27亿参数，相比较此前版本有明显提升。注：微软于今年6月发布Phi-1，只有13亿代码，适用于QA问答、聊天格式和代码等等场景。该模型完全基于高质量数据...……更多
2023-11-17 14:00:00微软,旗下,模型,语言,模型,微软
【新智元导读】是时候用CPU通用服务器跑千亿参数大模型了！马斯克19天建成由10万块H100串联的世界最大超算，已全力投入Grok 3的训练中。与此同时，外媒爆料称，OpenAI和微软联手打造的下一个超算集群，将由10万块GB200组成。...……更多
2024-08-02 09:47:00大厂,模型,参数,疯狂,服务器,服务
有CPU就能跑大模型，性能甚至超过NPU/GPU！没错，为了优化模型端侧部署，微软亚洲研究院提出了一种新技术——T-MAC。这项技术主打性价比，不仅能让端侧模型跑得更快，而且资源消耗量更少。咋做到的？？在CPU上高效部署低...……更多
2024-08-10 09:52:00新技,微软,提速,新技术,模型,手机
...MicrosoftResearch）近日发布新闻稿，推出了相比较主流语言模型更小的Orca2LLM，不过依然可以回答一些复杂问题。微软Orca2共有70亿和130亿两种尺寸，部分融合了Llama2LLM参数，通过融合定制的高质量合成数据，提供更准确、更优秀的...……更多
2023-11-22 11:08:00微软,研究院,研究,微软,模型,推理
...Iginte全球技术大会上，微软发布一系列AI相关的全新优化模型、开发工具资源，帮助开发者更深入地释放硬件性能，拓展AI场景。尤是对于当下在AI领域占据绝对主导地位的NVIDIA来说，微软这次送上了一份大礼包，无论是面向OpenAI...……更多
2023-11-16 20:13:00提速,推理,显卡,微软,模型,性能
1月29日，百川智能发布超千亿参数的大语言模型Baichuan3。在多个权威通用能力评测如CMMLU、GAOKAO和AGI-Eval中，Baichuan3都展现了出色的能力，尤其在中文任务上更是超越了GPT-4。而在数学和代码专项评测如MATH、HumanEval和MBPP中同样表...……更多
2024-01-29 19:57:00百川,模型,语言,智能,模型,百川
文｜王怡宁编辑｜邓咏仪 尚恩一周纵览本周大模型厂商们依旧表现活跃。硅谷大厂方面，Meta更新了编程模型Code Llama 70B，是Code Llama系列中规模最大，性能最强的版本。一款名为“miqu-1-70b”的神秘模型现身Hugging Face，跑分接近GP...……更多
2024-02-05 11:37:00硅谷,字节,接口,人类,苹果,模型
...新的石油。」图/ X（Twitter）
但算力依然受限，核心是大模型训练、推理都严重依赖于英伟达高端 GPU，而英伟达又受限于台积电先进芯片制造工艺、封装工艺以及韩国 HBM 内存的产能。说到底，还是算力不够用，「供给」赶不上...……更多
2023-12-15 11:26:00订阅,背后,开放,英伟,芯片,模型
从2009开始开发AI模型，到2019年投资OpenAI，微软正在一步一步成为AI时代的庞然大物。对于微软及其生态系统而言，今年的Ignite技术大会堪称异彩纷呈。微软一口气公布了100多项以 AI 为中心，在云计算基础设施、 模型即服务 MaaS ...……更多
2023-11-21 10:45:00帝国,微软,老大,软件,微软,模型
...日，来自微软的研究人员开源了使用全新方法训练的MoE大模型，不走寻常路，且编码和数学表现出色。继Phi家族之后，微软又开源了新的混合专家大模型——GRIN MoE。与Phi-3.5同样的个头（16 * 3.8B），却采用了截然不同的训练方法...……更多
2024-11-12 09:57:00专家,微软,路径,模型,模型,专家
...上一代WSE-2的两倍，可用于训练业内一些最大的人工智能模型。在近日的Hot Chips 2024大会上，Cerebras Systems详细介绍了这款芯片在AI推理方面的性能。根据官方资料显示，WSE-3依然是采用了一整张12英寸晶圆来制作，基于台积电5nm制...……更多
2024-09-02 13:36:00晶圆,芯片,生成,模型,性能,参数
...押注人工智能领域最大的赌注——一种只能运行Transformer模型的芯片，但其运行速度比GPU快几个数量级。也许注意力确实是你所需要的全部...」
Pika研究人员表示，每秒50万token简直太疯狂了。你可以在2秒内写出「圣经」，或者...……更多
2024-06-27 09:25:00小哥,英伟,哈佛,华裔,推理,芯片
...发展的道路上，科技巨头们曾经竞相开发规模庞大的语言模型，但如今出现了一种新趋势：小型语言模型（SLM）正逐渐崭露头角，挑战着过去“越大越好”的观念。视觉中国当地时间8月21日，微软和英伟达相继发布了最新的小型...……更多
2024-08-26 14:17:00模型,英伟,微软,模型,训练,性能
...。而这一切背后的机制是进化（evolution）。到了现今的大模型时代，强大的基础模型已经展现出了强大的智能水平，能完成多种多样的任务。但它们也有个缺点，训练之后就基本定型了，难以随着用户的使用而演进。但毫无疑问...……更多
2024-10-29 09:55:00进化,可能性,模型,整合,记忆,模型
近日，上海算法创新研究院大模型团队的研究员李志宇和同事提出一种情景学习新范式：SLEICL（基于强模型增强的情景学习，Strong LLM Enhanced ICL），能更好地加速小模型的学术研究和产业落地。借助这一方法可以大幅提升小模型...……更多
2024-03-01 09:36:00模型,范式,科学家,情景,能力,科学
...媒体App获悉，4月19日，Meta公布期待已久的多模态开源大模型Llama 3系列。同时，Meta还推出了其首款基于Llama 3开源模型的AI聊天机器人产品——AI助手，直接对标ChatGPT-4。与此同时，科技行业裁员消息频出。谷歌宣布从3月10日开始...……更多
2024-04-30 11:00:00杨元庆,微软,美金,芯片,人类,智能
...研究中心主任曾毅等多位嘉宾，分别从 AI 数据、算力、模型与框架、应用、产品、治理、未来目标等多个方面分享前沿进展。钛媒体App简要梳理了各个嘉宾的演讲和圆桌的部分内容，以飨读者。5年投资超1000亿、最高重奖1亿元...……更多
2024-04-28 11:00:00大佬,清华,微软,重磅,北京,蚂蚁
?Intel三条线优化阿里云通义千问2模型：720亿参数轻松拿捏快科技6月7日消息，Intel官方宣布，旗下数据中心、客户端、边缘AI解决方案均已经为阿里云通义千问2（Qwen2）的全球发布提供支持，已取得ModelScope、阿里云PAI、OpenVINO等...……更多
2024-07-18 14:57:00三条,通义,阿里,模型,参数,通义
...年度领先科技奖。腾讯Angel 机器学习平台，突破了万亿级模型分布式训练和推理以及大规模应用部署等难题，率先实现大模型技术从底层硬件到关键软件技术的自主研发，在业务场景广泛应用，显著推动实体产业和数字经济发展...……更多
2024-11-21 14:04:00科技奖,腾讯,机器,领先,大会,互联网
【新智元导读】Scaling Law还没走到尽头，「小模型」逐渐成为科技巨头们的追赶趋势。Meta最近发布的MobileLLM系列，规模甚至降低到了1B以下，两个版本分别只有125M和350M参数，但却实现了比更大规模模型更优的性能。从5月和6月...……更多
2024-07-23 09:39:00模型,性能,移动,模型,参数,架构
...、张钊为、汪明志、钟伊凡等。团队就强化学习方法及大模型的后训练对齐技术开展了一系列重要工作，包括 Aligner（NeurIPS 2024 Oral）、ProgressGym（NeurIPS 2024 Spotlight）以及 Safe-RLHF（ICLR 2024 Spotlight）等系列……更多
2024-10-18 09:47:00模态,指令,框架,模态,模型,数据
...在话下。
来自中山大学、Pixocial等机构联合发布轻量化模型架构CatVTON。他们是以StableDiffusionv1.5inpainitng为基础模型。来看看更多效果。用扩散模型进行虚拟试衣CatVTON可以实现传统平铺服装图到人物的换装。不管是上衣、裤子、...……更多
2024-08-01 08:52:00架构,模型,优势,模型,训练,模块
...你降价，我免费。在经过一年多的“百模大战”后，AI大模型从5月初几乎毫无预兆地掀起了“降价潮”，阿里、百度、腾讯等纷纷加入战团。大厂“钱多、卡多、算力足”无惧价格战，以惯有的免费模式先聚集用户与开发者。中...……更多
2024-05-25 10:34:00何方,价格战,深度,模型,价格,模型
...显存具备更大的容量和更高带宽，可以支持超大参数的大模型训练与推理。官方给出的参数显示，H200相较上一代产品在Llama2和ChatGPT的训练速度分别能提升40%和60%。
可以看出，从MI300X到H200，再到Maia100，大厂对训练参数量、训练...……更多
2023-11-23 09:36:00老黄,英伟,微软,芯片,芯片,英伟
...而，构建一个兼具强大性能与高效运算的大规模时序预测模型始终是一个巨大的挑战。此外，高质量的大型公共时间序列数据库的匮乏进一步加剧了这一难题。近日，由来自普林斯顿大学、格里菲斯大学等全球多地的华人国际科...……更多
2024-10-23 09:55:00时序,模型,团队,训练,参数,突破
更多关于科技的资讯：
11月30日消息，近日，知名影星林志玲在微博晒出了自己与儿子的合照，并发文庆祝自己的50岁生日，照片里的林志玲身着白色服装
2024-11-30 08:04:00
快科技11月30日消息，REDMI K80系列已经上市，首销一天时间就卖出了66万台，提前预定同档最强。尤其这次全系标配了顶级护眼2K屏
2024-11-30 08:04:00
快科技11月30日消息，海外媒体报道，印度海关文件显示，印度已向大众汽车公司发出通知，指控其“故意”少缴奥迪、大众和斯柯达汽车零部件的进口税
2024-11-30 08:34:00
快科技11月30日消息，新东方创始人、东方甄选CEO俞敏洪公开表示，新东方教室100%是格力空调。俞敏洪表示，新东方的教室100%是格力空调
2024-11-30 09:04:00
快科技11月30日消息，近日，网传天津出现不明飞行物（UFO），散发绿色的光芒，瞅着像“天上一根葱”。那么它的真实身份是什么
2024-11-30 09:04:00
天冷一泡去疲劳，荣事达加热按摩足浴盆报价 138 元起，限时限量 99 元券，实付 39 元起包邮。购买链接：天猫(券后39元)经典款（旋钮标准款）此价
2024-11-30 10:04:00
11月30日消息，深圳一彩民80元中双色球2.25亿巨奖上了热搜，不少网友看后纷纷感慨，这是直接到达了人生巅峰。“太激动了
2024-11-30 10:04:00
快科技11月30日消息，在青年科学家大会上，俄罗斯国家航天集团Roscosmos顾问奥列格·戈尔什科夫宣布，由于研发俄罗斯超重型火箭的资金有限
2024-11-30 10:04:00
发布25项创新应用场景石家庄市政校企对接会暨成果转化创新应用场景发布会举办河北新闻网讯（河北日报记者董昌）11月29日上午
2024-11-30 10:31:00
快科技11月30日消息，小米米家空调巨省电Pro立式3匹（超一级能效）今日10:00首销，定价5499元。值得注意的是
2024-11-30 10:34:00
快科技11月30日消息，小米官方正式宣布，即日起，小米MIX Fold 4/Flip、REDMI K70/K70E开始陆续推送澎湃OS 2系统
2024-11-30 10:34:00
11月30日消息，2025年春节倒计时，下下下下下下下下周就要过年啦，你期待吗？之前国务院公布2025年部分节假日安排
2024-11-30 10:34:00
微软在CoD年货面市前狡猾地关闭了Game Pass试用服务，该服务可使玩家只用1美元就能在14天内畅玩所有XGP游戏（包括但不限于第一方独占游戏与杯赛/暴雪/动视作品
2024-11-30 11:04:00
快科技11月30日消息，对于新能源汽车，尤其是纯电动汽车来说，冬季的能耗是一大考验，尤其是开空调的情况。不少车主都为了电量
2024-11-30 11:04:00
快科技11月30日消息，近日，位于日本佐贺县的岩屋川内水库大坝成为热门话题，之所以如此，是因为一幅巨大的哥斯拉壁画在大坝侧面亮相
2024-11-30 11:04:00