• 我的订阅
  • 头条热搜
微软、英伟达纷纷押注小模型,大模型不香了?
...发展的道路上,科技巨头们曾经竞相开发规模庞大的语言模型,但如今出现了一种新趋势:小型语言模型(SLM)正逐渐崭露头角,挑战着过去“越大越好”的观念。视觉中国当地时间8月21日,微软和英伟达相继发布了最新的小型...……更多
烧数亿美元、耗上万颗英伟达 GPU,微软揭秘构建 ChatGPT 背后超级计算机往事 !
整理 | 苏宓出品 | CSDN(ID:CSDNnews)都说 ChatGPT 这种大模型研发是大公司之间的博弈,不仅仅是因为其要消耗的算力巨大,也是因为需要有强大的资金支撑。那么,加入这场战局,究竟要花费多少钱?此前,据 Techcrunch 报道,有...……更多
...暂未回应。值得一提的是,此前许多外界人士认为 通过模型蒸馏技术,DeepSeek可能在训练过程中使用了 ChatGPT 等模型的输出数据作为训练材料,而这些数据中的「知识」被迁移到 DeepSeek 自己的模型中。事实上,这种做法在 AI 领...……更多
微软难以摆脱英伟达 |焦点分析
...市场至少90%的份额。AI芯片是AI时代石油一般的存在。大模型公司想更快推出模型和AI应用,就必须大量购入英伟达的芯片。而英伟达的产能有限,按照上一年计划制定的供给,远不能满足蓬勃的市场需求,抢不到芯片的云厂商、...……更多
微软推出自研AI芯片:台积电5nm工艺、Open AI开启试用,想摆脱对英伟达依赖?
...能够带来终极效率、性能和规模。”对目前正在加速AI大模型服务布局的微软来说,自研芯片更多有着成本考虑,同时也能够避免过度依赖供应商,对其长期的商业化也将产生影响。 两款芯片均为5nm制程,OpenAI开启测试微软发...……更多
微软拟推出人工智能芯片,训练大模型语言
...出人工智能芯片,为负责理解和生成类人语言的大型语言模型(LLM)提供动力。报道称,了解相关项目的人士透露,微软自2019年开始开发内部代号为“雅典娜”(Athena)的芯片。并已向一小部分微软与OpenAI员工提供这款芯片,...……更多
全球五大巨头GPU总量曝光!2025年等效H100或超1240万块
...都在紧锣密鼓地布局自己的算力版图,开展下一代更先进模型的训练。谷歌Gemini 2.0预计在本月正式上线。此前,马斯克也曾透露,Grok 3也会在年底亮相,具体时间仍旧未知。他表示,在法律问题数据集上完成训练后,下一代Grok ...……更多
微软连发3款Phi-3.5模型:128K上下文,首用MoE架构,部分性能超GPT-4o mini
...东西8月21日消息,今天,微软一口气甩出3款超强轻量级模型!微软本次发布的轻量级模型系列名为Phi-3.5,适合在内存和算力受限的环境中运行,均支持128k上下文长度。Phi-3.5-mini-instruct主要面向基础快速推理任务,Phi-3.5-MoE-instru...……更多
AI芯片下半场:英伟达不再一家独大
...开发者大会上,推出两款定制芯片,以应对不断增加的大模型训练成本挑战,并试图降低提供AI服务的成本。微软表示,新发布的芯片不会出售,仅供支持自己的产品,并作为微软云Azure云计算服务的一部分。微软最新推出的两...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...显存具备更大的容量和更高带宽,可以支持超大参数的大模型训练与推理。官方给出的参数显示,H200相较上一代产品在Llama2和ChatGPT的训练速度分别能提升40%和60%。 可以看出,从MI300X到H200,再到Maia100,大厂对训练参数量、训练...……更多
AMD MI300绝杀英伟达H100?跑GPT-4性能超25%,AI芯片大决战一触即发
...达的垄断地位。而AMD的MI300,在部署32K上下文窗口的GPT-4模型时,居然比H100效果更好?AI芯片大决战,即将来临!AI硬件开发商初创公司的未来会怎样?Tenstorrent CEO David Bennett直言不讳地表示,在我们这个行业,大部分初创公司的...……更多
围剿ChatGPT
人工智能(AI)聊天机器模型ChatGPT风潮狂飙超过百日,包括马斯克在内的商界大佬、科技巨头以及各国政府都已开始着手围剿GPT。钛媒体App获悉,北京时间4月25日凌晨的RSA 2023大会上,美国科技巨头谷歌(Google)宣布推出基于Sec...……更多
每月141元的ChatGPT Plus订阅重新开放,背后发生了什么?
...新的石油。」图/ X(Twitter) 但算力依然受限,核心是大模型训练、推理都严重依赖于英伟达高端 GPU,而英伟达又受限于台积电先进芯片制造工艺、封装工艺以及韩国 HBM 内存的产能。说到底,还是算力不够用,「供给」赶不上...……更多
老黄祭出史上最强 AI 芯片B200!30倍性能提升,AI 迎来新摩尔定律时代|钛媒体AGI
...)Blackwell,是英伟达A100/H100系列AI GPU的继任者。在大语言模型推理工作负载方面,Blackwell的性能相比H100 GPU提升了30倍,能耗却降低了25倍。亚马逊、谷歌、微软和甲骨文将是首批合作伙伴。此外,黄仁勋还在GTC大会推出了新一款...……更多
疯狂一夜!美国AMD、谷歌纷纷亮出大杀器,人类迎来巨变前夜?|钛媒体焦点
...迄今为止功能最强大、最通用的多模态人工智能(AI)大模型:Gemini(中文称“双子座”)。具体来看,谷歌最新发布的Gemini 1.0系列,主要是英语模型,共包括三个不同尺寸版本:Ultra(超大杯)、Pro(大杯)和Nano(中杯),将...……更多
...100TensorCoreGPU,比上一代虚拟机性能更强大,可显著提升AI模型的训练和推理速度。同时,微软选择了第四代英特尔XeonScalable处理器作为新一代计算机处理单元。此外,NDH100v5VM还采用了英伟达Quantum-2ConnectX-7InfiniBand技术,每个GPU……更多
微软被曝正自研AI大模型:5000亿个参数,与谷歌和OpenAI竞争
...巨头微软或正在研发参数达5000亿的全新AI(人工智能)大模型,将正面叫板谷歌和OpenAI。当地时间5月6日,据外媒报道,微软正在研发一款名为MAI-1的最新AI大模型,其规模远超出微软此前推出的一些开源模型,在性能上或能与谷...……更多
发布一揽子新品,AMD再次挑战英伟达!但败局早已注定?
...持平。在过去的一年里,大多数企业都将资源投入到了AI模型的训练中,因此需要大量的算力资源支撑,在部署空间有限的情况下,英伟达的H100显然是最好的选择。 更何况H100是英伟达在2022年3月份发布的GPU加速卡,从中也不难...……更多
英伟达发布GB200计算卡:2080亿个晶体管,AI性能提升5倍
...算卡的算力还远远不够,尤其是像Sora这样的文生视频的模型出来,更是对计算卡的算力提出了更高的要求,于是英伟达也适时地推出了下一代GPU,在AI性能上有着突飞猛进的进步,可以说拉了竞争对手整整一代。英伟达在今天凌...……更多
乔布斯时代之后,会迎来黄仁勋时代吗?
...AI能够做的工作有了更强烈的预期和紧迫感,而且各种大模型如雨后春笋一般地涌现出来,市场对于高性能芯片的需求度也爆棚了。黄仁勋推出B200的时候,人们忍不住要惊呼了。这是Hooper后的新一代架构,以数学家Blackwell命名。...……更多
AI算力大战开启:英特尔AI芯片性能超越H100,谷歌云推出最强ARM芯片|钛媒体AGI
...,1.5 倍的内存带宽以及 2 倍的网络带宽提升。同时,在AI模型算力中,相比于英伟达H100 GPU,Gaudi3 AI芯片的模型训练速度、推理速度分别提升40%和50%,平均性能提高 50%,能效平均提高40%,而成本仅为H100的一小部分。英特尔预计...……更多
AI竞赛推动英伟达股价暴涨超90% 科技巨头承诺将继续“买买买”
...过6800亿美元,高于特斯拉。业内预计,随着人工智能大模型的训练需求不断增长,还将推动英伟达的AI芯片销量。巨头继续押注云基础设施支出根据汇丰银行分析师上个月发布的一份最新的报告,OpenAI的GPT-3级别的AI大模型需要...……更多
大模型热到芯片暴涨,阿里百度成了英伟达的打工仔
...,钛媒体经授权发布。中国科技公司和创业者竞相追逐大模型,引发GPU芯片需求量的暴增,以及价格的疯狂上涨。GPU是ChatGPT训练和部署的关键部件,这是强大算力的基础设施。根据公开消息,微软的Azure云服务为ChatGPT构建了超...……更多
英伟达带来最强AI芯片,但赶超苹果又远了一步?
...25倍。叠加B200搭配的8颗HBM3e内存,最大可支持10万亿参数模型的训练。作为对比,OpenAI的GPT-3模型参数为1750亿,据黄仁勋透露,GPT-4模型参数约为1.8万亿。以训练一个1.8 万亿参数模型的GPT-4为例,之前需要用8000个Hopper GPU干的活儿...……更多
前谷歌工程师创业造AI芯片!产品明年问世,已拿到1.8亿融资
...MatX正在挑战英伟达在AI芯片领域的霸主地位,其为大语言模型训练而设计的AI芯片将于明年问世。这家公司的官网显示,使用MatX芯片,训练70B大模型的延迟将小于10ms/token。该公司还预言,使用其芯片训练,能够让世界上最好的...……更多
LLM数学性能暴涨168%,微软14人团队力作!合成数据2.0秘诀曝光,智能体生成教学
...动创建大量、多样化的合成数据。经过合成数据微调后的模型Orca-3,在多项基准上刷新了SOTA。全世界高质量数据几乎枯竭。AI科学家们为了解决这一难题,可谓是绞尽脑汁。目前来看,合成数据或许就是大模型的未来,也成为业...……更多
\\\
...图:英伟达AI产品更新路线图就性能的升级对比,H200在大模型Llama和GPT-3.5的输出速度分别是H100的1.9倍和1.6倍,在高性能计算方面的速度达到双核x86 CPU的110倍。而到了GB200,与H100相比,可以将LLM推理工作的性能提高30倍,并将成...……更多
加速AI落地企业!微软解读Copilot技术栈,云端混合大小模型是关键
...试用推广、团队扩张。 一、Copilot平台推出Agent能力,小模型满足端侧需求在Scaling Laws下,AI技术的能力大约每六个月就会翻倍增长。陶然谈道,如何让技术成果对齐行业、企业的实际业务需求,加速技术能力的落地转化,成为...……更多
AI“百模大战” 英伟达稳坐钓鱼台
...平洋两岸的中美两国为核心,巨头们都在蜂拥进入 AI 大模型的战场,很多媒体称其为「百模大战」。还有不少科技公司高管也与其他创业者一样跳入 AI 创业的浪潮,比如谷歌 AR/VR 负责人 Clay Bavor、阿里副总裁贾扬清、英特尔首...……更多
Meta首次公布AI芯片细节 功耗低于英伟达
...)计划的一部分,主要用于提升广告投放和其他内容推荐模型的效率。据Meta介绍,首个MTIA芯片将专注于AI推理。Meta软件工程师Joel Coburn表示,Meta最初考虑将GPU用于推理任务,但后来发现GPU并不不太适合推理工作。“GPU在真实模...……更多
更多关于科技的资讯:
回归单身的日产:不靠本田 也能蹚出一条路
事实证明,企业“包办婚姻”往往没什么幸福结局。 2月13日下午,日产、本田正式宣布终止合并计划,双方撤回2024年12月23日签署的业务整合谅解备忘录
2025-02-15 00:22:00
顺丰接收全球第100架波音767-300BCF:3月正式投入航线
快科技2月15日消息,据顺丰航空官微介绍,顺丰航空作为767-300BCF的全球最大用户,日前在广州飞机维修工程有限公司(GAMECO)正式接收波音第100架767-300BCF
2025-02-15 00:22:00
全国首个“空地协同”智慧物流中心启用:跨城快递3小时送达
快科技2月14日消息,全国首个“空地协同”智慧物流运营中心-丰翼宝安低空智慧物流运营中心今天正式启用。据了解,该运营中心位于深圳市宝安区新安街道
2025-02-15 00:22:00
揭秘:苹果AI为何选阿里不选DeepSeek
快科技2月14日消息,在昨天阿联酋迪拜举办的World Governments Summit2025峰会上,阿里巴巴联合创始人
2025-02-15 00:22:00
比亚迪智驾价格战背后:一年招了几千人 过年还在赶工
作为全球新能源车保有量最大的车企,比亚迪又放大招了。昨晚,比亚迪开了一场声势浩大的发布会,一次性把王朝网、海洋网的 21 款车型全转换成 “ 智驾版 ”
2025-02-15 00:22:00
作为一名高中生,我深切地感受到人工智能时代的浪潮正深刻地改变着我们的学习方式,尤其是在数学学习上。数学,这门充满逻辑与美感的学科
2025-02-15 05:29:00
本文聚焦钟山县职业技术学校《旅游概论》课程,通过问卷与访谈收集师生反馈,剖析课程教学现存问题并提出针对性改进建议,为同类课程改革提供参考
2025-02-15 05:29:00
随着城市化进程的加快,建筑物的数量和复杂性不断增加,许多老旧建筑面临安全隐患和承载能力不足的问题。因此,结构加固技术在现代结构工程中变得愈发重要
2025-02-15 05:29:00
电子技术在测控技术中的应用日益广泛,它为各种工业和科学实验提供了基础和支持。测控技术是结合测量和控制的技术,广泛应用于自动化
2025-02-15 05:29:00
昨天,西湖区2025年一季度重大项目集中推进暨重点招商项目集中签约活动在钱塘隆越项目现场举行。本次共有53个重点项目签约落地
2025-02-15 06:54:00
系列最强机预定!郭明錤预估iPhone SE 4今年出货近2000万台
快科技2月15日消息,库克已经官宣,苹果将在2月19日发布新产品,虽然并未公布具体信息,但可以确认iPhone SE 4将是最大亮点
2025-02-15 07:22:00
宇树G1机器人算法升级:任意舞蹈任意学 扭腰、交叉步行云流水
快科技2月14日消息,宇树科技今晚晒出一段视频,展示了G1机器人算法升级后的舞步,宣称能做到任意舞蹈任意学。从视频来看
2025-02-14 22:22:00
经常运动和不运动的人 到底有什么区别 真相让人吃惊
如果说这世界上,有什么事情是努力了一定有收获,那一定是运动。只要你开始运动,就一定能看到结果。为什么这么说?运动到底能给身体什么样的反馈
2025-02-14 22:22:00
君乐宝世界级工厂获评“卓越级智能工厂”,智能制造助力乳业新质生产力
近日,工信部、国家发展改革委等六部门联合公布了2024年卓越级智能工厂名单。君乐宝乳业集团凭借“乳制品全产业链协同智能工厂项目”成功入选全国标杆企业之列
2025-02-14 23:08:00
商务部流通业发展司李佳路司长调研指导苏宁易购以旧换新工作
2月13日,商务部流通业发展司李佳路司长到福州宝龙城市广场苏宁易购Max门店考察,并就数码产品购新补贴、家电以旧换新工作和再生资源回收体系建设等情况调研指导
2025-02-14 23:10:00