阿里,推理,模型,性能,升级,服务头条新闻资讯订阅

我的订阅
头条热搜

我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！

虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！

头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。

“技术故障”背刺巴菲特，金融大模型到底靠不靠谱？

...市场瞬息万变，需要实时数据处理和决策支持，大模型的推理涉及到大量的矩阵乘法计算，对硬件的矩阵乘法计算能力提出较高要求，计算复杂性可能导致响应时间延迟，不利于实时应用。加之大模型训练和推理过程需要大量的...……更多

2024-06-28 23:00:00巴菲,巴菲特,模型,故障,金融,技术

英伟达开源NVLM 1.0屠榜多模态！纯文本性能不降反升

...例如，OCRBench）的性能，但与低分辨率版本模型相比，在推理相关任务（例如，MMMU）上的准确率却会下降。此外，虽然开源的多模态大模型在视觉-语言任务上取得了非常亮眼的基准测试结果，但在纯文本任务上的性能却有显著...……更多

2024-09-24 13:36:00英伟,模态,文本,性能,模态,模型

大模型为何纷纷降价

...“降价潮”。记者梳理发现，仅上个月，就有字节跳动、阿里、百度、腾讯等多家知名企业旗下的大模型降价。国家数据局局长刘烈宏在今年3月透露，中国10亿参数规模以上的大模型数量已超过100个。在业内人士看来，“百模大...……更多

2024-06-17 02:37:00模型,模型,厂商,张毅,用户,通义

高通发布新款云ai推理加速卡

近日，高通公司发布了新一代云AI推理加速卡——CloudAI100Ultra。这款产品专为生成式AI和大型语言模型而设计，提供相当于上一代产品四倍的性能。新款CloudAI100Ultra可部署的模型规模进一步扩大，单张150W的卡上可部署100B参数模...……更多

2023-11-16 09:38:00加速卡,高通,推理,高通,加速卡,高通公司

零一万物大模型Yi-34B夺得全球开源评测“双料冠军”，已在

...源发布首款预训练大模型Yi-34B，模型开放商用申请，已在阿里云魔搭社区ModelScope首发。魔搭第一时间推出了模型部署相关教程，供开发者参考并快速上手。零一万物此次开源的Yi系列模型包含34B和6B两个版本。据HuggingFace英文开...……更多

2023-11-06 15:25:00阿里,万物,模型,评测,冠军,全球

国产GPU万卡集群终于来了！摩尔线程CEO张建中：做难而正确

...的代表先后登台，对夸娥智算集群助力其在大模型训练、推理及具身智能的创新赞誉有加。加速一切大模型，只是第一步。张建中说，夸娥万卡集群不仅是加速AI，而是想要为美好世界加速。一、大模型训练呼唤万卡集群，国...……更多

2024-07-09 09:47:00摩尔,张建中,万卡,张建,集群,线程

索泰ZOTAC推出GPU服务器系列产品

...选择，支持第三代和第四代英特尔至强处理器，适用于AI推理、数据科学、3D创作和游戏开发应用场景。Advanced系列——兼具强劲的性能与优秀的扩展性。本系列是Essential系列的优化升级版，全系列采用4U机架式服务器外形设计，...……更多

2024-03-16 00:22:00索泰,服务器,产品,服务,索泰,英特

数字中国建设峰会抢鲜看：AI大模型“上天入地”融入各行各业

...广泛应用。（图说：人工智能是全场的焦点和亮点。图为阿里巴巴展台。）观众吴女士输入“高考加油”四个字，在屏幕上轻轻一点，一张独一无二的明信片就做成了。在“前沿技术创新突破”展区的阿里巴巴展台，明信片AI自...……更多

2024-05-23 17:57:00各行各业,峰会,中国,模型,数字,建设

给小学数学题加句废话，OpenAI o1就翻车了，苹果论文质

苹果新论文：AI 大模型可能不会推理。AI 大模型（LLM）真的像我们理解的那样能「思考」或「推理」吗？最近，苹果的一篇论文探讨了这个问题，并且给出了一个倾向于「否」的答案。相关帖子被很多人围观。这篇题为「GSM-Symb...……更多

2024-10-14 09:55:00数学题,推理,废话,苹果,数学,小学

人工智能的第三支柱：数据存储

...周期，详细解读了AI管道六个阶段中数据从收集、训练到推理的存储细节。让我们简单了解一下人工智能数据周期的各个阶段。原始数据存档，内容存储：从各种来源安全高效地收集并存储原始数据，以用于训练模型。所收集数...……更多

2024-09-05 14:25:00人工智能,支柱,人工,存储,智能,数据

李彦宏：大模型场景下开源是最贵的，多模态是通往AGI的必经之

...ral发布的模型）都有相当的影响力，国内的智源、百川、阿里的通义也都是开源模型，市场上不缺百度这一家开源的模型。百度要开源还得自己去维护一套开源的版本，这不划算。李彦宏的判断是，闭源才有真正的商业模式，才...……更多

2024-04-16 17:57:00李彦,模态,之路,必经,模型,场景

加速替代CUDA！摩尔线程开源vLLM-MUSA 加速国产G

...科技11月5日消息，近日，摩尔线程上线了大语言模型高速推理框架开源项目vLLM的MUSA移植版本，为开发者提供基于摩尔线程全功能GPU进行开源项目MUSA移植的范例。摩尔线程表示，正努力围绕自主研发的统一系统架构GPU、MUSA软件...……更多

2024-11-05 21:09:00摩尔,线程,国产,摩尔,线程,移植

GPU训Llama 3.1疯狂崩溃，竟有大厂用CPU服务器跑

...The」。完整的回复，花了整整20个小时熟悉模型的训练和推理的朋友都知道，这些事情一点都不奇怪。集群搭建（GPU配置、网络设计、轨道优化等）、集群管理（实时监控、故障排除等）……个个都是「拦路虎」。对于缺乏相关...……更多

2024-08-02 09:47:00大厂,模型,参数,疯狂,服务器,服务

火山引擎丢出视频大模型「王炸」，云厂商从「价格战」回归「卷性

...始人闫俊杰向极客公园表示，从技术发展的角度看，模型推理成本 10 倍、百倍的降低是必然，只是时间问题，难的是通用模型的性能提升。在看到从 ChatGPT 到 GPT-4，性能出现了大幅提升时，大模型领域也沿着 OpenAI 在模型预训练...……更多

2024-09-26 13:33:00价格战,火山,模型,性能,厂商,引擎

WOT全球技术创新大会2024北京站：探索AI 的无限可能

...老师带来精彩分享。AIGC时代的软件工程新范式专题作为阿里巴巴自研大模型，AoneCopilot如何通过代码补全、代码问答、代码评审workspace、Prompt市场等能力提升阿里内部研发效能？Fabarta团队在使用AIGC的过程中有哪些经验和教训？...……更多

2024-05-31 18:24:00北京站,技术创新,北京,大会,全球,技术

AI服务器缺货真相调查：两天涨价30万，连“味精大王”都入场

...加速卡等。相比于通用服务器，AI服务器更适应AI训练和推理的大算力、高并发、大数据流转等需求，已经成为大模型时代的“香饽饽”。以热门AI服务器型号浪潮NF5688M6服务器为例，某代理商在电商平台上挂出125万元的价格，这...……更多

2023-10-21 17:43:00味精,缺货,大王,真相,调查,服务器

微软宣布Team Copilot发布，年内将推出初步预览版

...电脑，二是在信息日益增加的世界，电脑能不能帮助人类推理、规划以及更有效地运用所有的信息。纳德拉认为，现在这波AI浪潮能为微软找到实现这两大梦想的答案。随后，Nadella聚焦Copilot。纳德拉提到了包含随时可用本地API...……更多

2024-05-22 20:01:00微软,微软,纳德拉,纳德,模型,功能

云巨头生态之变：从云计算到AI大模型时代

...不变的是变化”，这句话出自2023年变化最大的云厂商，阿里云CEO吴泳铭的全员信中。作为多年位居国内三朵云榜首的阿里云而言，公有云和被集成是2023下半年以来最大的两个变化，也是2024年的重点方向。同样地，阿里云的这种...……更多

2024-03-01 11:53:00巨头,模型,生态,时代,模型,厂商

宝德加速计算服务器市场规模再创新高，荣登中国NO.2

...纷纷加码入局，加速大模型的研发和应用。大模型训练和推理过程消耗海量算力，带动算力需求爆发式的增长，推动了中国智能算力规模的高速增长。面对新一轮人工智能发展机遇，宝德依托自身强大的技术研发实力和深厚的AI...……更多

2024-06-17 11:45:00宝德,中国,新高,规模,服务器,市场

阿里云荣获2023年度国家科技进步奖

...户端顾春6月24日，2023年度国家科学技术奖在北京公布，阿里云联合湖南大学等单位攻坚的“超算与智算融合计算关键技术及应用”成果，荣获2023年度国家科技进步二等奖。这是阿里云第三次获得该奖。大模型时代，从材料科学...……更多

2024-06-25 18:32:00国家科技进步奖,进步奖,阿里,年度,国家,科技

AI驱动智慧办公革新浪潮，微软/阿里/微美全息加速数字办公垂

...自然语言处理、智能任务管理和个性化工作建议。此外，阿里推出的通义千问，自面世以来，在文本生成、智能编码和文档处理等办公方面展现出较强的能力。其2.0版本在理解力、逻辑推理、指令执行和编程方面进行了改进，尤...……更多

2024-09-12 10:01:00革新,办公,全息,阿里,微软,领航

大模型角逐下半场，要好用更要用好

...字节跳动发布豆包大模型，定价比行业降低约99%，随后，阿里、百度、腾讯等相继宣布降价，将竞争推向白热化。这究竟是加速技术普及的前奏，还是只是一场资源消耗战？“目前的价格战加速行业洗牌，行业门槛也会进一步抬...……更多

2024-07-10 10:22:00要好,模型,模型,人工智能,智能,大会

ai生命周期：ai训练和ai推理的完美结合

...命周期包括最重要的两个部分，一个是AI训练，一个是AI推理。其中，AI训练就是让模型识别数据模式，是数据和处理最密集的部分，需要大规模的算力。在这一阶段，往往优先使用大规模并行的GPU加速器或专用的AI加速器，有时...……更多

2024-03-15 02:13:00推理,周期,训练,生命,推理,能效

阿里云CEO吴泳铭：AI发展速度超过任何时期

快科技9月19日消息，2024云栖大会在杭州开幕，阿里巴巴集团CEO、阿里云智能集团董事长兼CEO吴泳铭在2024云栖大会上发表主题演讲。吴泳铭表示，过去22个月，AI发展的速度超过任何历史时期，但我们现在依然还处于AGI变革的早...……更多

2024-09-19 11:53:00阿里,时期,速度,发展,阿里,百炼

罗格斯大学团队提出思想链概念，提高大模型的算数推理能力

...概念，提高了大语言模型（LLM，large language models）在复杂推理任务上的性能，例如算术推理、常识推理和符号推理等。图 | 金明宇（来源：金明宇）CoT 的原理是通过提供推理过程的示例，来教会模型处理推理，详细说明导致最...……更多

2024-03-15 10:41:00罗格,罗格斯,推理,模型,团队,概念

生成式AI时代：AI服务器前景广阔，浪潮信息营收大增8成

...一。值得注意的是，2023年需求以模型训练为主，2024年起推理需求应该会逐渐增加，根据第三方(IDC)预测，2024 年推理需求大致会占到总需求的55%左右。浪潮信息在全球市场斩获颇丰，在于不断突破与提升在硬件、算力、算法等多...……更多

2024-06-20 09:33:00浪潮信息,浪潮,生成,前景,服务器,时代

NPU全球出货超1亿颗！芯原如何迎战大模型时代的边缘计算变革

...C9X00AI是AI-GPU/AI-PC，Tensor Core GPU IP CCTC-MP则面向大语言模型推理、训练。芯原NPU IP研发副总裁查凯南谈道，NPU的发展近年来大概有三个方向：首先是DEEP AI，在很多嵌入式设备里面，要把AI跟其它的处理IP做比较紧耦合的绑定，可以...……更多

2024-06-14 09:18:00变革,模型,边缘,时代,全球,模型

大模型推理与训练的边界之争

随着大模型的发展日新月异，其推理和训练的边界问题也引起了广泛讨论。近日，清程极智CEO汤雄超在一场行业活动中明确表示，尽管外界有声音认为OpenAI发布的o1模型模糊了推理和训练的界限，但从技术角度来看，这两个阶段...……更多

2024-11-07 20:18:00边界,推理,模型,训练,推理,模型