• 我的订阅
  • 头条热搜
Oracle四季度125亿美元销售合同背后:OpenAI用上Oracle云,模型推理或是关键
...系没有变化,与OCI的合作是,基于OCI使用Azure AI平台进行推理和其他需求。”不过,这并不影响Oracle仍需构建大规模数据中心,以支撑来自OpenAI的工作负载。据Oracle董事长兼首席技术官拉里·埃里森(Larry Ellison)在业绩会上解释...……更多
大模型降价背后,国产大模型的竞争逻辑变了
...市场拱手让人。另一方面,随着大模型产业的快速发展,推理成本飞速下降,也成为终端降价的基础。据百度官方透露,相比一年前,文心大模型的算法训练效率提升到了原来的5.1倍,周均训练有效率达到98.8%,推理性能提升了1...……更多
16家头部大模型公司上海神秘碰头,现场人挤人人人
...最为关键的三大层面,即:算力层:用于基础模型训练和推理的基础设施 模型层:使用基础模型加速生成式AI应用构建 应用层:开箱即用的生成式AI应用至于能力如何,我们直接来看下最为直观的效果。在生成式AI应用方面,...……更多
Kimi爆火背后:访问量仅次于文心一言和阿里通义,国内外大模型都在卷上下文
...次采取扩容等措施保证流量异常增高后的稳定,这对Kimi推理算力、成本等也构成挑战。实际上,长文本能力已是国内外大模型追逐热点。复旦大学计算机科学技术学院教授张奇对搜狐科技表示,很多大模型仅停留在长度和简单...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
...加速卡等。相比于通用服务器,AI服务器更适应AI训练和推理的大算力、高并发、大数据流转等需求,已经成为大模型时代的“香饽饽”。以热门AI服务器型号浪潮NF5688M6服务器为例,某代理商在电商平台上挂出125万元的价格,这...……更多
字节、阿里云、百度大模型价格混战:低价背后是数据竞争,爆款尚未出现
...云事业部总裁刘伟光表示:“阿里云这次大幅降低大模型推理价格,就是希望加速AI应用的爆发。我们预计2024年大模型API的日调用次数有望突破100亿。”上周,字节跳动刚刚高调入局大模型战场,豆包主力模型在企业市场的定价...……更多
浪潮通软应邀参加“海右论道”智库沙龙,共话AI大模型发展机遇
...务。智能对话平台基于浪潮海岳大模型的语言理解、逻辑推理、内容创作等可持续演化的能力,打造了智能对话平台,具备知识管理、技能管理、多轮对话、对话策略等核心功能,支持常见问题问答、文档问答以及任务型处理等...……更多
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
...让人印象深刻的是,英伟达在财报电话会议的一个观点:推理端的爆发,可能很多人还是低估了。据英伟达电话会议披露,公司全年数据中心里已经有40%的收入来自推理业务,超出了绝大部分人预期。而在这次财报电话会议里,...……更多
大模型推理乘上RISC-V快车?国内AI芯片创企推大模型系列一体机
...并发、技术自主可控方面具有优势的新选择。AI大模型在推理侧的新机遇与RISC-V创新架构具有的可扩展性、可编程性、超大规模等优势特点不谋而合。技术和场景应用的双重优势下,希姆计算的大模型一体机能支撑企业将基座模...……更多
手机市场深陷泥沼,厂商如何破冰?
...4位量化技术,实现精度不掉点效果下更优的性能,通过推理引擎的加速,以及芯片硬件加速的方式,更是成为行业首个端侧应用的70亿参数的模型。基于来自端侧的70亿大模型参数,FindX7能够实现比其他手机更快速的大模型响应...……更多
阿里云通义千问主力模型价格直降97%,大模型商业化拐点已至
...大模型性能逐渐提升,AI应用创新正进入密集探索期,但推理成本过高依然是制约大模型规模化应用的关键因素。云厂商的降价策略,不仅是对当前市场的一次重大推动,更是对未来商业智能化转型的一次深远布局。阿里云智能...……更多
AMD MI300绝杀英伟达H100?跑GPT-4性能超25%,AI芯片大决战一触即发
...,因此它们一直被诟病生成的回答是基于概率,而非基于推理。这也就意味着,在当前的AI热潮中,这些模型架构可能无法幸存下来。毕竟,由于发展速度太快,如今的LLM寿命相对较短。昨天还炙手可热的模型,一两周后可能就...……更多
罗格斯大学团队提出思想链概念,提高大模型的算数推理能力
...概念,提高了大语言模型(LLM,large language models)在复杂推理任务上的性能,例如算术推理、常识推理和符号推理等。图 | 金明宇(来源:金明宇)CoT 的原理是通过提供推理过程的示例,来教会模型处理推理,详细说明导致最...……更多
科学家竞相破解大型语言模型背后的谜团
...复杂行为。面对复杂问题,人类在潜意识里会进行分步骤推理。受此启发,谷歌团队2022年引入了“思维链提示”,以描述一种让LLM展示其“思维”的方法。简单来说,思维链提示是一种特殊的上下文学习。不同于标准提示只给...……更多
李彦宏:进一步提升“文心一言”产品采用率
...始人、董事长兼首席执行官李彦宏透露,百度文心大模型推理成本已降至1%。李彦宏表示,自发布以来,百度不断降低文心大模型的推理成本,“文心一言”3.5版本的推理成本是3.0版本的1%。通过推理成本的不断降低,越来越多...……更多
摆脱Transformer依赖?这家AI初创公司推出国内首个非Attention机制大模型
...能效果——记忆能力提升3倍、速度提升7倍的同时,实现推理吞吐量的5倍提升。 至于为何另辟蹊径,寻求非Transformer的大模型路径,岩芯数智CEO刘凡平指出,以大规模著称的Transformer,在实际应用中的高算力和高成本,让不少中...……更多
...话会上还表示,自发布以来,百度不断降低文心大模型的推理成本,目前已降低至去年3月版本的1%。随着推理成本的降低,越来越多的用户和企业开始使用文心大模型。百度2023年年报显示,2023年百度实现总营收1345.98亿元,归属...……更多
AI行情再度席卷而来,机构看好这三个细分赛道丨ETF观察
...题。此外,AI模型升级迭代的背后是对海量数据的训练和推理,2012年以来全球算力需求快速增长,但算力服务器集群之间的数据交换需要数据中心内部的网络互联做配套,从而激发出对高速率光模块的大量需求,推动光模块行业...……更多
大模型价格战“卷”向何方?|深度
...千亿参数MoE架构模型。MoE架构中基于多个专家并行机制,推理时只激活部分专家,以稀疏性压缩了参数数量和推理成本。“这就可以极大地节省算力耗费”。而率先掀起价格战的幻方DeepSeek-V2,就是其通过架构创新,实现了大模...……更多
对话云天励飞董事长陈宁:2030年人类将实现AGI,推理芯片将是蓝海市场|钛媒体AGI
...拥有一个AI Agent。“如果说2024年是大模型落地应用之年,推理就会越来越重要。此前在训练芯片市场上,英伟达一骑绝尘,占有绝对的市场占有率,那么今天,推理芯片市场没有垄断性的巨头。这不仅是万亿级、万亿颗芯片的蓝...……更多
全球都在搞AI,为什么是百度挣到钱?
...,李彦宏透露,自发布以来,百度不断降低文心大模型的推理成本,目前已降低至2023年3月版本的1%。随着推理成本的降低,越来越多的用户和企业开始使用文心大模型。这意味着不论是对于企业还是开发者,基于文心大模型开...……更多
...展开紧密协作,共同致力于本土算力和大型模型的训练与推理技术的发展。11月初,云从科技在投资者关系平台上答复投资者关心的问题时称,公司已与华为签署了全面合作框架协议,并已联合发布了从容大模型训推一体化解决...……更多
只用 13 天,OpenAI 做出了能听、能说、能自主决策的机器人大模型
...破,由 OpenAI 与 Figure 共同做出。OpenAI 提供负责提供视觉推理和语言理解,而 Figure 的神经网络提供快速、低水平、灵巧的机器人动作。机器人所做出的所有行为都是出于已经学习过,内化了的能力,而不是来自远程操作。研究...……更多
李彦宏:大模型场景下开源是最贵的,多模态是通往AGI的必经之路
...练效率提升到了原来的5.1倍,周均训练有效率达到98.8%,推理性能提升了105倍,推理的成本降到了原来的1%。会上,百度发布了文心大模型4.0的工具版,该工具版可以让开发者体验代码解释器功能,开发者不仅可以通过自然语言...……更多
...理陈宁介绍,DeepEdge10是国内首创的国产14nm Chiplet大模型推理芯片,采用自主可控的国产工艺,内含国产RISC-V核,支持大模型推理部署。依托自研芯片DeepEdge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Lla...……更多
面壁智能发布2B模型:适配主流手机,推理成本仅为GPT-4的1/360 | 最前线
...在MMLU(多任务语言理解)、Knowledge(知识)、Reasoning(推理)、Comprehension(理解)等关键指标上均超越了Meta Llama 2的13B模型。这一个故事,在2024年2月1日的发布会上,也被AI模型层公司面壁智能的CEO李大海不断提起。对标Mistral..……更多
近日,高通公司发布了新一代云AI推理加速卡——CloudAI100Ultra。这款产品专为生成式AI和大型语言模型而设计,提供相当于上一代产品四倍的性能。新款CloudAI100Ultra可部署的模型规模进一步扩大,单张150W的卡上可部署100B参数模...……更多
...算效率和算力开销两大问题成为新的行业焦点。对大模型推理成本的优化,可通过很多技术手段实现。首先是模型本身,模型结构、训练方法都可以持续改进,包括业界很关注的MoE(混合专家模型),就是优化推理成本很好的解决...……更多
突破遥感基础模型关键技术!我国科研人员研发出遥感智能训推一体机
...然而,遥感单幅影像幅宽大、基础模型参数规模大,导致推理速度与应用场景较为受限。近日,中国科学院空天信息创新研究院(空天院)科研团队基于自主研制的遥感智能解译基础模型,联合国内相关研发机构,共同研发出“...……更多
港中文团队提出大模型元推理范式,革新大模型的评价体系
...一定启示。日前,相关论文以《大型语言模型评价中的元推理革命》(MR-GSM8K: A Meta-Reasoning Revolution in Large Language Model Evaluation)为题发在 arXiv,曾忠燊是第一作者,香港中文大学教授贾佳亚担任通讯作者 [1]。图……更多
更多关于财经的资讯:
股价大涨近18%,机构扎堆调研这只A股
本周(11月18日至22日)A股继续回调,上证指数周内累计下跌1.91%,深证成指下跌2.89%,创业板指下跌3.03%
2024-11-24 08:14:00
· 电动自行车上路有“新标准” 以旧换新怎么换?
家里有电动自行车的人,最近可能在关注一件事,那就是自己的车,符合新国标吗?就在本月第一天起,有三项电动自行车强制性国家标准
2024-11-24 08:19:00
· 自动扣费还是人为操作?\
勾结手机制造商内部员工在“老人机”的主板中恶意植入扣费软件,私设服务器平台,远程控制手机在使用者不知情的情况下自动订制增值服务方式
2024-11-24 08:19:00
观察丨推动化合物半导体产业发展,集成电路新高地临港有何核心优势?
“5年前,临港的集成电路企业数量不足5家,截至目前,我们初步统计,临港集成电路企业的数量已经超过了300家。”在近日举行的2024年临港化合物半导体论坛上
2024-11-24 08:31:00
· 智利车厘子“抢鲜”上市 销量喜人 价格多少?
每到秋冬季节,车厘子便成为街坊餐桌上的“明星”水果,车厘子价格也成为备受关注的热点话题。近日,记者走访广州部分水果店、农贸市场等了解到
2024-11-24 08:50:00
李营营律师:隐名股东转让股权后能要求显名股东配合办理登记吗?
云南高院:隐名股东转让股权后,能要求显名股东配合办理登记吗?实际股东有权处分自身股权、依公司法规定及合法的公司章程规定签订的股权转让协议有效
2024-11-24 10:12:00
据央视新闻23日消息,11月22日,日本总务省公布该国10月全国消费者物价指数显示,大米类商品价格同比上涨58.9%,创下自1971年有可比数据以来的最大涨幅
2024-11-24 12:14:00
又有三省份!地方金融局局长密集变动
地方金融局继续“换防”!据中国西藏网报道,西藏自治区政府新闻办公室日前举行新闻发布会。其中,马恒以西藏自治区党委金融办常务副主任
2024-11-24 10:44:00
11月21日,针对福州中宝、福建星德宝等多家宝马4S店突然关门,福建省消费者委员会(下称“消委会”)点名提醒,警惕4S店突然闭店消费风险
2024-11-23 22:42:00
近日,国际金价走出“5连涨”行情。 Wind数据显示,截至11月22日收盘,COMEX黄金报2718.2美元/盎司,涨幅1
2024-11-23 22:42:00
黄仁勋获颁港科大荣誉博士:AI的开放研究是全球性的,没什么能阻止
AI(人工智能)芯片龙头英伟达CEO黄仁勋获颁香港科技大学工程学荣誉博士。11月23日,黄仁勋到访中国香港,参加了香港科技大学(以下简称“港科大”)的荣誉博士学位颁授典礼及博士毕业典礼
2024-11-24 00:56:00
建行烟台分行举办“奋楫笃行将致远 挺膺担当正青春”青年员工座谈会
胶东在线11月20日讯(通讯员 卢绍飞)为深入贯彻新时代人才工作新理念新战略新举措,领会“蓝海英才”队伍建设实施方案,进一步提高青年员工的综合素质
2024-11-24 05:00:00
近期,包括神农集团、居然之家、民丰特纸、风范股份在内的多家上市公司公告,获得银行回购增持贷款支持。自中国人民银行联合金融监管总局
2024-11-24 07:13:00
因标的公司存在尚未解除的对外担保等情形,东和新材(839792)宣布终止重大资产重组事项。东和新材11月22日晚间公告
2024-11-24 07:44:00
11月21日,合作方项目组(前卫咨询上海有限公司)与货运平台工作人员发生了纠纷事件,保时捷已第一时间向涉事人员了解详情
2024-11-24 07:44:00