• 我的订阅
  • 头条热搜
Oracle四季度125亿美元销售合同背后:OpenAI用上Oracle云,模型推理或是关键
...系没有变化,与OCI的合作是,基于OCI使用Azure AI平台进行推理和其他需求。”不过,这并不影响Oracle仍需构建大规模数据中心,以支撑来自OpenAI的工作负载。据Oracle董事长兼首席技术官拉里·埃里森(Larry Ellison)在业绩会上解释...……更多
大模型降价背后,国产大模型的竞争逻辑变了
...市场拱手让人。另一方面,随着大模型产业的快速发展,推理成本飞速下降,也成为终端降价的基础。据百度官方透露,相比一年前,文心大模型的算法训练效率提升到了原来的5.1倍,周均训练有效率达到98.8%,推理性能提升了1...……更多
16家头部大模型公司上海神秘碰头,现场人挤人人人
...最为关键的三大层面,即:算力层:用于基础模型训练和推理的基础设施 模型层:使用基础模型加速生成式AI应用构建 应用层:开箱即用的生成式AI应用至于能力如何,我们直接来看下最为直观的效果。在生成式AI应用方面,...……更多
Kimi爆火背后:访问量仅次于文心一言和阿里通义,国内外大模型都在卷上下文
...次采取扩容等措施保证流量异常增高后的稳定,这对Kimi推理算力、成本等也构成挑战。实际上,长文本能力已是国内外大模型追逐热点。复旦大学计算机科学技术学院教授张奇对搜狐科技表示,很多大模型仅停留在长度和简单...……更多
去年净利下降64%,加码AI投入,科大讯飞星火大模型如何“燎原”?
...,通用大模型的基础能力会对专业模型的语言表达、逻辑推理等方面会带来巨大提升,专业领域语料和实际场景应用,以及专业模型反过来也会促进通用领域的智慧涌现和整体提升。星星之火,何以燎原?在商业落地方面,科大...……更多
蚂蚁井贤栋:通过专业智能体的深度连接,AI会像互联网一样带来服务的代际升级
...型的“专业教材〞,供大模型训练学习,也能让大模型在推理中随时“翻阅”。这些“专业教材〞,是蚂蚁提升大模型的领域专业性、打造专业智能体的核心能力。以医疗行业为例,蚂蚁即将发布的“百灵医疗领域大模型”,背...……更多
chatgpt低成本复现流程开源
...。相比原生PyTorch,单机训练速度最高可提升7.73倍,单卡推理速度提升1.42倍,仅需一行代码即可调用。对于微调任务,可最多提升单卡的微调模型容量3.7倍,同时保持高速运行,同样仅需一行代码。要知道,ChatGPT火是真的火,...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
...加速卡等。相比于通用服务器,AI服务器更适应AI训练和推理的大算力、高并发、大数据流转等需求,已经成为大模型时代的“香饽饽”。以热门AI服务器型号浪潮NF5688M6服务器为例,某代理商在电商平台上挂出125万元的价格,这...……更多
点亮合同管理未来 江西移动率先发布合同解析大模型
...移动江西公司与中国移动信息技术中心引入能力中台磐智推理平台能力,利用通义千问-72b大模型为基础,开发出一套合同解析系统。该系统通过大数据技术提高了合同文本识别的准确性,将识别准确率提升至92%,并能智能提取56...……更多
字节、阿里云、百度大模型价格混战:低价背后是数据竞争,爆款尚未出现
...云事业部总裁刘伟光表示:“阿里云这次大幅降低大模型推理价格,就是希望加速AI应用的爆发。我们预计2024年大模型API的日调用次数有望突破100亿。”上周,字节跳动刚刚高调入局大模型战场,豆包主力模型在企业市场的定价...……更多
五大数字员工已上岗!讯飞星火让每个岗位都用上大模型
...面的升级迭代,在文本生成、语言理解、知识问答、逻辑推理、数学能力已经超越GPT-4 Turbo。与此同时,为了让企业直观感受到大模型对于这些场景的提质增效效果,科大讯飞在MWC上同步亮相了基于星火V4.0打造的企业智能体,真...……更多
CPU,正在被AI时代抛弃?
...以通过语音识别技术被录入到病例系统中,随后大模型AI推理技术辅助进行智能总结和诊断,医生们撰写病例的效率显著提高。AI推理的应用不仅节省了时间,也保护了患者隐私;在法院、律所等业务场景中,律师通过大模型对...……更多
浪潮通软应邀参加“海右论道”智库沙龙,共话AI大模型发展机遇
...务。智能对话平台基于浪潮海岳大模型的语言理解、逻辑推理、内容创作等可持续演化的能力,打造了智能对话平台,具备知识管理、技能管理、多轮对话、对话策略等核心功能,支持常见问题问答、文档问答以及任务型处理等...……更多
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
...让人印象深刻的是,英伟达在财报电话会议的一个观点:推理端的爆发,可能很多人还是低估了。据英伟达电话会议披露,公司全年数据中心里已经有40%的收入来自推理业务,超出了绝大部分人预期。而在这次财报电话会议里,...……更多
大模型推理乘上RISC-V快车?国内AI芯片创企推大模型系列一体机
...并发、技术自主可控方面具有优势的新选择。AI大模型在推理侧的新机遇与RISC-V创新架构具有的可扩展性、可编程性、超大规模等优势特点不谋而合。技术和场景应用的双重优势下,希姆计算的大模型一体机能支撑企业将基座模...……更多
对话律师和心理咨询师:使用过ChatGPT后,我反而不担心自己的工作被它取代了
...者和创意工作者的工作。”但也有研究发现ChatGPT在逻辑推理、非文本推理和常识推理等10个不同的推理类别中平均准确率为64.33%,ChatGPT并非可靠。牛津大学计算机科学系的研究结果表明,ChatGPT的数学能力明显低于普通数学研究...……更多
chatgpt低成本复现流程来了
...。相比原生PyTorch,单机训练速度最高可提升 7.73倍,单卡推理速度提升1.42倍,仅需一行代码即可调用。对于微调任务,可最多提升单卡的微调模型容量 3.7倍,同时保持高速运行,同样仅需一行代码。要知道,ChatGPT火是真的火,...……更多
商汤如何玩转大模型+大算力?详解“日日新SenseNova”大模型体系的关键招
...个平台的开源模型或上传用户本地模型并对其进行特异性推理加速优化,结合自研模型及训练能力,用户可免除本地化部署流程,并基于开源模型自训练模型,高效地生成更多样的内容。技术交流会现场,徐立不仅演示了基于商...……更多
手机市场深陷泥沼,厂商如何破冰?
...4位量化技术,实现精度不掉点效果下更优的性能,通过推理引擎的加速,以及芯片硬件加速的方式,更是成为行业首个端侧应用的70亿参数的模型。基于来自端侧的70亿大模型参数,FindX7能够实现比其他手机更快速的大模型响应...……更多
阿里云通义千问主力模型价格直降97%,大模型商业化拐点已至
...大模型性能逐渐提升,AI应用创新正进入密集探索期,但推理成本过高依然是制约大模型规模化应用的关键因素。云厂商的降价策略,不仅是对当前市场的一次重大推动,更是对未来商业智能化转型的一次深远布局。阿里云智能...……更多
AMD MI300绝杀英伟达H100?跑GPT-4性能超25%,AI芯片大决战一触即发
...,因此它们一直被诟病生成的回答是基于概率,而非基于推理。这也就意味着,在当前的AI热潮中,这些模型架构可能无法幸存下来。毕竟,由于发展速度太快,如今的LLM寿命相对较短。昨天还炙手可热的模型,一两周后可能就...……更多
罗格斯大学团队提出思想链概念,提高大模型的算数推理能力
...概念,提高了大语言模型(LLM,large language models)在复杂推理任务上的性能,例如算术推理、常识推理和符号推理等。图 | 金明宇(来源:金明宇)CoT 的原理是通过提供推理过程的示例,来教会模型处理推理,详细说明导致最...……更多
科学家竞相破解大型语言模型背后的谜团
...复杂行为。面对复杂问题,人类在潜意识里会进行分步骤推理。受此启发,谷歌团队2022年引入了“思维链提示”,以描述一种让LLM展示其“思维”的方法。简单来说,思维链提示是一种特殊的上下文学习。不同于标准提示只给...……更多
国产大模型第一梯队玩家,为什么pick了CPU?
...占绝对大头的因素——算力。 现在提及大模型的训练和推理,很多人的第一反应或许就是想到了GPU。诚然GPU在高性能上占据着一定的优势,但它所存在“硬伤”也是比较明显,那便是供应不足、价格昂贵。何以破局?国产大模...……更多
摆脱Transformer依赖?这家AI初创公司推出国内首个非Attention机制大模型
...能效果——记忆能力提升3倍、速度提升7倍的同时,实现推理吞吐量的5倍提升。 至于为何另辟蹊径,寻求非Transformer的大模型路径,岩芯数智CEO刘凡平指出,以大规模著称的Transformer,在实际应用中的高算力和高成本,让不少中...……更多
李彦宏:进一步提升“文心一言”产品采用率
...始人、董事长兼首席执行官李彦宏透露,百度文心大模型推理成本已降至1%。李彦宏表示,自发布以来,百度不断降低文心大模型的推理成本,“文心一言”3.5版本的推理成本是3.0版本的1%。通过推理成本的不断降低,越来越多...……更多
阿里云全面升级GPU云服务:AI大模型推理性能可提升100%
...云推出全面升级的GPU云服务,通过全新优化GPU套件,多GPU推理服务性能可最大提升100%。针对调用GPU算力最常用的容器技术,阿里云推出ACK云原生AI套件,帮助开发者及企业更高效地开发和部署AI应用,加速大模型应用落地。随着A...……更多
GPT 能为自动驾驶带来什么?毫末给出了答案
... CSS 自动驾驶场景库的决策样本去训练模型,让模型学习推理关系,从而将完整驾驶策略拆分为自动驾驶场景的动态识别过程,完成可理解、可解释的推理逻辑链生成。毫末智行 CEO 顾维灏表示,毫末 DriveGPT 雪湖 · 海若通过引入...……更多
...话会上还表示,自发布以来,百度不断降低文心大模型的推理成本,目前已降低至去年3月版本的1%。随着推理成本的降低,越来越多的用户和企业开始使用文心大模型。百度2023年年报显示,2023年百度实现总营收1345.98亿元,归属...……更多
AI行情再度席卷而来,机构看好这三个细分赛道丨ETF观察
...题。此外,AI模型升级迭代的背后是对海量数据的训练和推理,2012年以来全球算力需求快速增长,但算力服务器集群之间的数据交换需要数据中心内部的网络互联做配套,从而激发出对高速率光模块的大量需求,推动光模块行业...……更多
更多关于财经的资讯:
周大福4-6月零售额同比减少20%
北京商报讯(记者王思琦)7月23日,周大福发布截至2024年6月30日止三个月未经审核主要经营数据显示,报告期内周大福零售额同比减少20%
2024-07-23 20:48:00
成都农商行副行长尹华锋任职资格获批
北京商报讯(记者 李海颜)7月23日,四川金融监管局发布公告,核准尹华锋成都农商行副行长的任职资格。公告显示,尹华锋应在四川金融监管局核准任职资格之日起3个月内到任
2024-07-23 20:48:00
中国太平向香港子公司增资24亿港元
北京商报讯(记者 李秀梅)7月23日,中国太平保险集团有限责任公司(以下简称“中国太平”)公告表示,对中国太平保险集团(香港)有限公司增资24亿港元
2024-07-23 20:48:00
报告建议:改变地方政府激励,把投资和生产补贴转向公共福利支出
2024年7月7日,在江苏连云港港东方港务分公司码头,滚装轮正在装载出口汽车。视觉中国 资料图近年来,我国贸易顺差持续扩张
2024-07-23 20:50:00
“乌鲁木齐地窝堡国际机场”拟更名为“乌鲁木齐天山国际机场”
视觉中国 图关于向广大市民公开征求意见的公告根据新疆机场(集团)有限责任公司的申请,经乌鲁木齐市人民政府研究,拟同意将“乌鲁木齐地窝堡国际机场”更名为“乌鲁木齐天山国际机场”
2024-07-23 20:50:00
宝钢股份:宝日汽车板经营期限将满,以17.58亿元收购日铁持有的50%股权
视觉中国 图7月23日,钢铁央企中国宝武旗下上市公司宝钢股份(600019.SH)公告披露,公司董事会批准《关于收购宝钢日铁汽车板有限公司50%股权的议案》
2024-07-23 20:50:00
孚日股份:控股股东高密华荣累计被司法冻结1.7亿股
孚日股份7月23日晚间发布公告称,截至本公告披露日,公司控股股东高密华荣实业发展有限公司持有公司股份1.7亿股(占公司股份总数的21
2024-07-23 21:07:00
华谊兄弟:拟3.5亿元转让东阳美拉70%股权
7月23日,华谊兄弟公告,公司拟将控股子公司东阳美拉70%股权转让给阿里影业,股权转让价款为3.5亿元。本次交易完成后,公司不再持有东阳美拉的股权。标的公司第二大股东为冯小刚,持
2024-07-23 21:08:00
绿地突发,副董事长胡欣被调查
7月23日晚,绿地控股(600606.SH)发布公告称,公司董事胡欣涉嫌严重违纪违法,目前正接受上海市纪委监委纪律审查和监察调查
2024-07-23 21:09:00
告别3%?寿险预定利率调降,进入议程
仅仅一年,寿险产品预定利率和保证利率或将再下调的消息,再度见于市场。据券商中国记者多方采访了解的信息,业内交流的一个共识版本是
2024-07-23 21:09:00
集体反思,基金经理“吐露心声”
近期披露的公募基金二季报中,基金经理在输出投资观点的同时,少见地发表了一些偏感性的内容。这些感性表达中透露出基金经理的哪些最新反思
2024-07-23 21:09:00
博实结:本次发行2225.27万股,网上中签率0.0279%
博实结7月23日晚间披露中签率公告:本次发行股份数量为2225.27万股。回拨后,网下最终发行数量为890.12万股,约占扣除最终战略配售数量后本次发行数量的50%
2024-07-23 21:10:00
神火股份:刘德学辞去总会计师职务
神火股份7月23日晚间发布公告称,因工作变动,刘德学先生申请辞去公司总会计师职务。辞去总会计师职务后,刘德学先生不再担任公司任何职务
2024-07-23 21:11:00
神火股份:第九届十一次董事会会议于7月23日召开
神火股份7月23日晚间发布公告称,公司第九届十一次董事会会议于2024年7月23日以现场出席和视频出席相结合的方式召开
2024-07-23 21:12:00
乐鑫科技:预计2023年半年度净利润同比增长135%
乐鑫科技7月23日晚间发布业绩预告,预计2024年半年度实现归属于母公司所有者的净利润约为1.52亿元左右,与上年同期相比
2024-07-23 21:13:00