• 我的订阅
  • 头条热搜
商汤联合发布白皮书,首次提出新一代AI基础设施评估体系
...。AI2.0时代,需要新一代的基础设施来支撑大模型的训练与推理、生成式AI应用的规模化落地,其核心要素,如计算、存储、网络以及数据服务都要做精细化的设计和重构,而非简单的服务器或GPU实例堆砌。《白皮书》明确了新一代AI...……更多
高通aihub正式发布:支持75个ai模型
...生成式AI模型。通过对这些模型进行优化,开发者运行AI推理的速度将提升高达4倍。 不仅是速度提升,优化后的模型占用的内存带宽和存储空间也将减少,从而实现更高的能效和更持久的电池续航。这些优化模型将在高通AIHub、...……更多
AI PC是噱头还是更快的马车?
...言模型的能力,但其实是在本地运行的,而非借助云端的推理能力。讲真,应该没有人会认为整理文件名这种本地文件系统的操作还需要去云端绕一圈吧?从端到云之间隐藏的各种断点确实限制了我们的想象力,因此,AIPC的这些...……更多
李彦宏:百度AI构架有优势,性能较低的国产芯片仍可高效运作!
...用英伟达的高性能GPU来对其自研的AI模型进行训练和执行推理任务。然而,美国在2022年10月首次出台针对AI芯片的出口限制政策,使得英伟达、AMD等厂商的高性能AI芯片的对华出口受限,虽然之后英伟达推出了符合规则可以继续向...……更多
全球高校同台PK,齐鲁工业大学斩获一等奖!
...超算集群,运行优化国际通行基准测试HPL&HPCG、大模型推理优化、渗流数值模拟、火星大气模拟、新型材料结构计算等前沿科学与工程应用并参加答辩。RhinoLinX灵犀队其中,大模型推理优化赛题要求参赛队伍基于开源大语言模...……更多
...数模型Qwen-1.8B和音频大模型Qwen-Audio。开源模型Qwen-1.8B,推理2K长度文本内容仅需3G显存,可在消费级终端部署。Qwen-Audio能够感知和理解人声、自然声、动物声、音乐声等各类语音信号。用户可以输入一段音频,要求模型给出对音...……更多
AI时代CPU不老!Intel五代至强五大革新:340亿参数小意思
...架的支持,特别是PyTorch、TensorFlow等等,在AI训练、实时推理、批量推理等方面,基于不同算法,性能提升最多可达40%,甚至可以处理340亿参数的大模型。根据Intel提供的数据,五代至强SPECInt整数计算性能提升21%,AI负载性能...……更多
苹果M4芯片:即将在即!A18系列:也在路上了!
...等竞品处于同一水平。再加上考虑到大语言模型的训练与推理需要超大容量的存储,因此M4 Ultra处理器或许将会支持512GB的内存,比现在的192GB提升了不少。所以M4芯片一旦发布且进行搭载,将会有很大的希望在市场中进行搅局,...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...一款AI加速芯片,基于Arm架构设计,主要用于云端训练、推理以及Azure的高负载云端运算。不过纳德拉否认了将向云计算客户供货的传闻,这款自研芯片将优先满足微软自身的需求,并在合适的时机向合作伙伴和客户开放。Azure芯...……更多
让AI无处不在 高通全面开启终端侧生成式AI大门
...效提升了40%。Hexagon NPU集成了硬件加速单元、微型区块推理单元、性能加强的张量/标量/矢量单元,同时所有单元共享2倍带宽的大容量共享内存。 这意味着用户在搭载第三代骁龙8的设备上可以按照自己的需要自由生成类似于...……更多
麻省理工的科学家可以让最流行的人工智能图像生成器提速30倍
科学家们已经建立了一个框架,通过将它们浓缩到更小的模型中,在不影响质量的情况下,给像Dall·E3和Stable Diffusion这样的生成式人工智能系统带来了巨大的提振。一项新的研究表明,由于一项技术可以将整个100个阶段的过程...……更多
智谱AI的双轨驱动:从基座大模型出发,以共创理念推进商业落地
...模型应用能够提供精准、个性化的用户服务,语义理解与推理能力则使得大模型应用解决实际问题的效率远超传统方案。随着国内大模型厂商纷纷推出能力对标GPT-4的新模型,“百模大战”似乎也进入到新阶段。继续追赶OpenAI所...……更多
全国产算力平台“飞星一号”的首个成果发布:讯飞星火V3.5来了
...型讯飞星火V3.5在语言理解、文本生成、知识问答、逻辑推理、数学能力、代码能力和多模态能力七个方面进行了全面升级。其中语言理解、数学能力超过GPT-4 Turbo,代码达到GPT-4 Turbo 96%,多模态理解达到GPT-4V 91%。此外,讯飞星...……更多
共赢生成式AI时代
...的站点托管和预处理服务,在后端进行模型的训练和异步推理,并将相关素材和结果统一存储,从而获得了点击率35%的提升,为用户创造了更好的低延时访问体验。在工具选择方面,陈晓健强调亚马逊云科技秉承”普惠化”理念,即如何...……更多
深圳:“深目”AI模盒发布  “深目2.0”生态联盟成立
...自主可控的国产工艺,内含国产RISC-V核,支持大模型训练推理部署。依托自研芯片DeepEdge10 Max创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载10亿级SAM、百亿级Llama2等大模型运算,可广泛应用于AIoT边缘视频、移动机器人等...……更多
无问芯穹夏立雪:破解算力焦虑,我做了大模型算力领域的“淘宝”丨36氪专访
...巨大,英伟达一家又无法满足所有的全球AI大模型训练、推理的需求;另一方面,英伟达以外的多元异构GPU也在快速发展中,AI算力生态分散,难以被整合起来,供应给亟需算力的大模型公司。夏立雪观察到,现下的算力焦虑,...……更多
早报:新款Switch掌机今年推出 红米Note 13英国上市
...之外,iOS 17.4还包含了一个名为“SiriSummarization”的私有框架。这个框架可以调用OpenAI的ChatGPT API来实现AI功能。虽然不太可能在iOS 18正式版本中使用ChatGPT来实现Siri的AI功能,但更可能是苹果正在进行自己的大模型测试,并与ChatGP.……更多
通义千问再放大招:720亿大模型开源,全尺寸赶上LLaMA-2,还有移动端可用的18亿模型
...72B在C-Eval、CMMLU、GaokaoBench等基准得分超越GPT-4。而在数学推理方面,Qwen-72B在GSM8K、MATH测评中也领先其他开源模型;代码理解方面,Qwen-72B在HumanEval、MBPP等测评中的表现大幅提升,代码能力也有质的飞跃。△72B模型做数学题 ……更多
PC迎来AI时刻,英特尔、微软、联想等纷纷布局,产品价格将迎上涨
...算力是上一代的8倍,可在PC上实现高能效的AI加速和本地推理,并适配超过10款国产大模型。英特尔的老对手AMD则抢先一步,上周发布Ryzen 8040系列处理器。该处理器集成了升级的专用AI引擎NPU,算力为16TOPS,AI性能相比上一代提升...……更多
全新英特尔 至强 可扩展处理器,打破数智化变革瓶颈的一板利斧
...三代至强® 可扩展处理器通过扩展出bfloat16加速功能,在推理加速能力之外又加强了训练能力;而第四代英特尔® 至强® 可扩展处理器又带来了全新的加速引擎——英特尔® AMX,进一步提升深度学习训练和推理性能,同时更适合...……更多
人形机器人进厂“实习”,汽车制造还需要工人吗?
...模型加持人形机器人所带来的极快升级,呈现了机器人的推理交流能力。浙商证券3月14日发布的一份研报预期,就大模型+人形机器人目前所呈现的状态,人形机器人有望打开 C 端市场。人形机器人技术突破背后,资本正大力输...……更多
OpenAI造芯计划曝光!拟自研AI芯片 英伟达强敌来了
...势后,算力焦虑笼罩在各大AI厂商头上。无论是模型训练推理,还是API调用都需要算力作为支撑,有多少卡也成为衡量AI厂商实力如何的硬指标之一。而眼下的GPU市场,英伟达一家独大,市场份额超80%。与此同时,GPU不仅紧俏还...……更多
...8.3倍。效率方面,文心大模型训练速度达到原来的3倍,推理速度达到原来的30多倍。科大讯飞董事长刘庆峰介绍,自5月6日首次发布讯飞星火认知大模型以来,已进行两次重大迭代升级,在文本生成、语言理解、知识问答、逻辑...……更多
知乎 AI 革命:智能搜索与实时问答的融合
...生成,将这些答案里的有价值信息提炼出来,进行有效的推理,就能为一个 " 新鲜出炉 " 的专业问题提供一个立等可取的答案,提问的用户就可以能为快,然后再等其它的专业答主陆续赶到,下场答题。 在灰度测试这个功能的...……更多
...说,“这太激进了。”“大型语言模型有能力做一些涉及推理方面的事情。”马塞利诺说。但它们与人类的思维方式不同。他说:“我不想对其实际智能做出断言。”生成式人工智能程序通常基于人工神经网络,分析数据并找到...……更多
马斯克承诺开源版大模型 来了!Grok-1:3140亿参数迄今最大,权重架构全开放
...能力,但只使用了一半的训练资源。之后,他们对模型的推理和编码能力进行了重大改进,最终开发出了 Grok-1,这是一款功能更为强大的 SOTA 语言模型,在 HumanEval 编码任务中达到了 63.2% 的成绩,在 MMLU 中达到了 73%。xAI 使用了...……更多
中国电信中部智算中心投用:首次全国产AI软硬件、全液冷
...算中心支持部署万亿参数大模型,可提供千卡规模的训练推理能力,计算效率达80%,并支持主流框架、芯片,支持基于训练推理的混合调度能力,资源利用率提升20%。中国电信表示,中部智算中心将引进多家云计算、AI、生物...……更多
Sora再度颠覆AI视频行业,A股哪些公司有相关布局?
...token(文本处理最小单位)数量相较于文本及图片模型的推理,有望成数量级增长,判断Sora将刺激推理算力需求将持续上升。此外,推理端token增加、算力需求的增长,也对显存及带宽提出更高要求,预计将拉升400G光通信技术在...……更多
每月141元的ChatGPT Plus订阅重新开放,背后发生了什么?
...」图/ X(Twitter) 但算力依然受限,核心是大模型训练、推理都严重依赖于英伟达高端 GPU,而英伟达又受限于台积电先进芯片制造工艺、封装工艺以及韩国 HBM 内存的产能。说到底,还是算力不够用,「供给」赶不上「需求」。...……更多
李开复回应旗下AI独角兽陷“套壳”争议:起步受益于开源,会进步
...点进行了大量的实验和对比验证,并在这个过程中对部分推理参数进行了重新命名。在回应中,零一万物也对“沿用LLaMA部分推理代码经实验更名后的疏忽”表达了歉意:“(我们的)原始出发点是为了充分测试模型,并非刻意...……更多
更多关于科技的资讯:
网易云音乐独家打造BLACKPINK快闪空间 出道九周年庆典同步开启
2025年8月2日,全球顶级艺人BLACKPINK官宣入驻网易云音乐,并通过独家中文笔记向平台乐迷分享了最新动态。YG娱乐联合CASTER STAR
2025-08-03 15:23:00
物业公司打起来了,一边撤场一边“抢地盘”
现在围绕物业问题产生的冲突越来越多。物业公司一边主动从一些小区“撤场”,引发行业对规模化增长和利润的担心,一边又发力在存量小区“拓盘”
2025-08-03 08:47:00
中国品牌出海,如何在不确定中锚定“确定”?2025出海大会嘉宾超级金句来了!
2025年7月25日, 2025出海大会在浙江钱塘成功举办。本届大会以「以“匠心”至“世界”」为主题,特设主会场及分会场“投资金砖”-国别合作对接会
2025-08-03 08:49:00
录取比例超过20比1,全球学霸为何千里迢迢来西湖“追星”?
这个暑假,西湖大学的校园里掀起一股特殊的“追星潮”——数百名来自全球多个国家和地区的青年学子,跨越山海奔赴杭州,只为近距离接触生命科学
2025-08-03 08:47:00
年入558亿,中国便利店之王,竟然是它
提起便利店大家脑海中出现的第一个名字是什么?罗森、7-11还是全家,可能每个人的答案都不一样。但如果是广东的朋友,那么答案一定是#美宜佳
2025-08-03 05:41:00
运动品牌营销细分,潮流基因强化圈层认同|世研消费指数品牌榜Vol.56
本次监测周期内,安踏、耐克和斐乐以1.86、1.70、1.68的综合热度位列榜单综合热度前三。图源:世研大消费指数国货运动品牌场景痛点精准拆解
2025-08-03 05:41:00
最没存在感的河北特产,悄悄统治江浙沪?
提到河北衡水,估计不少人脑子里先冒出来的,是让全国学生闻风丧胆的衡水中学,以及一瓶名叫老白干的白酒。但在这两张耀眼名片外
2025-08-03 06:43:00
华立工业园:制造企业落脚海外的“工业唐人街”
过去一百多年来,唐人街是中国移民在海外聚居形成的经济和文化社区,往往也是新移民踏上陌生土地后落脚的第一站。对于许多刚刚“走出去”的中国制造企业
2025-08-03 06:43:00
对话蚂蚁集团张俊杰:AI 如何重塑医疗健康产业?
当大模型从技术奇点跃迁为产业基座,当智能体从实验室走进产线诊室,人工智能的第三次浪潮正以前所未有的锐度重构全球经济肌理
2025-08-03 06:45:00
让机器人拥有智能触觉,「悟通感控」获数千万元融资 | 36氪独家
36氪获悉,柔性触觉感知科技公司「悟通感控」近日完成数千万元系列融资:Pre-A轮由尚势资本领投、水木创投跟投;Pre-A+轮由广发基金瑞元资本领投
2025-08-03 06:45:00
打工人的终极难题:快乐和健康,我都想要
年轻人的「肠胃焦虑」新解法。撰文|J封面图源|《她的城》剧照在这个讲求效率与速度的时代,年轻人似乎比任何时候都更懂健康的重要
2025-08-03 06:45:00
这一次,普通人是主角
一只白鸽突然停在头上,会有什么样的故事发生?静静地等它飞走,留下羽毛扫过的温度。或者,赶快举起手机,记录下这珍贵的一刻
2025-08-03 06:45:00
破晓之光:2025 ChinaJoy AIGC大会圆满召开 | ChinaJoy2025
2025年8月1日,ChinaJoy AIGC大会在上海浦东嘉里大酒店三层上海宴会厅2召开。大会以“破晓之光”为主题,围统“AI基建与大模型重构的黎明之光”
2025-08-03 07:45:00
7月,在太仓大数据产业园,世纪智联科技发展(苏州)有限公司算力中心项目宛如一条腾跃的巨龙,在江苏银行21亿元绿色授信支持下
2025-08-03 05:14:00
2日,浙江大学脑机智能全国重点实验室发布最新成果,新一代神经拟态类脑计算机——“悟空”问世。这是国际首台神经元规模超20亿的基于专用神经拟态芯片的类脑计算机
2025-08-03 07:46:00