• 我的订阅
  • 头条热搜
谷歌王者归来?最新推出的大模型到底有多强,能否挑战GPT-4
...问题,这就使其尤其擅长解释数学和物理等复杂科目中的推理。Gemini能够根据照片按步骤讲题。来源:官方视频谷歌还发布了一个时长六分钟的视频,展现了测试员和Gemini的一些有趣互动,其中包括让Gemini识别图片并用多种语言...……更多
GTC 2024硬件一览:史上最强AI芯片GB200发布!
...可实现720petaflops的AI训练性能或1,440petaflops(1.4exaflops)的推理。图片源于网络与相同数量的72个H100相比,GB200NVL72的性能绝对是逆天的存在,大模型推理性能可以提升30倍,并且成本和能耗只有前者的1/25。当然,最炸裂的要数适...……更多
AIGC风潮席卷手机:但在PC面前 还是个弟弟
...全新的NPUAI独立引擎。它通过单独设置的神经计算引擎、推理流水线,彻底接手端侧的AI推理负载,其中MAC阵列可以高效执行矩阵算法和卷积运算,每周期效率多达2048。这样的性能更是手机端望尘莫及的,速度超快的同时功耗更...……更多
阿里巴巴“AI驱动”战略提速 夸克发布自研大模型
本文转自:新华网11月14日,阿里巴巴智能信息事业群发布全栈自研、千亿级参数的夸克大模型,将应用于通用搜索、医疗健康、教育学习、职场办公等众多场景。夸克App将借助自研大模型全面升级,加速迈向年轻人工作、学习...……更多
无惧4K游戏、AI高产利器,RTX 4070 Ti SUPER GAMINGX SLIM显卡实测
...越快。Stable Diffusion支持TensorRT,这是NVIDIA推出的深度学习推理SDK,能优化推理性能、加速各种工作负载,并支持大型语言模型推理。 测试中,常规的Stable Diffusion绘图需要166.7秒,而经过TensorRT加速后仅需99.2秒,速度提升了68%,……更多
万元内的高性价比专业卡——AMD Radeon Pro W7700显卡简评
...实验室的Procyon Windows AI性能测试项目将对Radeon Pro W7700的AI推理运算性能进行了测试。从测试成绩可以看到,相比Radeon Pro W7600,Radeon Pro 7700的整体性能领先在15%~80%,平均领先程度约为40%。从FP32和FP16的AI推……更多
微软发布旗下最小语言模型phi-2
...写电子邮件和故事,以及总结文本。在常识、语言理解和推理的基准测试中,该模型在某些领域能够跟上多达100亿个参数的模型。微软现在更新发布的Phi-2拥有27亿参数,规模虽然比此前版本翻番,但相比较其它主流语言模型,...……更多
每月141元的ChatGPT Plus订阅重新开放,背后发生了什么?
...」图/ X(Twitter) 但算力依然受限,核心是大模型训练、推理都严重依赖于英伟达高端 GPU,而英伟达又受限于台积电先进芯片制造工艺、封装工艺以及韩国 HBM 内存的产能。说到底,还是算力不够用,「供给」赶不上「需求」。...……更多
...今年正式投产。据了解,新的芯片将被应用于数据中心的推理任务,与英伟达等供应商的GPU一起协同工作。Meta发言人之前表示:我们相信,我们自主开发的加速器将与市面上的GPU相得益彰,为Meta的任务提供最佳的性能与效率平...……更多
AI背后的算力哪里来?高性能GPU成为行业追捧的香饽饽
...Pro图形显卡非常适合计算机辅助设计和建模(CAD/CAM)、AI推理以及一些商业环境中的媒体处理工作负载,为工作站显卡领域提供了新选择。2023年10月,英特尔又带来了锐炫独立显卡产品中的中端新品锐炫A580,面向游戏玩家和创...……更多
AI PC,联想Ready for PC | 焦点分析
...AI PC的发展阶段定义为“AI Ready”:“现在我们主要利用显卡来加强计算能力,计算能力的其中一个指标叫做TOPS(每秒钟可进行一万亿次操作)。现在的PC只能做到10 TOPS,我们觉得理想情况是要做到40 TOPS,才能算是AI第一代。”...……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
...结合了两个B200 GPU和一个独立的Grace CPU,将能够使大模型推理工作负载的性能提升30倍,同时提高效率。相比于H100,它可以“将成本和能源消耗降至1/25”。这就意味着,以前训练一个拥有1.8万亿参数的模型需要8000个Hopper GPU 和15...……更多
英伟达特供芯片卖不动了?黄仁勋穿上东北花袄“示好”,中国大厂难掩AI野心
...三款芯片中性能最佳的一款,更适用于垂类模型的训练、推理。H20的内存高达96GB,整数精度(INT8)算力为296TOPS;L20则配有48 GB内存,整数精度(INT8)算力为239TFLOP;L2配置为24GB内存以及算力为193TFLOP。然而即便是三款芯片中最...……更多
AIGC时代 人何去何从:注入灵魂 做好主人!
...的步伐,充分认识到AI在未来云计算领域所起的重要增效提速作用。上海开天工作室创始人于广来,从中国文化数字化和实体化发展的角度,展望了AI的未来。在他看来,在数智化主旋律时代,AI将会是我们最忠诚可靠的帮手,借...……更多
英特尔酷睿Ultra笔记本NPU能力体验
...了个AI性能和应用测试。 通过UL Procyon AI Inference Benchmark推理性能基准测试(涵盖MobileNetV3、InceptionV4、YOLOV3、DeepLabV3、Real-ESRGAN和ResNet50等多种神经网络模型)发现……更多
【产业互联网周报】字节回应被曝秘密利用OpenAI;英特尔预告Gaudi 3将超越H100;阿里云M7蔡英华离职;马斯克回应Grok抄ChatGPT作业
...点LatePost)昆仑万维方汉:AI“摩尔定律”已出现,端侧推理才是最终解决方案昆仑万维董事长、总经理方汉在会上表示,参考互联网时代发展历程,基于免费模式才能使得AI大模型最大程度普及,这需要通过技术迭代、端侧推理...……更多
算子开发到推理加速,一位00后开发者的“升级打怪”之旅
...过引入Parallel.For循环实现了算子开多核,可以进行多线程提速,让昇思MindSpore的NonZero算子有着不逊于Tensorflow和Pytorch的精度,目前代码已合入CANN主线。相较于最后的结果,郑辉认为自己从过程中获得了更大的价值:“算子开发...……更多
英伟达发布GB200计算卡:2080亿个晶体管,AI性能提升5倍
...基于两颗B200芯片以及 Grace CPU打造的AI超算 GB200,训练与推理LLM的性能比上代提升了30倍,简直就是黑科技。英伟达表示按照AI厂商训练一个1.8万亿参数的大语言模型计算,原本需要8000块Hooper GPU,同时功耗达到了15兆瓦,而现在厂...……更多
锐龙ai创新应用在aigc方面的突破
...可以达到10TOPS(每秒10万亿次计算),可以轻松应对日常的AI推理负载设计,而且能效远超CPU、GPU。开发方面,AMD也在努力提供丰富高效的开发工具,支持各种AI模型,并且与微软积极合作,深入Windows底层提供支持。不得不说,AMD的...……更多
Intel锐炫显卡的2023年:驱动接连打鸡血
...支持四台显示器并支持HDR、杜比视界,非常适合CAD/CAM、AI推理、媒体处理等工作负载。作为专业显卡,Intel还会在建筑、工程、设计、制造等行业坚持进行软件应用认证,让专业人士用着放心、舒心。10月份,Intel更是带来了全新...……更多
高通发布全新一代骁龙X Elite PC处理器
...峰值算力45TOPS,支持INT4整数格式,号称张量加速器性能提速2.5倍,共享内存容量增大2倍。此外,骁龙XElite还支持WiFi7、蓝牙5.4、5G等无线连接,接口最高支持USB4,可提供最多三个USB4、两个USB3.2Gen2、一个eUSB2。摄像头支持始终感...……更多
掰开安卓手机 满屏都是三个字:大模型
...的内存单元,是大模型进手机面临的第二道难关:大模型推理需要大量计算资源做支撑,与此同时,内存大小决定了数据处理速度的上限以及推理的稳定性。另外,在手机上跑大模型,也给电池带来了更大的压力。因此芯片能耗...……更多
OpenAI机器人亮相,大模型有了“肉身”,英伟达微软都有投资
...学习还能决策可以看到,Figure 01不管是在理解能力,还是推理反应都非常强大。团队特别强调,所有这些行为都没有经过远程操作,而是通过机器人自主学习。并且整段视频没有任何加速,也没有任何剪辑,全部一镜到底拍摄。...……更多
NVIDIA数字人技术让AI角色栩栩如生!
...发者能创建可以推动动态叙事的数字化身,为玩家解密、推理和玩游戏开辟全新可能性。”HippocraticAI已打造了一个以安全为重点、由LLM驱动、针对特定任务的医疗代理。该代理可给患者打电话、跟进护理协调任务、提供术前指...……更多
摩尔线程MTT S80发布一年有多大长进
...模型、图生文模型、DeepDanbooru、TextualInversion、LoRA训练和推理、ControlNet系列模型、DreamBooth、图像超分模型Real-ESRGAN等。现在国内也有越来越多人开始接触AIGC,除了直接使用Midjourney、ChatGPT这样的SaaS工具……更多
Meta推出新版自研AI芯片:性能较上代提高三倍,降低对英伟达依赖
...了自主研发芯片MTIA的最新版本。MTIA是Meta专门为AI训练和推理工作设计的定制芯片系列。和去年五月官宣的Meta第一代AI推理加速器MTIA v1相比,最新版本芯片在性能上有显著提升,专为Meta旗下社交软件的排名和推荐系统而设计。...……更多
...思维搜索的领域知识。策略和价值网络指导搜索过程。在推理过程中,预训练的MCTS模块使用策略网络来探索LLM的思想轨迹。随后,LLM审查MCTS的思想并识别任何错误,然后进行额外的MCTS模拟以生成修改后的想法。最后,将修改后...……更多
电子年货选购指南:入手人生第一台AI PC,如何避坑?
...要多一些。二是,高容量内存、高速大容量存储、高性能显卡。AI应用运行离不开足量内存处理数据,离不开高性能存储提供适配的数据读写速度,图形处理更离不开高性能显卡。内存这块呢,有机构在发布的报告里写了,微软...……更多
微软急了?Windows 12发布进程提速
受够了Windows 11?别急,Windows 12马上就来了,虽然微软方面并没有透露太多的相关消息,但是许多PC厂商却按捺不住开始宣传。近日,一些媒体纷纷释放消息,称从相关信源获知,微软最早将在明年的6月份正式发布Windows 12。早...……更多
最强大模型训练芯片H200发布!
...味着什么?来看测试数据。 在HBM3e加持下,H200让Llama-70B推理性能几乎翻倍,运行GPT3-175B也能提高60%。对AI公司来说还有一个好消息:H200与H100完全兼容,意味着将H200添加到已有系统中不需要做任何调整。最强AI芯片只能当半年除...……更多
更多关于财经的资讯:
· 网络主播“转正”,专家称多元化发展可期
中新网北京8月5日电 (夏宾 陈昊星)50多岁的退休职工吴姐,如今的职业身份是“探店达人”,通过直播和短视频,她意外收获了许多老年人的关注和喜欢
2024-08-06 07:58:00
新质对话|黄凯:有没有包打天下的技术路线?半导体显示如何向价值链高端延伸
作为闽台合作的桥梁,厦门依托独特的区位优势,通过招商引资和“一企一策”的政策服务,奠定了坚实的光电显示产业基础。经过多年的发展
2024-08-06 08:04:00
新质观察|发展新质生产力需要打造透明化供应链
大力推进现代化产业体系建设、加快发展新质生产力,是2024年《政府工作报告》提出的重点任务之一。在当今全球化大趋势下,建设现代化产业体系
2024-08-06 08:04:00
“富矿精开”看清镇
本文转自:人民网-贵州频道清镇市“以铝为链”实施“一主一特”战略发展主导产业巡礼展开全省铝工业发展态势的版图,清镇市的地位可谓举足轻重
2024-08-06 08:17:00
继周一暴跌后,日股周二开涨,而后持续走高,日经225指数、日本东证指数双双涨超8%.韩国KOSPI指数开涨3.7%,现涨4.34%。
2024-08-06 08:28:00
美东时间8月5日,市场担忧美国经济衰退,“恐慌指数”一度飙升超180%,美股三大指数大跌,道指暴跌超1000点,纳指一度跌超6%
2024-08-06 08:28:00
涌金楼丨10家浙企上榜世界500强
8月5日,《财富》发布2024年世界500强榜单。涌金君梳理统计,今年共有10家浙企入围榜单,上榜企业总数较去年增加2位
2024-08-06 08:29:00
厦门湖里区:“总部+研发+委外制造”,提升创新浓度
厦门“城市新客厅”——湖里五缘湾。厦门市湖里区,是一片“创新浓度”颇高的区域。以占全市不到10%的规上工业企业数量和不足5%的工业用地面积
2024-08-06 08:34:00
美股科技七巨头市值一夜蒸发近6万亿元,英伟达跌6%身陷反...
受市场环境和多重负面因素的影响,美股“七巨头”集体大跌,市值一夜累计蒸发近8000亿美元。当地时间8月5日,纳斯达克100指数跌3
2024-08-06 09:05:00
加大绿色信贷投放 泸县农商银行全力谱好绿色金融“大文章”
本文转自:人民网-四川频道泸县农商银行积极发展绿色金融,制定《绿色信贷三年发展规划》,聚焦绿色产业需求,优先保障绿色信贷规模
2024-08-06 10:54:00
和美精艺IPO难以回避的三大质疑
进入问询阶段逾半年时间,深圳和美精艺半导体科技股份有限公司(以下简称“和美精艺”)科创板IPO对外披露了首轮审核问询回复
2024-08-06 00:01:00
环比翻倍 本周近600亿解禁来袭
经同花顺iFinD统计,8月5日—9日这周,A股共有53家公司限售股迎来解禁,合计解禁市值约为594.74亿元,环比翻倍
2024-08-06 00:01:00
非上市财险公司上半年业绩陆续出炉。8月5日,北京商报记者了解到,据新疆前海联合财产保险股份有限公司(以下简称“前海财险”)今年二季度偿付能力报告
2024-08-06 00:02:00
贵阳移动累计建成5G基站11175个
今年,中国移动公布了首批100个5G-A网络商用城市名单,贵阳在首发名单之列。5G-A(5G-Advanced的简称)是5G向6G发展的关键阶段
2024-08-06 01:04:00
企业之家丨白云区:搭建交流平台, 助力企业发展
7月30日,由白云区“企业之家”主办,贵州美鲜晨科技信息有限公司协办的供应商发展大会在白云区政务服务中心举办,白云区“企业之家”相关负责人
2024-08-06 01:05:00