• 我的订阅
  • 头条热搜
大模型步入推理Scaling时代,SambaNova如何挑战英伟达的霸主地位
...DU 展现出了独特优势,也被视为 GPU 的最有力竞争者 。与英伟达相比,Sambanova 最新 Llama 3.1 模型上生成 token 的性能快了 10 倍以上,并且通过 cloud.sambanova.ai 公开供开发人员使用。RDU 能够实现更快的推理速率,更利于大模型的部...……更多
“去英伟达化”加速!Meta、谷歌接连发布自研芯片,英伟达能否捍卫霸主地位?
在这个由数据和算力驱动的时代,英伟达以其高性能的GPU芯片,几乎垄断了AI芯片市场。而随着AI竞争的加剧,芯片供应的紧缺,包括Meta、谷歌、亚马逊在内的科技巨头开始探索自研芯片。当地时间4月10日,Meta公布了自主研发...……更多
英伟达3.4万亿市值稳坐全球第一!苹果12年霸主地位终结
【新智元导读】继6月短暂超越苹果市值后,英伟达再次超越苹果成为全球最高市值公司!再次见证历史!美东时间周二,英伟达股价收涨2.84%,至139.91美元,市值达到3.43万亿美元,超越苹果市值为3.38万亿美元。今年以来,英伟...……更多
Cerebras 推出全球最快AI推理解决方案,速度是英伟达方案的20倍
... 450 个 token,速度是微软 Azure 等超大规模云中提供的基于英伟达 GPU 的 AI 推理解决方案的 20 倍。 除了令人难以置信的性能之外,这款新型推理解决方案的定价也比流行的 GPU 云低得多,起价仅为每百万个 token 10 美分,从而为 AI...……更多
AI芯片战事升级!英伟达筑高围墙,市值猛追苹果
...报道“2.21万亿美元”,这是截至当地时间3月18日收盘时英伟达的最新市值,该市值目前居全球第三,仅次于微软的3.1万亿美元和苹果的2.68万亿美元。股市一再创新高后,英伟达下一步棋如何走,是投资者和业内关注的焦点。3月...……更多
AMD MI300绝杀英伟达H100?跑GPT-4性能超25%,AI芯片大决战一触即发
...芯片大决战,不少芯片初创公司跃跃欲试,希望一举打破英伟达的垄断地位。而AMD的MI300,在部署32K上下文窗口的GPT-4模型时,居然比H100效果更好?AI芯片大决战,即将来临!AI硬件开发商初创公司的未来会怎样?Tenstorrent CEO David...……更多
影响英伟达根本逻辑的大争论:OpenAI改变策略意味着什么?谁在撒谎?
...型预训练“缩放定律”定律失效?模型推理成“解药”,英伟达一家独大格局要变天?“缩放定律”指导下,AI大模型预训练目前遭遇瓶颈。据路透12日报道,硅谷主要AI实验室的新模型训练计划目前普遍进展不顺,新模型训练遭...……更多
谷歌 VS OpenAI:当搜索霸主和屠龙少年迈入同一条河流
...招给对手致命一击。01、为了 Gemini ,谷歌有多拼?正如英伟达资深科学家 Jim Fan 在社交媒体上所期待的:“我想要看到一群使用GPT-4的人和Gemini Ultra的人玩一局《太空狼人杀》,这将会是一场史诗级的对抗。”图源:X 截图为什...……更多
见证人工智能的里程碑时刻! 英伟达夺回“股市之王”头衔
...美股收盘,被高盛称为“地球最重要股票”的AI芯片霸主英伟达(NVDA.US)股票总市值全面超越消费电子巨头苹果公司(AAPL.US),荣膺“全球最高市值公司”这一宝座,凸显出“人工智能”这一无比火热的投资主题在华尔街乃至全球股...……更多
英伟达发布H200!巩固AI芯片霸主地位
11月14日消息,全球市值最高的芯片制造商英伟达公司,正在升级其H100人工智能处理器,为这款产品增加更多功能,进一步巩固其在人工智能计算市场的领先地位。新款芯片的型号名为H200,将具备使用高带宽内存(HBM3e)的能力...……更多
英伟达特供芯片卖不动了?黄仁勋穿上东北花袄“示好”,中国大厂难掩AI野心
算力芯片的火,从2023年一直燃烧到2024年。开年不久,英伟达CEO黄仁勋时隔四年到访中国大陆,还穿上了东北大花袄与国内员工共舞,气氛无比热络,似乎是在对自家芯片遇冷的传言进行某种回应。2023年,英伟达的AI芯片成了科...……更多
利润暴涨628%,AI霸主英伟达全产业链投资图鉴|智氪
作者|范亮 丁卯 诺明编辑|丁卯 郑怀舟图:英伟达供应链公司概览 数据来源:公司公告、36氪整理5月22日,全球资本市场的“大网红”英伟达发布了2025财年第一财季(截至2024年4月28日)的报告。数据显示,本季度英伟达业绩全...……更多
疯狂一夜!美国AMD、谷歌纷纷亮出大杀器,人类迎来巨变前夜?|钛媒体焦点
...夜,谷歌(Google)、AMD先后上新,终于要“打爆”OpenAI和英伟达了。钛媒体App 12月7日消息,北京时间今天凌晨,谷歌CEO桑达尔·皮查伊 (Sundar Pichai) 宣布,谷歌公司正式发布迄今为止功能最强大、最通用的多模态人工智能(AI)...……更多
前谷歌工程师创业造AI芯片!产品明年问世,已拿到1.8亿融资
...谷歌前员工成立的AI芯片创企MatX浮出水面。MatX正在挑战英伟达在AI芯片领域的霸主地位,其为大语言模型训练而设计的AI芯片将于明年问世。这家公司的官网显示,使用MatX芯片,训练70B大模型的延迟将小于10ms/token。该公司还预...……更多
谷歌发布gemma2大语言模型,共有两种大小
...27B模型的性能媲美两倍规模的主流模型,而且只需要一片英伟达H100ensorCoreGPU或TPU主机就能实现这种性能,从而大大降低了部署成本。Gemma2-9B模型优于Llama38B和其他类似规模的开源模型。谷歌还计划在未来几个月发布参数为26亿的G...……更多
发布一揽子新品,AMD再次挑战英伟达!但败局早已注定?
...AI PC处理器、EPYC处理器、GPU加速卡等多款重磅产品。作为英伟达为数不多的友商,AMD对这一波新品寄予厚望,发布会还特意邀请了OpenAI、微软等巨头的大佬来站台,然而市场对其产品却不看好,其股价也应声下跌。难道AMD挑战英...……更多
「运气使然」英伟达,压得英特尔喘不过气
原本大家以为到了年末,英特尔是被今年英伟达一路飘红的业绩刺激到了,英特尔 CEO 帕特·基辛格(Pat Gelsinger)才在前不久的酷睿 Ultra 发布会上说了那句「(英伟达)CUDA 的护城河又浅又小」。但事实上,早在今年年初,基辛...……更多
博通股价两天涨超35%:看好定制化AI芯片需求,会撼动英伟达地位吗
博通(Broadcom)成为继英伟达和台积电之后全球第三家市值超过一万亿美元的半导体巨头,有望对英伟达霸主地位产生冲击。当地时间12月16日,博通(Nasdaq:AVGO)股价涨11.21%收于每股250.00美元,总市值1.17万亿美元。自从12月12...……更多
英伟达深夜炸场,世界最强AI芯片H200震撼发布,性能飙升90%
英伟达的节奏,越来越可怕了。就在刚刚,老黄又一次在深夜炸场——发布目前世界最强的AI芯片H200!较前任霸主H100,H200的性能直接提升了60%到90%。不仅如此,这两款芯片还是互相兼容的。这意味着,使用H100训练/推理模型的...……更多
老黄祭出史上最强 AI 芯片B200!30倍性能提升,AI 迎来新摩尔定律时代|钛媒体AGI
...纱。北京时间3月19日(星期二)凌晨,在年度GTC大会上,英伟达(Nvidia)首席执行官黄仁勋宣布推出AI超级芯片——Blackwell GB200,将于今年晚些时候发货。GB200采用新一代AI GPU(图形处理器)Blackwell,是英伟达A100/H100系列AI GPU的...……更多
PyTorch官宣:告别CUDA,GPU推理迎来Triton加速新时代
【新智元导读】用英伟达的GPU,但可以不用CUDA?PyTorch官宣,借助OpenAI开发的Triton语言编写内核来加速LLM推理,可以实现和CUDA类似甚至更佳的性能。试问,有多少机器学习小白曾被深度学习框架和CUDA的兼容问题所困扰?又有多...……更多
硅谷大模型“价格战”上演,一味“卷”价格会有未来吗?
...这“标志着AI推理效率和能力的巨大转变”。截至目前,英伟达一直主导着AI芯片市场。该报道分析认为,Groq的最新成就可能将对英伟达的统治地位构成严峻挑战。根据Groq的数据,许多开源模型据称在Groq芯片上的运行速度都得...……更多
英伟达尖端图像处理半导体h200开始供货
3月28日消息,据报道,英伟达的尖端图像处理半导体(GPU)H200现已开始供货。H20为面向AI领域的半导体,性能超过当前主打的H100。根据英伟达方面公布的性能评测结果,以Meta公司旗下大语言模型Llama2处理速度为例,H2000相比于H...……更多
00后华裔小哥哈佛辍学组团挑战英伟达,史上最快AI芯片Sohu推理性能超H100二十倍!
...d又宣布了炸裂的新消息:已筹到1.2亿美元。 就在上周,英伟达的市值达到3.3万亿美元,超过微软成为全球第一。而Etched相信,自己的35人团队能够击败英伟达。他们的豪放预言,得到了硅谷真金白银的支持。投资名单中,是一...……更多
AMD的GPU跑AI模型终于Yes了?PK英伟达H100不带怕的
AMD vs 英伟达绝对算是一个长盛不衰的话题 —— 从玩游戏用哪家强到如今训练 AI 哪个更高效?原因也很简单:它们的 GPU 产品存在直接竞争关系。当然,答案通常都偏向于英伟达,尤其是在 AI 算力方面,正如前些天李沐在上海...……更多
黄仁勋:我从不在乎市场份额、英伟达唯一目标是创造新市场
“这是我听过的黄仁勋最好的采访!”英伟达CEO黄仁勋的一场炉边谈话再次引起热议:英伟达从来没有一天谈论过市场份额。我们所讨论的只是:如何创造下一个东西?如何将过去需要一年才能完成的飞轮缩短到一个月?面对Az...……更多
AI行业深度研究:乘大模型之风,AI芯片元老寒武纪再度起航
...机遇中,市场 份额 有望相对集中但难以一家独大,除去英伟达,我们看到 Google 和 AMD 都 在努力提升自身芯片的能力。国内 AI 芯片与智算中心急速增长生成式 AI 对中国 AI 市场的发展带来了明显的拉动作用,丰富的应用场景和...……更多
英伟达地表最强,黄教主被称作AI界“霉霉”
...丨创业邦(ID:ichuangyebang)作者丨Juny编辑丨海腰图源丨英伟达官方好久没有一场大会让整个科技界都如此躁动。今天早间,在位于硅谷San Jose的麦克内里会议中心,英伟达2024 GTC大会标识已被高高挂起,并在下方悬挂着一行醒目...……更多
下一个OpenAI+微软?Anthropic将使用数十万枚亚马逊自研芯片
...克成立人工智能初创公司xAI后,曾宣布要建设拥有10万枚英伟达AI训练芯片的算力集群。马斯克宣布该计划后,主流云计算厂商普遍开启了10万枚AI芯片的算力集群建设计划。为何要用亚马逊的自研芯片?Anthropic选用亚马逊自研芯...……更多
高通被曝求购英特尔,手机芯片王者并购PC芯片王者!需要中国同意
...推理两侧,实现了贯通。路径明确,潜力惊人。老黄推动英伟达并购Arm时昭然若揭的野心,现在高通阿蒙,士别三日,也想再试一试。只是结局,会有不同吗?众所周知,Arm最后并没有卖身给英伟达,并非是Arm实控人孙正义不想...……更多
更多关于科技的资讯:
钻漏洞谋求个人私利:吉林一雪场将15名大学生拉入黑名单
快科技1月15日消息,国内不少景点会针对大学生等群体推出相应的优惠政策,有些甚至是免门票,然而这样的规则也会被有心人利用谋取私利
2025-01-15 17:25:00
小米超级小爱升级计划公布:小米13/K60等也能用上 1月27日前推送
快科技1月15日消息,小米官方今天发文宣布,澎湃OS 2系统中的「超级小爱」功能已正式向用户开放。该功能新增了手势唤醒和智能理解屏幕内容等特性
2025-01-15 17:25:00
高性能内存对于游戏帧率如此重要!英睿达DDR5 Pro 6400MHz评测
一、前言:专为锐龙9000平台设计的游戏内存内存延迟对于游戏帧率的重要性已无需赘述。由于Intel新一代酷睿Ultra 200S在游戏性能上的拉胯表现
2025-01-15 17:25:00
理想汽车推出2025新春活动攻略!涵盖充电免服务费等福利
快科技1月15日消息,理想汽车为庆祝2025年新春,推出了五重福利活动。活动从1月16日开始,至2月4日结束,期间理想汽车全系车型在全国范围内的高速理想超充站充电时
2025-01-15 17:25:00
网友申请退机票收到近七千元代金券 携程称系航司政策规定
快科技1月15日消息,据媒体报道,近日,有网友反映称,他在2024年11月,通过携程购买了12月21日的往返国际机票,总价为8279元人民币
2025-01-15 17:25:00
连续36年第一!中国第一个14万亿大省诞生 广东新能源汽车、手机产能激增
快科技1月15日消息,2024年广东GDP预计站上14万亿大关,成为我国第一个14万亿大省,连续36年蝉联全国榜首(已经全面赶超“亚洲四小龙”)
2025-01-15 17:25:00
男子聚餐后次日身亡9同事被告 法院:同饮者已尽合理注意义务 无责!
1月15日消息,外出聚餐莫劝酒,一旦出事情很有可能摊上官司,类似的事情已经不止一次发生,想必关注新闻的朋友都已了解。据CCTV法治在线报道
2025-01-15 17:25:00
史无前例!世界最大核能基地首创“和气一号”能源站
快科技1月15日消息,据报道,位于江苏连云港的田湾核电站,是全球在运+在建总装机容量最大的核电基地 。随着7、8号机组投产
2025-01-15 17:55:00
三星Galaxy S25欧版存储仍为128GB起售!亚洲地区256GB起售
快科技1月15日消息,三星Galaxy S25系列手机即将发布,不同市场的存储配置差异引发关注。据海外科技博主透露的消息来看
2025-01-15 17:55:00
铃木汽车将在印度利用牛粪生产车用沼气燃料 此前曾宣称要建沼气厂
快科技1月15日消息,据媒体报道,日本铃木汽车公司目前正在印度全力利用牛粪生产汽车用沼气燃料。据了解,在2024年12 月 25 日
2025-01-15 17:55:00
男子开火车卧铺车厢带全家自驾游:一辆车住了十几个人
快科技1月15日消息,近日,博主@ 狼先生~(卷儿哥)开着火车卧铺带全家人自驾游的视频,引起网友关注热议。据博主介绍,加上父母他们一行十多人
2025-01-15 18:25:00
2025支付宝集福玩法公布:每人5次!集齐立马开奖 不用等除夕
快科技1月15日消息,今天,支付宝正式官宣了2025支付宝集福玩法。今年的集五福将在1月20日启动,玩法相比以往有明显变化
2025-01-15 18:25:00
诺基亚与三星达成重磅协议!三星电视将用上诺基亚视频技术
快科技1月15日消息,诺基亚与三星签署多年期专利许可协议,三星电视将采用诺基亚视频技术。根据协议,三星将向诺基亚支付专利费用
2025-01-15 18:25:00
你见过活沙币吗
如果你在海滩上赶海时,捡到下图中的“白色圆盘”,你觉得最有可能是什么?是贝壳还是石块,抑或是古老的植物花瓣化石?海滩边上的“死沙币”图源sanddollarshelling真相也许会让你大吃一惊因为你捡到的其实是一枚沙币
2025-01-15 18:25:00
RTX4060游戏本便宜了 翼龙15 Pro双补仅5670元
快科技1月15日消息,机械革命翼龙15 Pro正在天猫旗舰店参加百亿补贴+国家补贴双重补贴活动中,到手价格仅5670.4元
2025-01-15 18:25:00