• 我的订阅
  • 头条热搜
英伟达:CPU已落伍 用GPU训练大语言模型成本可降低96%
IT之家 5 月 29 日消息,根据英伟达在 2023 年台北电脑展会上的演讲,该公司宣称其 GPU 可以大幅降低训练大型语言模型(LLM)的成本和耗能。英伟达首席执行官黄仁勋在演讲中,向 CPU 行业发起了挑战,他认为生成式人工智能和...……更多
前谷歌工程师创业造AI芯片!产品明年问世,已拿到1.8亿融资
...谷歌前员工成立的AI芯片创企MatX浮出水面。MatX正在挑战英伟达在AI芯片领域的霸主地位,其为大语言模型训练而设计的AI芯片将于明年问世。这家公司的官网显示,使用MatX芯片,训练70B大模型的延迟将小于10ms/token。该公司还预...……更多
AI芯片下半场:英伟达不再一家独大
ChatGPT爆火迄今,英伟达被公认为本次全球AI淘金浪潮的最大“卖铲人”,也是各大媒体和社交平台上讨论度最高的一家AI芯片公司。不过,随着AI热潮持续升温,越来越多厂商也开始在AI芯片领域发力:前有英特尔、AMD等半导体...……更多
英伟达地表最强,黄教主被称作AI界“霉霉”
...丨创业邦(ID:ichuangyebang)作者丨Juny编辑丨海腰图源丨英伟达官方好久没有一场大会让整个科技界都如此躁动。今天早间,在位于硅谷San Jose的麦克内里会议中心,英伟达2024 GTC大会标识已被高高挂起,并在下方悬挂着一行醒目...……更多
微软难以摆脱英伟达 |焦点分析
...处理器)Azure Cobalt 100,分别在AI芯片和CPU芯片上正面对刚英伟达和英特尔。2023年3月ChatGPT火热后,英伟达的AI芯片A100、H100便一卡难求,英伟达占据了人工智能芯片市场至少90%的份额。AI芯片是AI时代石油一般的存在。大模型公司...……更多
英伟达推出新一代ai芯片,预计今年晚些时候发货
美东时间3月18日周一,英伟达举办了2024GTCAI大会,被称为今年全球头号人工智能领域开发者大会。这也是英伟达时隔五年首次让年度GTC会议重回线下,被认为是一次重要的AI盛会。在开发者大会上,英伟达创始人兼CEO黄仁勋进行...……更多
OpenAI计划研发自己的AI芯片,已有收购目标
...来研发 GPT-4,AI 芯片等硬件的开发时间也不会短。当前,英伟达的 H100 等 AI 芯片是目前科技领域最有价值的资源之一,因为它们对于训练 ChatGPT 等大型语言模型至关重要。这也让科技巨头们纷纷购入大量 AI 芯片,导致芯片短缺...……更多
Meta首次公布AI芯片细节 功耗低于英伟达
...”研究机构Gartner分析师盛陵海对第一财经记者表示:“英伟达的GPU也可以用于推理,但是效能不一定合适,因为推理需要的算力区别很大,很多时候会浪费算力,就好像重型卡车不适合做保姆车。还是要根据具体应用场景,匹...……更多
GPU受限,国内AI大模型能否交出自己的答卷?
...的算力资源,GPU是大模型的最佳算力发动机。截至目前,英伟达的GPU芯片正在为全球绝大多数的人工智能系统提供最基础的算力支持。那么,在GPU受限的情况下,国内AI行业发展境况如何,能否交出属于他们自己的答卷?未来的...……更多
黄仁勋最新AI宏图:芯片年更、百万GPU集群将至,加速机器人和物理AI时代
...讲中展示Blackwell芯片出品 | 搜狐科技作者 | 梁昌均能超越英伟达的,或许只有英伟达自己。昨日晚间,身价近千亿美元的英伟达CEO黄仁勋在2024台北国际电脑展上发表主题演讲,分享了人工智能时代如何助推全球新产业革命。他...……更多
不光鸡生蛋、蛋也能生鸡?英伟达正测试用生成式AI来帮助研发芯片
仰仗着热销全球的最尖端AI芯片H100,英伟达无疑是年内这轮AI浪潮中最显眼的“弄潮儿”之一。生成式AI的研发需要大量算力的支持,而英伟达的尖端AI芯片则是大语言模型(LLM)开发的首选,几乎垄断了全球算力。那么,如果...……更多
响应速度碾压英伟达,AI芯片领域又出“王炸” 创始人豪言将把计算成本“降至零”
...初创企业在软件层面“争奇斗艳”。而在硬件层面,似乎英伟达已经“一骑绝尘”,该公司生产的GPU芯片“一片难求”,全球AI厂商都争相求购。▲Groq芯片不过就在当地时间20日,初创芯片企业Groq开放了免费试用,其芯片响应速...……更多
烧数亿美元、耗上万颗英伟达 GPU,微软揭秘构建 ChatGPT 背后超级计算机往事 !
...算力构建基础设施的困难与挑战。微软透露,它将上万颗英伟达 A100 芯片连接到一起,并重新设计了服务架构,这使得 OpenAI 能够训练出越来越强大的 AI 模型,同时,也帮助自家解锁了 Bing、Edge 等工具的 AI 功能。据悉,这个项...……更多
英伟达h100gpu交货周期大幅缩短
...消息,据报道,用于人工智能(AI)和高性能计算(HPC)应用的英伟达H100GPU交货周期大幅缩短,从之前的8-11个月缩减至仅3-4个月。这导致一些囤货的公司正在试图出售其过剩的H10080GB处理器,因为现在从亚马逊云服务、谷歌云和微软Az...……更多
英伟达新版旗舰AI芯片售价炒到4万美金 “算力垄断”难被打破
...语言模型带动的芯片需求飙升趋势依然没有平息的迹象。英伟达的最新版旗舰AI芯片H100近日在网上的售价已经被炒到4万多美金,反映了科技行业对训练和部署人工智能软件的需求仍未被满足。受AI芯片需求的提振,英伟达今年以...……更多
解读大模型赋能自动驾驶各个环节及相关产业链玩家的投资机会
...难以复制。而大模型时代,诸多第三方科技巨头如微软、英伟达、百度、商汤等加入自动驾驶行列,可通过提供强大的大模型构建能力以及完善的工具链帮助整车厂构建自己的自动驾驶算法和数据闭环系统,同时依靠大模型的数...……更多
英伟达帝国的一道裂缝
...运算训练的神经网络,一个星期的训练过程中仅用了四颗英伟达Geforce GTX 580。作为参考,谷歌猫用了1000万张图片、16000颗CPU、1000台计算机。传言Google在这一年也秘密参加了比赛,其受到的震撼直接体现在接下来的行动上:Google...……更多
围剿ChatGPT
...Elon Musk)日前也成立了一家人工智能公司X.AI,囤下1万张英伟达A100 GPU(图形处理器)芯片,目标要对抗ChatGPT和其背后的OpenAI公司。GPT的风险问题也引起各国重视,开启了下场调查和监管。3月31日,意大利打响调查ChatGPT第一枪,...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...阶段性答卷,向外界表明自己的野心与实力。有趣的是,英伟达CEO黄仁勋也来到现场,为Azure和英伟达合作的AIfoundryservice站台。纳德拉当着黄仁勋的面发布自研AI芯片,难免让人浮想联翩。英伟达对高算力芯片的垄断,早已成为...……更多
Databricks推出目前最强开源 AI
...RX在整体成绩方面发挥较好,不过目前该模型需要使用4块英伟达H100GPU运行,因此还有待优化空间。 ……更多
AI竞赛推动英伟达股价暴涨超90% 科技巨头承诺将继续“买买买”
科技公司对于人工智能的强劲需求正在推动芯片巨头英伟达的股价暴涨。今年以来,英伟达股价累计涨幅超过了90%,成为美国科技巨头企业中涨幅最大的公司,英伟达市值目前已经超过6800亿美元,高于特斯拉。业内预计,随着...……更多
老黄祭出史上最强 AI 芯片B200!30倍性能提升,AI 迎来新摩尔定律时代|钛媒体AGI
...纱。北京时间3月19日(星期二)凌晨,在年度GTC大会上,英伟达(Nvidia)首席执行官黄仁勋宣布推出AI超级芯片——Blackwell GB200,将于今年晚些时候发货。GB200采用新一代AI GPU(图形处理器)Blackwell,是英伟达A100/H100系列AI GPU的...……更多
微软拟推出人工智能芯片,训练大模型语言
...用于生成式人工智能所需的大型语言模型训练。而这将于英伟达正面竞争,目前英伟达(Nvidia)在此类芯片市场上占据主导地位。值得一提的是,亚马逊、谷歌和Facebook等科技巨头也在自主开发人工智能芯片,但仍需依赖英伟达...……更多
程序员福音 英伟达推出AI编程新模型:代码生成、补全、调试样样精通!
程序员福音 英伟达推出AI编程新模型:代码生成、补全、调试样样精通!快科技2月29日消息,近日英伟达和Hugging Face、ServiceNow一起发布了StarCoder2模型,代码生成、补全、调试样样精通。据介绍,系列模型包括一个ServiceNow训练...……更多
AI“卖铲人”英伟达,为何业绩再爆发?
文:任泽平团队5月22日,英伟达公布创立以来最佳单季度业绩。第一财季实现营收260亿美元,同比增长262%。毛利率78.9%,净利润达到148.1亿美元,同比上升628%。人工智能在2023迎来爆发,生成式AI以ChatGPT为代表掀起全球大模型浪...……更多
比chatgpt强大100万倍!老黄预测未来ai模型
...,一切都与人工智能相关。不少网友认为100万倍的说辞是英伟达面向董事会和股东的“夸大其词”,但实际上也不道理。而在另一边有报告指出,价值约10000美元的A100已成为AI行业最关键工具之一。据说ChatGPT是在大约10000个英伟...……更多
大模型热到芯片暴涨,阿里百度成了英伟达的打工仔
...计,2020年,全世界跑AI的云计算与数据中心,80.6%都在用英伟达的GPU驱动。截至发稿,股价为270美元,比2022年9月时的低点119美元翻了一番,总市值为6669亿美元,成为美国第五大上市公司,比德州仪器、超威半导体(AMD)、高通...……更多
英伟达推出史上最强AI芯片H200:推理性能提升90%,无缘中国市场
...狐科技作者 | 梁昌均在全球算力荒的情况下,AI芯片巨头英伟达加速算力竞赛。当地时间11月13日,英伟达宣布推出新一代人工智能芯片H200,称其是目前世界“最强”的AI芯片。H200此次升级主要体现在带宽更高、容量更大的内存...……更多
英伟达带来最强AI芯片,但赶超苹果又远了一步?
作者:赵晋杰、编辑:王靖,原标题《英伟达带来最强AI芯片,资本市场却泼了点冷水》,题图来自:视觉中国在股价上呈现追赶苹果之势的英伟达,先在产品上学了苹果一招。北京时间3月19日对外发布的B200 GPU芯片上,英伟达...……更多
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
昨天凌晨,英伟达发布了2024财年第四季度财报,业绩再次超出预期。但比起亮眼的业绩,更让人印象深刻的是,英伟达在财报电话会议的一个观点:推理端的爆发,可能很多人还是低估了。据英伟达电话会议披露,公司全年数...……更多
更多关于科技的资讯:
全国高温前十浙江占7位:气温冲上38℃
7月19日消息,据媒体报道,截至7月18日12时,全国高温实况排行榜的前十名中,有7地位于浙江,这7地分别是北仑、奉化
2024-07-19 00:21:00
千元档全能手机麦芒30发布:续航能力、耐摔性能、ai智慧体验
随着夏日的热情与暑期的到来,一场说走就走的旅行成为许多人心中的向往。而在这场旅行中,一款既能满足续航需求,又能提供卓越智能体验的智能手机
2024-07-19 00:30:00
江南时报讯 近日,兴化农商银行成功上线项目生命周期管理系统(PLC系统)。该系统集项目管理、流程控制、文档管理于一体,能够对项目建设中“数据
2024-07-19 00:33:00
小米14ultra手机专用“兔笼”正式上市
7月18日消息,斯莫格今天宣布,小米14Ultra手机专用的拓展框(又称“兔笼”)正式上市。据介绍,该设备可简单快捷拓展丰富的功能附件
2024-07-19 00:43:00
7月18日,海伦司在其官网发布《建议于新加坡交易所第二上市的预计上市日期》公告。公告显示,在符合上市资格函的条件下,公司预期其普通股将于2024年7月19日于新交所上市并开始交易
2024-07-19 00:48:00
7月18日,博鳌亚洲论坛全球健康论坛第三届大会举办“将健康老龄化理念融入经济社会发展全过程”分论坛。会上披露的数据显示
2024-07-19 00:49:00
中国药械出海
7月18日,博鳌亚洲论坛全球健康论坛第三届大会“创新药械出海新机制”分论坛举行。北京商报记者从会上了解到,2015—2019年期间
2024-07-19 00:49:00
雷军第5次年度演讲预计3个半小时!小米MIX Fold 4等超多新品发布提前看
快科技7月19日消息,雷军第5次年度演讲将于今天19:00举办,雷军将在演讲中讲述造车的来龙去脉和这三年多跌宕起伏的故事
2024-07-19 00:51:00
华为pura70ultra超聚光伸缩摄像头背后的故事
随着消费者对高质量影像需求的不断增长,手机摄像头经历了多次技术革新。从最初的单镜头设计到如今的多镜头组合,每一次升级都带来了更强大的拍摄能力和更丰富的功能
2024-07-19 01:09:00
华为pura70系列手机影像效果堪比传统专业电影设备拍摄
影创作一直以来都是专业人士的专属领域,但随着科技的进步,尤其是手机影像技术的飞跃,手机电影成为一门新兴的艺术。近日上映的《化境》便是一部典型的例子
2024-07-19 01:13:00
安乐死升级!瑞士死亡自助舱 躺在3D胶囊里结束自己
近日,瑞士一个“协助死亡”组织对外声称:一种便携式的死亡自助舱,很快将在瑞士正式投入使用。这款死亡自助舱,号称是“安乐死界特斯拉”
2024-07-19 01:21:00
小米mixfold4配置全面曝光
相比前几年来说,如今的折叠屏手机其实已经不算是一个新鲜玩意了,毕竟主流的手机厂商推出了折叠屏手机产品,都已经迭代3代甚至4代了
2024-07-19 01:29:00
千元机市场注入新的活力,麦芒30开启ai智慧新篇章
在千元机市场中,每一款新品的发布都可能改写竞争格局。麦芒30的横空出世,无疑成为了这一细分市场的重磅选手。这款手机不仅首次搭载了星辰大模型
2024-07-19 01:36:00
超续航、巨抗造、真臻彩麦芒30发布
7月18日,麦芒系列再添力作,定位“超续航、巨抗造、真臻彩”的麦芒30正式发布,售价1999元起。这款千元档最强全能手机
2024-07-19 01:38:00
鸿蒙原生版芒果tv来了!
在视频App上追剧看电影,应该是很多小伙伴们最喜欢的娱乐方式。在追完热门影视剧后,许多小伙伴可能陷入“片荒”,开始追一些经典老片
2024-07-19 02:12:00