• 我的订阅
  • 头条热搜
谷歌推出第五代AI芯片:训练和运行AI模型的速度提高5倍
·谷歌第五代定制张量处理器(TPU)芯片TPU v5e用于大模型训练和推理,训练和运行AI模型的速度提高了5倍。与上一代芯片相比,TPU v5e每一美元的训练性能提高2倍,每一美元的推理性能提高2.5倍。谷歌第五代定制张量处理器(TPU...……更多
前谷歌工程师创业造AI芯片!产品明年问世,已拿到1.8亿融资
...9日消息,本周二,据彭博社报道,由谷歌前员工成立的AI芯片创企MatX浮出水面。MatX正在挑战英伟达在AI芯片领域的霸主地位,其为大语言模型训练而设计的AI芯片将于明年问世。这家公司的官网显示,使用MatX芯片,训练70B大模...……更多
小模型正在成为AI界的新宠
...一方面,随着计算能力的大幅提升,特别是 GPU 和专用 AI 芯片(如 TPU)的发展,使得训练更大规模的模型成为可能;新的模型架构和训练技术的出现,如 Transformer 架构和预训练技术,使得模型能够更有效地扩展到更大的规模。...……更多
掰开安卓手机 满屏都是三个字:大模型
...大模型当场塞进手机系统……其竞争激烈程度,不亚于抢芯片首发。到底是怎么回事?究其原因,还是智能终端已经成为了各类AIGC应用的落地“新滩头”。先是图像生成大模型接二连三地被塞进手机,从十亿参数的StableDiffusion...……更多
响应速度碾压英伟达,AI芯片领域又出“王炸” 创始人豪言将把计算成本“降至零”
...视觉震撼时,AI圈又出了一个“王炸”产品,这一次是在芯片领域。自从AI赛道大热以来,人们的关注点主要在各种大模型的竞争,OpenAI、谷歌、Meta等巨头和各种初创企业在软件层面“争奇斗艳”。而在硬件层面,似乎英伟达已...……更多
谷歌推出其最先进AI模型Gemini,希望击败GPT-4
...表现相当出色。”与新模型一起亮相的,还有新版本的TPU芯片TPU v5p,旨在减少训练大语言模型相关的时间投入。TPU是谷歌为神经网络设计的专用芯片,经过优化可加快机器学习模型的训练和推断速度,谷歌于2016年起开始推出第...……更多
硅谷大模型“价格战”上演,一味“卷”价格会有未来吗?
...每经制图除了“拼”模型调用价格,有媒体指出,硅谷AI芯片公司正以加快模型推理速度——即每秒生成Token的数量——以吸引客户。例如,美国芯片厂商Groq公司专注于提高每秒生成Token的数量,以此作为其主要的市场竞争点。...……更多
GPT-4被破解 训练成本 模型架构的秘密都被挖出来了?
... GPU 的几代生命周期中,Nvidia 不断更新低级软件,通过在芯片周围、芯片和内存之间更智能地移动数据来提高 FLOPS 利用率。目前大多数用例中的 LLM 推理都是作为实时助手运行,这意味着它必须实现足够高的吞吐量,以便用户可...……更多
携手华为,科大讯飞打造中国通用智能新底座
...速增长的态势,而另一方面却是支撑AI核心算力的高端GPU芯片面临短缺,算力吃紧的问题。尤其是国内蓬勃发展的大模型,对于算力的需求相当迫切。科大讯飞高级副总裁、认知智能全国重点实验室主任胡国平表示“国产大模型...……更多
微软推出自研AI芯片:台积电5nm工艺、Open AI开启试用,想摆脱对英伟达依赖?
...时代带来的强劲算力需求,越来越多的科技巨头开始自研芯片,三年前入局的微软也终于交出成果。在当地时间周三举行的Microsoft Ignite全球技术大会上,微软正式发布首款自研AI芯片和云计算处理器,试图竞争越发激烈的AI计算...……更多
微软被曝未来3年花1000亿美金囤芯片;杨元庆:AI不是取代人类的智能|钛媒体AGI
...。另外,有消息指,微软公司计划到2024年底储备180万块AI芯片,这意味着微软今年计划储备的图形处理单元(GPU)的数量增加了两倍。到2027财年,微软预计将在GPU和数据中心上投资约1000亿美元。4月18日,联想集团董事长兼CEO杨...……更多
李彦宏:AI原生应用比大模型数量更重要
...,人工智能时代,IT技术栈发生了根本性改变,从原来的芯片、操作系统和应用三层架构,变成了芯片、框架、模型、应用四层架构:底层是芯片层,主流芯片从CPU变成了GPU。芯片之上是框架层,主流框架包括百度飞桨,Meta的PyT...……更多
训练一次ChatGPT,“折寿”3000辆特斯拉
...的规模,是拉高大模型能耗的主要因素。其中AI处理器和芯片,是产生能耗最主要的地方,一位信息和通信技术从业者告诉虎嗅,CPU 和GPU 的功耗通常占服务器整机的80%。不过和普通服务器750W到1200W的标准功耗相比,AI服务器由于...……更多
从0到1:国产化千卡集群的一小步,AI算力主动权的一大步
...长3倍,再加上GPU供应存在“看不见的手”在干扰,算力芯片的供求缺口相当巨大。焦虑泛滥处,怪象频生时。“N卡难求”引发抢购、囤货风潮,而市场中也很难找到直接对标国际巨头单卡性能的产品。其实,对于单卡性能的执...……更多
疯狂一夜!美国AMD、谷歌纷纷亮出大杀器,人类迎来巨变前夜?|钛媒体焦点
...和Nano(中杯),将全面内置最新、最强大的自研 AI 超算芯片Cloud TPU v5p。谷歌表示,在六项基准测试中,大杯的Gemini Pro性能表现优于GPT-3.5;而在30项性能基准测试中,超大杯Gemini Ultra超越了目前最强模型GPT-4。甚至,Gemini Ultra在.……更多
最强大模型训练芯片H200发布!
英伟达老黄,带着新一代GPU芯片H200再次炸场。官网毫不客气就直说了,“世界最强GPU,专为AI和超算打造”。听说所有AI公司都抱怨内存不够?这回直接141GB大内存,与H100的80GB相比直接提升76%。作为首款搭载HBM3e内存的GPU,内存...……更多
微软、谷歌、亚马逊 正在打响大模型时代的云战争
...巨头们砸下真金白银,研发大模型、战略投资、自研 AI 芯片……大模型的时代方兴未艾,他们已经瞄准了新一代的 AI 软件客户。昔日的江山远非牢不可破,云市场正在快速洗牌,巨头们拉开了全新的竞争大幕。毕竟,移动互联...……更多
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
...伟达正在建立一个专注于为云计算、AI等领域设计ASIC专用芯片的新业务部门。之所以英伟达要布局ASIC,正是因为其看到了即将爆发的推理市场,不想出让这块即将到来的大蛋糕。在他们看来,凭借在能耗和性能方面的优势,ASIC...……更多
林达华谈大模型发展之路:未来会有更高效的模型结构出现
...、反思能力和执行能力。在计算环境方面,林达华表示,芯片进入到后摩尔定律时代,未来算力会变成体量的拓展,越来越多的芯片连接在一起,建成越来越大的计算中心,支撑对通用人工智能的追求。最终瓶颈不再是芯片,而...……更多
英特尔发布中国特供版7nm AI芯片Gaudi2,减少RDMA接口以符合出口管制规定|硅基世界
...,其强劲对手准备在国内入局。钛媒体App获悉,7月11日,芯片巨头英特尔公司(Intel)发布面向中国市场、采用台积电7nm工艺的第二代Gaudi深度学习加速器Habana Gaudi2。新的Gaudi2可便捷扩展、可运行大语言模型,加速AI训练及推理...……更多
大模型下沉,汽车需要存算一体芯片|超级观点
...然而,在传统的冯诺依曼架构下,存储和运算是分离的,芯片大概有80%-90%的功耗浪费在数据的存储和计算之间的搬运,而非计算上。 此外,当大模型逐渐向智能汽车、电脑、手机等边缘端下沉,行业需要能运行大模型的算力芯...……更多
AGI一日要闻:台积电预测2040年GPU芯片性能提升1000倍;Scale估值高达130亿美金
...科学家H.-S Philip Wong讲述了台积电是如何达成1万亿晶体管芯片的目标。文章指出,从1997年击败国际象棋人类冠军的IBM深蓝超级计算机,到2023年爆火的ChatGPT,再过15年,人工智能(AI)将发展到可以“合成知识”(synthesize knowledge...……更多
老黄祭出史上最强 AI 芯片B200!30倍性能提升,AI 迎来新摩尔定律时代|钛媒体AGI
黄仁勋终于揭开了全球最强人工智能(AI)芯片的神秘面纱。北京时间3月19日(星期二)凌晨,在年度GTC大会上,英伟达(Nvidia)首席执行官黄仁勋宣布推出AI超级芯片——Blackwell GB200,将于今年晚些时候发货。GB200采用新一代AI...……更多
大模型这把大火,烧到了手机领域
...子行业整体表现低迷,各路手机厂商都在极力搞创新。从芯片到外观再到续航,很多手机厂商均有涉足。不过,相较于几年前围绕NPU的“小打小闹”,生成式AI无疑让整个消费电子产业看到了曙光:在全民都在讨论大模型的环境...……更多
GPU受限,国内AI大模型能否交出自己的答卷?
...,GPU是大模型的最佳算力发动机。截至目前,英伟达的GPU芯片正在为全球绝大多数的人工智能系统提供最基础的算力支持。那么,在GPU受限的情况下,国内AI行业发展境况如何,能否交出属于他们自己的答卷?未来的发展是否会...……更多
沙特和阿联酋推进AI战略:抢购英伟达芯片,吸收中国人才
...通过阿卜杜拉国王科技大学购买了至少3000块英伟达的H100芯片,总价值约1.2亿美元,将于2023年底交付。该大学将使用这些芯片构建自己的大语言模型。·阿联酋国有技术创新研究所开发了自己的开源大语言模型Falcon,曾是“开源...……更多
无惧限制 Intel为中国公司定制了一张AI大模型入场券
一款名叫Gaudi2的AI芯片,2022年和2023年英特尔都为其开了一场发布会,为什么?有两个方面的原因,一个在当前国际形势下的合规之举,另一个在生成式AI热潮下亮出的入场券。这里的入场券有两层含义,一层含义是对正在四处...……更多
手机市场深陷泥沼,厂商如何破冰?
...8~24个月,集成电路上可容纳的元器件数目将增加一倍,芯片的性能也将随之翻一番。手机行业的飞速发展离不开芯片,2021年末,全球半导体先进制程之战火花四射,MTK和高通不约而同的打响了4nm手机芯片的第一枪,这些逐渐...……更多
Meta连甩AI加速大招 首推AI推理芯片 AI超算专供大模型训练
...代基础设施的最新进展,包括首款用于运行AI模型的定制芯片、一个全新的AI优化数据中心设计、首款视频转码ASIC,以及集成16000块GPU、用于加速AI训练的AI超级计算机RSC等。Meta官网关于AI基础设施细节的披露Meta将AI视为公司的核...……更多
英伟达地表最强,黄教主被称作AI界“霉霉”
...Taylor Swift。”一位人工智能粉丝会后如是说。 地表最强芯片亮相过去几年,英伟达曾在GTC上推出了基于Hopper架构的多款重磅明星产品,目前市面上能叫得上名字得人工智能模型几乎都是在该架构上进行训练,行业内“一芯难求...……更多
更多关于科技的资讯:
人民网“福建金融舆情管理共享平台”上线 打造金融舆情服务新模式
本文转自:人民网金融是国民经济的血脉,是国家核心竞争力的重要组成部分。日前,中央金融工作会议要求,各地区各部门要扎实做好加强金融监管
2024-06-26 20:22:00
更轻更节能!全球首列商用碳纤维地铁列车在青岛发布
本文转自:人民日报客户端侯琳良6月26日,中车青岛四方机车车辆股份有限公司联合青岛地铁集团为青岛地铁1号线研制的碳纤维地铁列车“CETROVO1
2024-06-26 22:42:00
蔚来车主踩断加速踏板 官方回应:车辆曾发生严重碰撞事故
快科技6月26日消息,说一个很多人可能想不到的冷知识,汽车的加速踏板并非金属,是有可能被踩断的,特殊情况下也会自己断裂
2024-06-26 16:07:00
美团忽视的闲时生意:被抖音做火了
快科技6月26日消息,在本地生活服务领域,抖音通过创新的"错峰特惠"活动,巧妙捡起了美团忽视的闲时生意。想象一下,一家店有时候人头攒动
2024-06-26 16:07:00
@高考生,新能源汽车大佬们喊你来选专业啦
‍‍‍‍近日,工信部发布的《制造业人才发展规划指南》显示,到2025年,我国新能源汽车产业的人才缺口可达103万人。其中
2024-06-26 16:11:00
千余家企业参展 第27届青岛国际机床展览会启幕
宋祖锋青岛报道6月26日,第27届青岛国际机床展览会和第7届中日韩智能制造大会在青岛市即墨区启幕。本次展览会为期五天,将深度聚焦中日韩智能制造前沿
2024-06-26 16:12:00
青岛发布全球首列商用碳纤维地铁:重量更轻 年内载客
快科技6月26日消息,全球首列商业化运营的碳纤维地铁列车“CETROVO 1.0 碳星快轨”今日在青岛正式发布。该列车由中车四方股份公司与青岛地铁集团联合研制
2024-06-26 16:22:00
7分10秒!疑小米SU7纽北圈速曝光:比奔驰AMG GT R还快
快科技6月26日消息,小米SU7已经前往世界最为知名的纽北赛道测试,近日,有网友曝光了该车的成绩,其称自己就在现场观看
2024-06-26 16:22:00
腾讯QQ的“祖师爷”!聊天软件鼻祖ICQ今日正式停止服务
快科技6月26日消息,聊天软件鼻祖ICQ在5月份发表公告称,将于6月26日关闭,建议用户改用VK Messenger。ICQ官网今天显示“Service stopped working”
2024-06-26 16:22:00
探店经济激发消费新活力 短视频、直播让餐饮酒旅更巴适四川新闻网成都6月26日讯在数字化浪潮下,抖音等短视频和直播平台已成为人们获取信息
2024-06-26 16:22:00
设计大咖齐聚2024科勒 · 设计上海设计论坛
2024年6月19日(中国,上海)——亚洲权威设计盛会「设计上海」2024于上海世博展览馆盛大开幕,汇聚世界设计力量,见证全球设计新高度
2024-06-26 16:23:00
同一角色两套穿搭!美女COS老头环人物反差感十足
借着《艾尔登法环:黄金树幽影》发售后的热度,围绕游戏中的女角色,例如女武神玛莲妮亚、永恒女王玛莉卡、梅琳娜的COS作品在近期也涌现了出来
2024-06-26 16:37:00
光存储第一股!紫晶存储因欺诈发行退市被追偿10.86亿元
快科技6月26日消息,据媒体报道,紫晶存储发布公告称,收到中信建投、致同会计师事务所、容诚会计师事务所和广东恒益律师事务所等的诉讼材料
2024-06-26 16:52:00
万元折叠屏机皇降临!三星Galaxy全球发布会前瞻
三星公司官宣将于北京时间7月10日21点在法国巴黎举办Galaxy全球新品发布会。本次活动全程网络直播,将会发布Galaxy Z Fold6
2024-06-26 16:52:00
两栋大厦几乎搬空 完美世界回应大规模裁员
快科技6月26日消息,针对近期网络传言关于完美世界启动大规模裁员的消息,公司今日作出回应,确认此举为必要的人员结构优化
2024-06-26 16:52:00