• 我的订阅
  • 头条热搜
英伟达:CPU已落伍 用GPU训练大语言模型成本可降低96%
IT之家 5 月 29 日消息,根据英伟达在 2023 年台北电脑展会上的演讲,该公司宣称其 GPU 可以大幅降低训练大型语言模型(LLM)的成本和耗能。英伟达首席执行官黄仁勋在演讲中,向 CPU 行业发起了挑战,他认为生成式人工智能和...……更多
微软、英伟达纷纷押注小模型,大模型不香了?
...“越大越好”的观念。视觉中国当地时间8月21日,微软和英伟达相继发布了最新的小型语言模型——Phi-3.5-mini-instruct和 Mistral- NeMo- Minitron8B。这两款模型的主要卖点是它们在计算资源使用和功能表现之间实现了良好的平衡。在某...……更多
前谷歌工程师创业造AI芯片!产品明年问世,已拿到1.8亿融资
...谷歌前员工成立的AI芯片创企MatX浮出水面。MatX正在挑战英伟达在AI芯片领域的霸主地位,其为大语言模型训练而设计的AI芯片将于明年问世。这家公司的官网显示,使用MatX芯片,训练70B大模型的延迟将小于10ms/token。该公司还预...……更多
AI芯片下半场:英伟达不再一家独大
ChatGPT爆火迄今,英伟达被公认为本次全球AI淘金浪潮的最大“卖铲人”,也是各大媒体和社交平台上讨论度最高的一家AI芯片公司。不过,随着AI热潮持续升温,越来越多厂商也开始在AI芯片领域发力:前有英特尔、AMD等半导体...……更多
机器人训练更高效低成本!英伟达官宣Isaac Sim4.2,性能翻了一倍
...瞻12月4日报道,这两天,在亚马逊云科技re:Invent大会上,英伟达宣布推出了Isaac Sim 4.2。Isaac Sim 是基于 NVIDIA Omniverse 开发的功能强大的仿真平台,供开发人员在基于物理的虚拟环境中模拟和测试 AI 驱动的机器人。英伟达表示,Isa...……更多
英伟达地表最强,黄教主被称作AI界“霉霉”
...丨创业邦(ID:ichuangyebang)作者丨Juny编辑丨海腰图源丨英伟达官方好久没有一场大会让整个科技界都如此躁动。今天早间,在位于硅谷San Jose的麦克内里会议中心,英伟达2024 GTC大会标识已被高高挂起,并在下方悬挂着一行醒目...……更多
微软难以摆脱英伟达 |焦点分析
...处理器)Azure Cobalt 100,分别在AI芯片和CPU芯片上正面对刚英伟达和英特尔。2023年3月ChatGPT火热后,英伟达的AI芯片A100、H100便一卡难求,英伟达占据了人工智能芯片市场至少90%的份额。AI芯片是AI时代石油一般的存在。大模型公司...……更多
影响英伟达根本逻辑的大争论:OpenAI改变策略意味着什么?谁在撒谎?
...型预训练“缩放定律”定律失效?模型推理成“解药”,英伟达一家独大格局要变天?“缩放定律”指导下,AI大模型预训练目前遭遇瓶颈。据路透12日报道,硅谷主要AI实验室的新模型训练计划目前普遍进展不顺,新模型训练遭...……更多
英伟达推出新一代ai芯片,预计今年晚些时候发货
美东时间3月18日周一,英伟达举办了2024GTCAI大会,被称为今年全球头号人工智能领域开发者大会。这也是英伟达时隔五年首次让年度GTC会议重回线下,被认为是一次重要的AI盛会。在开发者大会上,英伟达创始人兼CEO黄仁勋进行...……更多
OpenAI计划研发自己的AI芯片,已有收购目标
...来研发 GPT-4,AI 芯片等硬件的开发时间也不会短。当前,英伟达的 H100 等 AI 芯片是目前科技领域最有价值的资源之一,因为它们对于训练 ChatGPT 等大型语言模型至关重要。这也让科技巨头们纷纷购入大量 AI 芯片,导致芯片短缺...……更多
Meta首次公布AI芯片细节 功耗低于英伟达
...”研究机构Gartner分析师盛陵海对第一财经记者表示:“英伟达的GPU也可以用于推理,但是效能不一定合适,因为推理需要的算力区别很大,很多时候会浪费算力,就好像重型卡车不适合做保姆车。还是要根据具体应用场景,匹...……更多
“苹果智能”仅面向付费开发者,三大新模块炸裂出圈
...于谷歌设计的TPU(张量处理单元),而非业界广泛使用的英伟达GPU。记者注意到,谷歌TPU的价格相对有竞争力,在三年预订期内,最新型号产品每颗芯片每小时(训练)成本不到2美元。并且,与英伟达的独立芯片相比,谷歌TPU...……更多
GPU受限,国内AI大模型能否交出自己的答卷?
...的算力资源,GPU是大模型的最佳算力发动机。截至目前,英伟达的GPU芯片正在为全球绝大多数的人工智能系统提供最基础的算力支持。那么,在GPU受限的情况下,国内AI行业发展境况如何,能否交出属于他们自己的答卷?未来的...……更多
黄仁勋最新AI宏图:芯片年更、百万GPU集群将至,加速机器人和物理AI时代
...讲中展示Blackwell芯片出品 | 搜狐科技作者 | 梁昌均能超越英伟达的,或许只有英伟达自己。昨日晚间,身价近千亿美元的英伟达CEO黄仁勋在2024台北国际电脑展上发表主题演讲,分享了人工智能时代如何助推全球新产业革命。他...……更多
不光鸡生蛋、蛋也能生鸡?英伟达正测试用生成式AI来帮助研发芯片
仰仗着热销全球的最尖端AI芯片H100,英伟达无疑是年内这轮AI浪潮中最显眼的“弄潮儿”之一。生成式AI的研发需要大量算力的支持,而英伟达的尖端AI芯片则是大语言模型(LLM)开发的首选,几乎垄断了全球算力。那么,如果...……更多
响应速度碾压英伟达,AI芯片领域又出“王炸” 创始人豪言将把计算成本“降至零”
...初创企业在软件层面“争奇斗艳”。而在硬件层面,似乎英伟达已经“一骑绝尘”,该公司生产的GPU芯片“一片难求”,全球AI厂商都争相求购。▲Groq芯片不过就在当地时间20日,初创芯片企业Groq开放了免费试用,其芯片响应速...……更多
烧数亿美元、耗上万颗英伟达 GPU,微软揭秘构建 ChatGPT 背后超级计算机往事 !
...算力构建基础设施的困难与挑战。微软透露,它将上万颗英伟达 A100 芯片连接到一起,并重新设计了服务架构,这使得 OpenAI 能够训练出越来越强大的 AI 模型,同时,也帮助自家解锁了 Bing、Edge 等工具的 AI 功能。据悉,这个项...……更多
英伟达h100gpu交货周期大幅缩短
...消息,据报道,用于人工智能(AI)和高性能计算(HPC)应用的英伟达H100GPU交货周期大幅缩短,从之前的8-11个月缩减至仅3-4个月。这导致一些囤货的公司正在试图出售其过剩的H10080GB处理器,因为现在从亚马逊云服务、谷歌云和微软Az...……更多
英伟达新版旗舰AI芯片售价炒到4万美金 “算力垄断”难被打破
...语言模型带动的芯片需求飙升趋势依然没有平息的迹象。英伟达的最新版旗舰AI芯片H100近日在网上的售价已经被炒到4万多美金,反映了科技行业对训练和部署人工智能软件的需求仍未被满足。受AI芯片需求的提振,英伟达今年以...……更多
英伟达发布Llama-3.1-Nemotron-51B AI 模型
IT之家 9 月 25 日消息,英伟达 9 月 23 日发布博文,宣布推出 Llama-3.1-Nemotron-51B AI 模型,源自 Meta 公司的 Llama-3.1-70B,不过创新使用神经架构搜索(NAS)方法,建立了一个高度准确和高效的模型。Llama-3.1-Nemotron-5……更多
芯片集群「贵」出天际,10年内单个集群价值将达万亿美元
...,在25年前,这是一个巨大的市场。为了满足这一需求,英伟达率先设计了一种新型芯片,即图形处理器(GPU),在这种芯片上布置并连接晶体管,使其能够同时进行大量矩阵乘法运算。与大多数中央处理器(CPU)相比,GPU可以...……更多
英伟达帝国的一道裂缝
...运算训练的神经网络,一个星期的训练过程中仅用了四颗英伟达Geforce GTX 580。作为参考,谷歌猫用了1000万张图片、16000颗CPU、1000台计算机。传言Google在这一年也秘密参加了比赛,其受到的震撼直接体现在接下来的行动上:Google...……更多
围剿ChatGPT
...Elon Musk)日前也成立了一家人工智能公司X.AI,囤下1万张英伟达A100 GPU(图形处理器)芯片,目标要对抗ChatGPT和其背后的OpenAI公司。GPT的风险问题也引起各国重视,开启了下场调查和监管。3月31日,意大利打响调查ChatGPT第一枪,...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...阶段性答卷,向外界表明自己的野心与实力。有趣的是,英伟达CEO黄仁勋也来到现场,为Azure和英伟达合作的AIfoundryservice站台。纳德拉当着黄仁勋的面发布自研AI芯片,难免让人浮想联翩。英伟达对高算力芯片的垄断,早已成为...……更多
Databricks推出目前最强开源 AI
...RX在整体成绩方面发挥较好,不过目前该模型需要使用4块英伟达H100GPU运行,因此还有待优化空间。 ……更多
AI竞赛推动英伟达股价暴涨超90% 科技巨头承诺将继续“买买买”
科技公司对于人工智能的强劲需求正在推动芯片巨头英伟达的股价暴涨。今年以来,英伟达股价累计涨幅超过了90%,成为美国科技巨头企业中涨幅最大的公司,英伟达市值目前已经超过6800亿美元,高于特斯拉。业内预计,随着...……更多
老黄祭出史上最强 AI 芯片B200!30倍性能提升,AI 迎来新摩尔定律时代|钛媒体AGI
...纱。北京时间3月19日(星期二)凌晨,在年度GTC大会上,英伟达(Nvidia)首席执行官黄仁勋宣布推出AI超级芯片——Blackwell GB200,将于今年晚些时候发货。GB200采用新一代AI GPU(图形处理器)Blackwell,是英伟达A100/H100系列AI GPU的...……更多
微软拟推出人工智能芯片,训练大模型语言
...用于生成式人工智能所需的大型语言模型训练。而这将于英伟达正面竞争,目前英伟达(Nvidia)在此类芯片市场上占据主导地位。值得一提的是,亚马逊、谷歌和Facebook等科技巨头也在自主开发人工智能芯片,但仍需依赖英伟达...……更多
程序员福音 英伟达推出AI编程新模型:代码生成、补全、调试样样精通!
程序员福音 英伟达推出AI编程新模型:代码生成、补全、调试样样精通!快科技2月29日消息,近日英伟达和Hugging Face、ServiceNow一起发布了StarCoder2模型,代码生成、补全、调试样样精通。据介绍,系列模型包括一个ServiceNow训练...……更多
AI“卖铲人”英伟达,为何业绩再爆发?
文:任泽平团队5月22日,英伟达公布创立以来最佳单季度业绩。第一财季实现营收260亿美元,同比增长262%。毛利率78.9%,净利润达到148.1亿美元,同比上升628%。人工智能在2023迎来爆发,生成式AI以ChatGPT为代表掀起全球大模型浪...……更多
更多关于科技的资讯:
曝华为Pura 80 Art有望回归:旗舰手机设计标杆
快科技12月28日消息,博主定焦数码暗示,华为Pura 80 Art有望回归,定位跟非凡大师系列类似。资料显示,华为2023年3月推出了P60 Art
2024-12-28 23:09:00
农业银行全疆首家贵金属旗舰店亮相 市民可一站式“淘金”
新疆网讯 12月27日, 由中国农业银行乌鲁木齐分行打造的全疆首家贵金属旗舰店,在农业银行乌鲁木齐天山区支行正式营业,消费者可一站式获得贵金属鉴赏
2024-12-28 22:27:00
57岁阿姨演短剧:享受与年轻人竞争的乐趣
12月28日消息,据媒体报道,最近一段时间,微短剧走红网络,这些剧涉及的题材五花八门,以快节奏、高密度、强冲突、多反转著称
2024-12-28 22:39:00
国际知名动漫平台中国首店落户南京,打造二次元新地标
江南时报讯(记者 邓雯婷)12月28日上午,国际知名动漫平台“布雷福思朵”中国大陆首店在南京夫子庙水游城落户,吸引了众多动漫迷与消费者的关注
2024-12-28 22:46:00
“地下51米的南京”刷屏 网友直呼犹如飞龙在天
快科技12月28日消息,今天,南京地铁7号线中段正式开通运营,标志着全线实现贯通。其中,清凉山站作为南京最深的地铁站,一经亮相便在南京人的朋友圈里刷屏
2024-12-28 20:09:00
16岁男孩每天只睡5小时头秃了 医生:睡眠不足 精神压力大导致
12月28日消息,微博话题“16岁男孩每天只睡5小时头先秃了”引发热议。据媒体报道,16岁的小周由妈妈带至医院脱发门诊就诊
2024-12-28 20:09:00
华为之后全球第二家!三星三折叠屏曝光
快科技12月28日消息,博主定焦数码爆料,除华为外,目前只有三星在布局三折叠屏,其他家都没有三折或者折叠PC的计划,不过三星三折叠屏难以做到大规模的铺货
2024-12-28 20:39:00
00后女孩独自一人野外露营 帐篷内烧炭取暖差点殒命
据湖南消防12月28日消息,近日,湖南省郴州市桂东县发生了一起紧急救援事件。一名女子在深夜拨打报警电话,声音急促且含糊不清
2024-12-28 21:09:00
2024贺岁档票房破25亿:《小小的我》成黑马
快科技12月28日消息,据灯塔专业版,截至今晚19时09分,2024年贺岁档(11月22日—12月31日)档期票房(含预售)突破25亿
2024-12-28 21:09:00
量增价低持续 快递业争降本:预计明年无人车无人机应用加速
2024年,快递件量已突破1500亿件,增速仍高。国家邮政局本月公布的数据显示,今年1-11月,快递业务量累计完成1572
2024-12-28 22:09:00
男子开小米SU7一年游历38个国家:倍感自豪 此生无憾
快科技12月28日消息,今天,小米汽车正式步入一周年。与此同时,“小米车主故事”专栏正式开启,记录真实美好的个人故事,他们也许职业不同
2024-12-28 17:09:00
警惕超大显存的魔改显卡:买了就后悔
如果比较关注低价显卡,你或许会发现最近的魔改显卡多了好多,尤其是某鱼有很多超大显存的显卡,比如860元的魔改RX5600拥有12GB显存
2024-12-28 17:09:00
国产芯新成就!飞腾系列国产CPU总销量突破1000万片
快科技12月28日消息,据官方公布消息显示,中国电子飞腾系列国产CPU总销量突破1000万片。中国电子飞腾系列国产CPU总销量近日突破1000万片
2024-12-28 17:09:00
在如今蓬勃发展的手游市场中,手游联运平台成为了众多游戏从业者关注的焦点。那么,手游联运平台究竟有哪些独特的玩法呢?首先
2024-12-28 17:10:00
本文转自:人民网嫦娥六号月球背面“挖宝”归来、中国空间站上演两次在轨“换班”、长三乙火箭跨入“百次发射俱乐部”....
2024-12-28 17:17:00