• 我的订阅
  • 头条热搜
GTC对话黄仁勋:我眼中的GPU,和别人有很大差别
...用了 Transformer 注意力机制,但模型与模型之间存在巨大差别。有的模型用了混合专家模型(Mixture of Experts),混合模型里有的是两个专家模型,有的是四个专家模型,这些模型等待消息,以及路由分发,里面的一切步骤都不同...……更多
对话|黄仁勋回应中国市场和AI芯片定价问题 称英伟达市值合理
当地时间3月19日上午,英伟达创始人CEO黄仁勋接受全球媒体采访。他对包括第一财经在内的记者表示,全球数据中心市场规模去年就达到2500亿美元左右,并以20%至25%的速度增长,而这正是英伟达的市场机会所在。针对有媒体援...……更多
微软难以摆脱英伟达 |焦点分析
...处理器)Azure Cobalt 100,分别在AI芯片和CPU芯片上正面对刚英伟达和英特尔。2023年3月ChatGPT火热后,英伟达的AI芯片A100、H100便一卡难求,英伟达占据了人工智能芯片市场至少90%的份额。AI芯片是AI时代石油一般的存在。大模型公司...……更多
英伟达推出新一代ai芯片,预计今年晚些时候发货
美东时间3月18日周一,英伟达举办了2024GTCAI大会,被称为今年全球头号人工智能领域开发者大会。这也是英伟达时隔五年首次让年度GTC会议重回线下,被认为是一次重要的AI盛会。在开发者大会上,英伟达创始人兼CEO黄仁勋进行...……更多
开源社区分水岭:Meta大模型Llama 3发布,参数最高或达4000亿
...官方Web版本Meta AI。目前,该平台仍处于初级阶段,只有对话和绘画两大功能。用户使用对话功能无需通过注册,使用绘画功能则需要用户注册登录账号。为开源社区注入活力Meta的AI道路向来与开源紧密相连,Llama 3一经推出,受...……更多
前谷歌工程师创业造AI芯片!产品明年问世,已拿到1.8亿融资
...谷歌前员工成立的AI芯片创企MatX浮出水面。MatX正在挑战英伟达在AI芯片领域的霸主地位,其为大语言模型训练而设计的AI芯片将于明年问世。这家公司的官网显示,使用MatX芯片,训练70B大模型的延迟将小于10ms/token。该公司还预...……更多
英伟达地表最强,黄教主被称作AI界“霉霉”
...丨创业邦(ID:ichuangyebang)作者丨Juny编辑丨海腰图源丨英伟达官方好久没有一场大会让整个科技界都如此躁动。今天早间,在位于硅谷San Jose的麦克内里会议中心,英伟达2024 GTC大会标识已被高高挂起,并在下方悬挂着一行醒目...……更多
黄仁勋:华为是英伟达在AI芯片领域“非常强大”的竞争对手
...发,不同的GPU产品,比如AMD的MI,英特尔的Gaudi,他们的差别不只有浮点运算能力、性能密度这些,还有指令集、逻辑芯片、底层语言上的差异等等。一个能在H100上运行的算法,不一定就完美适配MI300X。换言之,如果开发伊始就...……更多
黄仁勋万字答问实录:AI的下一个浪潮是什么?
...,Blackwell系统包括了NVlink,就在这里。因此,这次的定价差别是完全不同的,我们将为它们每一个提供定价。每个的定价将如往常一样基于TCO(总运营成本)而定。 英伟达不仅仅制造芯片,英伟达构建数据中心,你们可以看到...……更多
英伟达禁令之后,中国AI计算何去何从?
...AMD、英特尔等公司提供的高端AI芯片也受到影响。但由于英伟达在全球AI芯片领域一家独大,本次禁令涉及A100、H100等主流AI训练用英伟达GPU,因此这次的芯片禁令也被称为“英伟达禁令”。消息一出,立刻引起了AI产业的热议。...……更多
AMD MI300绝杀英伟达H100?跑GPT-4性能超25%,AI芯片大决战一触即发
...芯片大决战,不少芯片初创公司跃跃欲试,希望一举打破英伟达的垄断地位。而AMD的MI300,在部署32K上下文窗口的GPT-4模型时,居然比H100效果更好?AI芯片大决战,即将来临!AI硬件开发商初创公司的未来会怎样?Tenstorrent CEO David...……更多
老黄祭出史上最强 AI 芯片B200!30倍性能提升,AI 迎来新摩尔定律时代|钛媒体AGI
...纱。北京时间3月19日(星期二)凌晨,在年度GTC大会上,英伟达(Nvidia)首席执行官黄仁勋宣布推出AI超级芯片——Blackwell GB200,将于今年晚些时候发货。GB200采用新一代AI GPU(图形处理器)Blackwell,是英伟达A100/H100系列AI GPU的...……更多
进击的英伟达:成AI企业主要投资者,黄仁勋频访亚洲
...s,开发工业机器人操作系统的Ready Robotics,在药物发现、对话式人工智能和智能电网领域提供解决方案的Recursion、Kore.ai和Utilidata。其中,在NVentures投资的19家公司中,超过三分之一专注于利用人工智能来加强新药的发现。投资组...……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
万众瞩目的英伟达GPU技术大会(GTC)如期举行,备受期待的最新AI芯片也被如期推出。当地时间3月18日,黄仁勋发表主题演讲《见证AI的变革时刻》。在两个小时的演讲中,黄仁勋围绕五大板块,介绍了英伟达的最新研发进展:...……更多
马斯克梦想AI超算霸权,旗下公司却\\\
...人工智能聊天机器人Grok的训练和推理能力进行了深入的对话。xAI另一位联合创始人兼研究工程师伊戈尔·巴布什金(Igor Babuschkin)曾是OpenAI和谷歌的资深人士,他分享了这家初创公司如何使用英伟达技术加速Grok的训练和提升推...……更多
AI芯片战事升级!英伟达筑高围墙,市值猛追苹果
...报道“2.21万亿美元”,这是截至当地时间3月18日收盘时英伟达的最新市值,该市值目前居全球第三,仅次于微软的3.1万亿美元和苹果的2.68万亿美元。股市一再创新高后,英伟达下一步棋如何走,是投资者和业内关注的焦点。3月...……更多
微软推出自研AI芯片:台积电5nm工艺、Open AI开启试用,想摆脱对英伟达依赖?
...到1050亿个,1600-3200TFLOPS的算力、4.8Tbps的网络IO等超过了英伟达H100和AMD MI300X,但在宽带等指标上有所落后。微软表示,Maia将作为Azure云计算服务的一部分,率先支持微软自己的AI应用,然后向合作伙伴和客户开放,但并不打算单...……更多
夹缝中的英伟达中国 | 深氪lite
...辑 | 苏建勋 杨轩穿着大花袄,转着红手绢,入乡随俗的英伟达CEO黄仁勋脱下他标志性的黑色皮衣,在全体上海员工的哄闹中,跳起了东北大秧歌。这是时隔4年,黄仁勋再度光临英伟达中国年会。在英伟达内部,黄仁勋此次“访...……更多
AI春晚:黄仁勋称需要更强大的GPU,马斯克吹捧英伟达最适合AI
...C大会 澎湃新闻编辑 李垚瑞(02:59)AI(人工智能)芯片龙头英伟达CEO黄仁勋继续加码加速计算和生成式AI。当地时间3月18日,在英伟达迄今为止规模最大的GTC大会上,黄仁勋发表主题演讲《见证AI的变革时刻》。除了介绍最新AI芯片...……更多
微软,用最开放的云,玩最野的AI
...题之一。这些插件基于用户的数据和流程,通过聊天形式对话,能够回答基于用户的业务数据和流程的问题。对于企业用户来说,用户能够为特定的企业场景定制 Copilot,从客户关系管理(CRM)到企业资源规划(ERP)到人力资源...……更多
AI算力大战开启:英特尔AI芯片性能超越H100,谷歌云推出最强ARM芯片|钛媒体AGI
...及 2 倍的网络带宽提升。同时,在AI模型算力中,相比于英伟达H100 GPU,Gaudi3 AI芯片的模型训练速度、推理速度分别提升40%和50%,平均性能提高 50%,能效平均提高40%,而成本仅为H100的一小部分。英特尔预计,Gaudi 3将于2024年第二...……更多
不光鸡生蛋、蛋也能生鸡?英伟达正测试用生成式AI来帮助研发芯片
仰仗着热销全球的最尖端AI芯片H100,英伟达无疑是年内这轮AI浪潮中最显眼的“弄潮儿”之一。生成式AI的研发需要大量算力的支持,而英伟达的尖端AI芯片则是大语言模型(LLM)开发的首选,几乎垄断了全球算力。那么,如果...……更多
Meta推出新版自研AI芯片:性能较上代提高三倍,降低对英伟达依赖
...排名和推荐系统而设计。分析指出,Meta的目标是降低对英伟达等芯片厂商的依赖。10日当天,Meta(Nasdaq:META)股价收于每股519.83美元,涨0.57%,总市值1.33万亿美元。Wind数据显示,自今年年初以来,Meta股价已涨超47%。从名字来...……更多
热点解读:英伟达GTC要点梳理,关注算力、机器人及游戏投资机遇
一、前言英伟达GTC大会于太平洋时间3月18日至21日在美国圣何塞会议中心举行。2024年3月19日,英伟达在2024年GTC大会上推出全新Blackwell架构芯片平台,同时还展示了公司在加速计算、软件服务、医疗、汽车以及机器人等领域的最...……更多
疯狂一夜!美国AMD、谷歌纷纷亮出大杀器,人类迎来巨变前夜?|钛媒体焦点
...夜,谷歌(Google)、AMD先后上新,终于要“打爆”OpenAI和英伟达了。钛媒体App 12月7日消息,北京时间今天凌晨,谷歌CEO桑达尔·皮查伊 (Sundar Pichai) 宣布,谷歌公司正式发布迄今为止功能最强大、最通用的多模态人工智能(AI)...……更多
AI芯片下半场:英伟达不再一家独大
...坦言,英伟达与其他芯片厂商的差距,是院士与高中生的差别。就如同英伟达CEO黄仁勋所言,英伟达“一直在奔跑”,想要超越巨人的其他芯片厂商只能奋力狂奔。据Khaveen Investments测算,英伟达数据中心GPU 2022年市占率高达88%,...……更多
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
昨天凌晨,英伟达发布了2024财年第四季度财报,业绩再次超出预期。但比起亮眼的业绩,更让人印象深刻的是,英伟达在财报电话会议的一个观点:推理端的爆发,可能很多人还是低估了。据英伟达电话会议披露,公司全年数...……更多
ChatGPT一周年|炼制大模型芯片短缺数据有限,何以解忧?
...更紧迫的优化需求。如果说OpenAI是这场浪潮的引领者,那英伟达就是获得了最大实际利益的玩家。今年以来,这家AI芯片公司的股价已上涨241%,市值突破万亿美元,其领先市场的GPU(图形处理器)和高性能计算设施被全球科技企...……更多
...过快捷键“super+C”唤醒UOSAI桌面智能助手,从而进行语音对话或自然语言交互。注意到,官方宣称UOSAI具有如下特性:应用层:桌面智能助手支持多模态输入和输出,并支持自然语言命令调用40余个使用场景,目前接入UOSAI的应用...……更多
amd旗舰aigpu加速器mi300x对比英伟达h100
...ngAI”活动中,正式宣布了旗舰AIGPU加速器MI300X,其性能比英伟达的H100高出60%。性能:AMD公司在演讲过程中,对比英伟达的H100加速卡,分享了MI300X的性能参数情况,IT之家附上数值如下:内存容量是H100的2.4倍内存带宽是H100的1.6倍...……更多
更多关于科技的资讯:
Intel正式发布Gaudi 3 AI加速器:1200W功耗!性价比两倍于NVIDIA H100
早在4月份,Intel就宣布了新一代AI加速器Gaudi 3,现在它终于发布了,详细的规格参数也已出炉,竞争对手直指NVIDIA H100 GPU加速器
2024-09-26 10:01:00
老牌经典音乐播放器Winamp终于开放源代码!但禁止修改和分叉
快科技9月25日消息,Winamp这个2000年代的经典音乐播放器,终于开放了其Windows端的源代码。Winamp的源代码托管在GitHub上
2024-09-26 10:01:00
谷歌Gemini数学反超o1预览版!成本仅1/10、无需额外思考时间
数学击败o1-preview,成本仅为十分之一,并且几乎没有思考延迟!OpenAI《Her》全量开放同一天,谷歌Gemini 1
2024-09-26 10:01:00
火山引擎丢出视频大模型「王炸」,云厂商从「价格战」回归「卷性能」
更好的模型性能、更好用的模型服务,才能在产品上打开更多场景。自今年 2 月 Sora 面世以来,很多人都期待字节的动作
2024-09-26 13:33:00
扫地机器人长手又长脚,在家就能头皮护理,追觅新品全家桶一文看尽
机器人前瞻9月25日报道,今晚,追觅科技召开首场全品类发布会,扫地机器人、洗地机、吸尘器、吹风机四大品类重磅升级。扫地机器人X50系列搭载行业首创仿生机械足越障系统
2024-09-26 13:33:00
百度智能云晒大模型落地成绩单:5个第一!
中国大模型平台市场第一!大模型应用落地元年,百度最新成绩单出炉——中国大模型市场份额第一 中国大模型产品布局第一 中国大模型产业落地规模第一 上半年中标数量/金额/行业覆盖数/央
2024-09-26 13:34:00
一行代码训练成本再降30%,AI大模型混合精度训练再升级
FP8通过其独特的数值表示方式,能够在保持一定精度的同时,在大模型训练中提高训练速度、节省内存占用,最终降低训练成本。AI大模型开发系统Colossal-AI的混合精度训练再度升级
2024-09-26 13:34:00
ChatGPT高级语音正式开放!新增记忆功能,支持50种语言
智东西9月25日消息,OpenAI今日宣布本周内将向所有ChatGPT Plus和Team用户开放高级语音模式。除了已经可用的4种风格的声线之外
2024-09-26 13:34:00
终于来了!OpenAI开放GPT-4o高级语音,还用中文说「对不起」
这项高级语音功能,大家可是等了好久。谷歌又被 OpenAI 截胡了。前脚谷歌刚刚升级完两款模型 Gemini-1.5-Pro-002 和 Gemini-1
2024-09-26 13:35:00
自动化机器学习研究MLR-Copilot:利用大型语言模型进行研究加速
AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年,机器之心AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室
2024-09-26 13:35:00
文档处理效能飙升!浩鲸科技“文档大模型”核心技术揭秘!
在当今大模型技术日新月异的背景下,数据已跃升为构建企业大模型知识库、优化训练与微调,乃至驱动模型创新不可或缺的核心要素
2024-09-26 13:36:00
当大模型Scaling Law继续,万卡集群算力释放在百舸找到一条通途
在电影《天下无贼》中,葛优扮演的黎叔有这样一句经典的台词,「二十一世纪什么最贵?人才!」而随着人工智能行业进入到大模型时代
2024-09-26 13:37:00
突破数据墙!27岁华裔MIT辍学创业8年,年化收入逼近10亿
【新智元导读】震惊!就在刚刚,Scale AI创始人Alexandr Wang宣布:公司的年化收入已经达到近10亿美元
2024-09-26 13:37:00
科技业裁不停!软件工程师实惨,今年科技公司已裁员13.7万人
【新智元导读】科技行业的就业市场正在发生重大变革,人才供需逆转,初级职位减少,技能要求增加,求职竞争加剧。科技行业曾是众多人才竞相追求的热门领域
2024-09-26 13:38:00
AI科学家太多,谁靠谱一试便知!普林斯顿新基准CORE-Bench:最强模型仅有21%准确率
【新智元导读】普林斯顿大学新发布的CORE-Bench基准测试,通过270个基于90篇跨学科科学论文的任务,可评估AI智能体在计算可重复性方面的表现
2024-09-26 13:38:00