• 我的订阅
  • 头条热搜
GTC对话黄仁勋:我眼中的GPU,和别人有很大差别
...用了 Transformer 注意力机制,但模型与模型之间存在巨大差别。有的模型用了混合专家模型(Mixture of Experts),混合模型里有的是两个专家模型,有的是四个专家模型,这些模型等待消息,以及路由分发,里面的一切步骤都不同...……更多
对话|黄仁勋回应中国市场和AI芯片定价问题 称英伟达市值合理
当地时间3月19日上午,英伟达创始人CEO黄仁勋接受全球媒体采访。他对包括第一财经在内的记者表示,全球数据中心市场规模去年就达到2500亿美元左右,并以20%至25%的速度增长,而这正是英伟达的市场机会所在。针对有媒体援...……更多
英伟达推出“护栏”软件 让AI聊天机器人不再胡说八道
...相关的话题。如果用户提出这样的问题,机器人可以引导对话回到开发者希望的话题上。英伟达还提供了另一个例子,一个用于回答内部企业人力资源问题的聊天机器人。在这个例子中,英伟达能够使用 NeMo Guardrails 来阻止基于 ...……更多
挑战英伟达!OpenAI被曝接洽博通联合开发AI芯片
...言人表示,“OpenAI正在与行业和政府利益相关者进行持续对话,以增加所需基础设施的使用权,确保人工智能的益处得到广泛普及……这包括与顶级芯片设计师、制造商和数据中心的实体开发商合作。” 博通总部位于美国加州...……更多
微软难以摆脱英伟达 |焦点分析
...处理器)Azure Cobalt 100,分别在AI芯片和CPU芯片上正面对刚英伟达和英特尔。2023年3月ChatGPT火热后,英伟达的AI芯片A100、H100便一卡难求,英伟达占据了人工智能芯片市场至少90%的份额。AI芯片是AI时代石油一般的存在。大模型公司...……更多
算力卡不住大模型的脖子
...:近期,国内厂商密集发布大模型产品,各种大模型之间差别大吗?戴文渊:不能说没有区别,但都是基于GPT做的。虽然中国目前没有OpenAI,但可能还会有更多的大模型。对于我们自己来说,不是去对标OpenAI,也并不是说OpenAI能...……更多
英伟达推出新一代ai芯片,预计今年晚些时候发货
美东时间3月18日周一,英伟达举办了2024GTCAI大会,被称为今年全球头号人工智能领域开发者大会。这也是英伟达时隔五年首次让年度GTC会议重回线下,被认为是一次重要的AI盛会。在开发者大会上,英伟达创始人兼CEO黄仁勋进行...……更多
开源社区分水岭:Meta大模型Llama 3发布,参数最高或达4000亿
...官方Web版本Meta AI。目前,该平台仍处于初级阶段,只有对话和绘画两大功能。用户使用对话功能无需通过注册,使用绘画功能则需要用户注册登录账号。为开源社区注入活力Meta的AI道路向来与开源紧密相连,Llama 3一经推出,受...……更多
聊聊ChatGPT:大厂纷纷布局 万亿市场背后的商业逻辑
...的强大之处。新版Bing既能与人类进行有感情、有逻辑的对话,还能够综合所学知识,为用户援引不同资料生成问题的答案,相比于老版本在体验上可以说带来了质的提升。对于微软的这一步,谷歌自然也不敢怠慢。不过其推出...……更多
GPU受限,国内AI大模型能否交出自己的答卷?
...的算力资源,GPU是大模型的最佳算力发动机。截至目前,英伟达的GPU芯片正在为全球绝大多数的人工智能系统提供最基础的算力支持。那么,在GPU受限的情况下,国内AI行业发展境况如何,能否交出属于他们自己的答卷?未来的...……更多
前谷歌工程师创业造AI芯片!产品明年问世,已拿到1.8亿融资
...谷歌前员工成立的AI芯片创企MatX浮出水面。MatX正在挑战英伟达在AI芯片领域的霸主地位,其为大语言模型训练而设计的AI芯片将于明年问世。这家公司的官网显示,使用MatX芯片,训练70B大模型的延迟将小于10ms/token。该公司还预...……更多
英伟达地表最强,黄教主被称作AI界“霉霉”
...丨创业邦(ID:ichuangyebang)作者丨Juny编辑丨海腰图源丨英伟达官方好久没有一场大会让整个科技界都如此躁动。今天早间,在位于硅谷San Jose的麦克内里会议中心,英伟达2024 GTC大会标识已被高高挂起,并在下方悬挂着一行醒目...……更多
黄仁勋:华为是英伟达在AI芯片领域“非常强大”的竞争对手
...发,不同的GPU产品,比如AMD的MI,英特尔的Gaudi,他们的差别不只有浮点运算能力、性能密度这些,还有指令集、逻辑芯片、底层语言上的差异等等。一个能在H100上运行的算法,不一定就完美适配MI300X。换言之,如果开发伊始就...……更多
黄仁勋万字答问实录:AI的下一个浪潮是什么?
...,Blackwell系统包括了NVlink,就在这里。因此,这次的定价差别是完全不同的,我们将为它们每一个提供定价。每个的定价将如往常一样基于TCO(总运营成本)而定。 英伟达不仅仅制造芯片,英伟达构建数据中心,你们可以看到...……更多
...中,可以降低答案返回的延迟,开启如AI代理或实时语音对话等新应用场景。Etched声称,得益于更简单且专一的架构,其芯片的速度是英伟达GPU的10倍以上。然而英伟达拥有庞大的研发团队和充足的资金,可以确保每年都能在芯...……更多
英伟达禁令之后,中国AI计算何去何从?
...AMD、英特尔等公司提供的高端AI芯片也受到影响。但由于英伟达在全球AI芯片领域一家独大,本次禁令涉及A100、H100等主流AI训练用英伟达GPU,因此这次的芯片禁令也被称为“英伟达禁令”。消息一出,立刻引起了AI产业的热议。...……更多
AMD MI300绝杀英伟达H100?跑GPT-4性能超25%,AI芯片大决战一触即发
...芯片大决战,不少芯片初创公司跃跃欲试,希望一举打破英伟达的垄断地位。而AMD的MI300,在部署32K上下文窗口的GPT-4模型时,居然比H100效果更好?AI芯片大决战,即将来临!AI硬件开发商初创公司的未来会怎样?Tenstorrent CEO David...……更多
00后华裔小哥哈佛辍学组团挑战英伟达,史上最快AI芯片Sohu推理性能超H100二十倍!
...d又宣布了炸裂的新消息:已筹到1.2亿美元。 就在上周,英伟达的市值达到3.3万亿美元,超过微软成为全球第一。而Etched相信,自己的35人团队能够击败英伟达。他们的豪放预言,得到了硅谷真金白银的支持。投资名单中,是一...……更多
老黄祭出史上最强 AI 芯片B200!30倍性能提升,AI 迎来新摩尔定律时代|钛媒体AGI
...纱。北京时间3月19日(星期二)凌晨,在年度GTC大会上,英伟达(Nvidia)首席执行官黄仁勋宣布推出AI超级芯片——Blackwell GB200,将于今年晚些时候发货。GB200采用新一代AI GPU(图形处理器)Blackwell,是英伟达A100/H100系列AI GPU的...……更多
进击的英伟达:成AI企业主要投资者,黄仁勋频访亚洲
...s,开发工业机器人操作系统的Ready Robotics,在药物发现、对话式人工智能和智能电网领域提供解决方案的Recursion、Kore.ai和Utilidata。其中,在NVentures投资的19家公司中,超过三分之一专注于利用人工智能来加强新药的发现。投资组...……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
万众瞩目的英伟达GPU技术大会(GTC)如期举行,备受期待的最新AI芯片也被如期推出。当地时间3月18日,黄仁勋发表主题演讲《见证AI的变革时刻》。在两个小时的演讲中,黄仁勋围绕五大板块,介绍了英伟达的最新研发进展:...……更多
马斯克梦想AI超算霸权,旗下公司却\\\
...人工智能聊天机器人Grok的训练和推理能力进行了深入的对话。xAI另一位联合创始人兼研究工程师伊戈尔·巴布什金(Igor Babuschkin)曾是OpenAI和谷歌的资深人士,他分享了这家初创公司如何使用英伟达技术加速Grok的训练和提升推...……更多
单机1EP能力!英伟达推出GH200超级计算机
...能、大型语言模型和推荐系统是现代经济的数字引擎,\"英伟达创始人兼首席执行官黄仁勋说。\"DGX GH200 AI超级计算机整合了英伟达最先进的加速计算和网络技术,以拓展AI的前沿领域。\"英伟达NVLink技术扩大了AI的规模GH200超级芯...……更多
AI芯片战事升级!英伟达筑高围墙,市值猛追苹果
...报道“2.21万亿美元”,这是截至当地时间3月18日收盘时英伟达的最新市值,该市值目前居全球第三,仅次于微软的3.1万亿美元和苹果的2.68万亿美元。股市一再创新高后,英伟达下一步棋如何走,是投资者和业内关注的焦点。3月...……更多
微软推出自研AI芯片:台积电5nm工艺、Open AI开启试用,想摆脱对英伟达依赖?
...到1050亿个,1600-3200TFLOPS的算力、4.8Tbps的网络IO等超过了英伟达H100和AMD MI300X,但在宽带等指标上有所落后。微软表示,Maia将作为Azure云计算服务的一部分,率先支持微软自己的AI应用,然后向合作伙伴和客户开放,但并不打算单...……更多
夹缝中的英伟达中国 | 深氪lite
...辑 | 苏建勋 杨轩穿着大花袄,转着红手绢,入乡随俗的英伟达CEO黄仁勋脱下他标志性的黑色皮衣,在全体上海员工的哄闹中,跳起了东北大秧歌。这是时隔4年,黄仁勋再度光临英伟达中国年会。在英伟达内部,黄仁勋此次“访...……更多
AI春晚:黄仁勋称需要更强大的GPU,马斯克吹捧英伟达最适合AI
...C大会 澎湃新闻编辑 李垚瑞(02:59)AI(人工智能)芯片龙头英伟达CEO黄仁勋继续加码加速计算和生成式AI。当地时间3月18日,在英伟达迄今为止规模最大的GTC大会上,黄仁勋发表主题演讲《见证AI的变革时刻》。除了介绍最新AI芯片...……更多
微软,用最开放的云,玩最野的AI
...题之一。这些插件基于用户的数据和流程,通过聊天形式对话,能够回答基于用户的业务数据和流程的问题。对于企业用户来说,用户能够为特定的企业场景定制 Copilot,从客户关系管理(CRM)到企业资源规划(ERP)到人力资源...……更多
不光鸡生蛋、蛋也能生鸡?英伟达正测试用生成式AI来帮助研发芯片
仰仗着热销全球的最尖端AI芯片H100,英伟达无疑是年内这轮AI浪潮中最显眼的“弄潮儿”之一。生成式AI的研发需要大量算力的支持,而英伟达的尖端AI芯片则是大语言模型(LLM)开发的首选,几乎垄断了全球算力。那么,如果...……更多
AI算力大战开启:英特尔AI芯片性能超越H100,谷歌云推出最强ARM芯片|钛媒体AGI
...及 2 倍的网络带宽提升。同时,在AI模型算力中,相比于英伟达H100 GPU,Gaudi3 AI芯片的模型训练速度、推理速度分别提升40%和50%,平均性能提高 50%,能效平均提高40%,而成本仅为H100的一小部分。英特尔预计,Gaudi 3将于2024年第二...……更多
更多关于科技的资讯:
小米8.42亿元拿下北京亦庄新城一宗工业用地,或用于建设汽车工厂二期
IT之家 7 月 25 日消息,据北京市规自委官网披露,亦庄新城 YZ00-0606 街区 0106 地块工业项目以约 8
2024-07-26 13:45:00
中美人形机器人落地进展大比拼
《星船知造》注意到,2024年,中美人形机器人企业的 刷屏重点已经出现明显分野。今年 美国公司的刷屏重点是展现一定的进化能力
2024-07-26 13:45:00
硅谷正在制造“超级宝宝”,马斯克们的后代是顶尖的科技结晶
《纽约时报》最近一篇报道称,SpaceX 去年开始分工为火星生活规划。据说,有一支团队在负责规划设计火星城市的人类居所
2024-07-26 13:53:00
三星One UI 7新图标曝光,含浏览器、设置、手机、时钟等
IT之家 7 月 26 日消息,消息源 Chun Bhai 今天再次在 X 平台发布系列推文,分享了 One UI 7 系统的新图标
2024-07-26 13:53:00
全球顶级脑机接口学术会将首次在上海举办,中国推动技术标准制定
7月24日,天桥脑科学研究院(TCCI)与全球最具影响力的脑机接口学术机构之一BCI协会(BCI Society)联合宣布
2024-07-26 13:54:00
2024世界顶尖科学家论坛官宣 首次开放公众参会通道
凤凰网科技讯 7月25日,2024世界顶尖科学家论坛(WLA Forum,中文简称“顶科论坛”)相关论坛活动将于10月25-27日在中国上海临港新片区世界顶尖科学家论坛永久会址举行
2024-07-26 13:54:00
不只性能优秀!三星选择联发科天玑9300+,背后主要有两大考量
三星电子与联发科在应用处理器(AP)市场经过多年厮杀后,已经进入蜜月期。有消息传出,三星计划将联发科先进AP芯片用于10月将推出的高级平板中
2024-07-26 13:55:00
用激光制造芯片,最新进展
现代计算机芯片可以构建纳米级结构。到目前为止,只能在硅晶片顶部形成这种微小结构,但现在一种新技术可以在表面下的一层中创建纳米级结构
2024-07-26 13:55:00
大疆智图获推V4.2.0版本更新:新增变电站点云可见光融合建模、错误数据上传等功能
IT之家 7 月 25 日消息,大疆智图获推 V4.2.0 版本更新,新增支持变电站点云可见光融合建模功能。IT之家整理更新详情如下
2024-07-26 13:55:00
三星One UI 7要上灵动岛?新消息否认,只拓展状态栏椭圆图标
IT之家 7 月 26 日消息,消息源 @i冰宇宙 昨日(7 月 25 日)在 X 平台发布推文,表示三星 One UI 7 系统不会引入类似苹果 iOS 的灵动岛设计
2024-07-26 13:58:00
企业如何实现国内与国外网络互联?
在当前的社会当中,企业出海已经成为了人们的共识,国内市场内卷的环境逼迫人们向外寻求发展,而在这个过程中,企业迫切的需要实现国内与国外的网络互联
2024-07-26 13:58:00
苹果专利探索HomePod织物屏幕,可显示播放、暂停等状态信息
IT之家 7 月 26 日消息,根据美国商标和专利局 7 月 25 日公示的清单,苹果公司获得了一项关于 HomePod 的新专利
2024-07-26 13:58:00
中国电信牵头完成业界首个 3.5GHz 频段和多频协作通感一体化验证
IT之家 7 月 26 日消息,据中国电信官方消息,近日,中国电信研究院、中国电信浙江公司和北京邮电大学联合在浙江宁波完成了业界首个 3
2024-07-26 13:58:00
小米15危!骁龙8 Gen4太猛了,连三星都撑不住!
之前高通已经确定将在10月份召开今年的骁龙技术峰会,而届时新一代的旗舰芯片骁龙8 Gen4也会正式发布。随着骁龙8 Gen4的亮相
2024-07-26 13:59:00
索尼或推出Xperia 7全新系列 6英寸小屏+骁龙7平台
【CNMO科技消息】此前有传言称索尼正在准备一款搭载骁龙7系列移动平台的中高端机型。CNMO从日媒获悉,最近又有海外消息提到这一点
2024-07-26 13:59:00