• 我的订阅
  • 头条热搜
GTC对话黄仁勋:我眼中的GPU,和别人有很大差别
...用了 Transformer 注意力机制,但模型与模型之间存在巨大差别。有的模型用了混合专家模型(Mixture of Experts),混合模型里有的是两个专家模型,有的是四个专家模型,这些模型等待消息,以及路由分发,里面的一切步骤都不同...……更多
英特尔发布中国特供版7nm AI芯片Gaudi2,减少RDMA接口以符合出口管制规定|硅基世界
...。相比国际版Gaudi2,面向中国市场推出的加速卡在性能上差别不大,而集成以太网RDMA端口数量从24个端口减到21个,以符合美国芯片出口管制规定。英特尔强调,Gaudi2及下一代5nm Gaudi3都会在合法合规的情况下继续支持中国客户,...……更多
对话|黄仁勋回应中国市场和AI芯片定价问题 称英伟达市值合理
当地时间3月19日上午,英伟达创始人CEO黄仁勋接受全球媒体采访。他对包括第一财经在内的记者表示,全球数据中心市场规模去年就达到2500亿美元左右,并以20%至25%的速度增长,而这正是英伟达的市场机会所在。针对有媒体援...……更多
逐浪大模型,国产GPU的机遇和挑战 | 钛媒体深度
...,该产品就有2个版本。这2个版本在计算性能上没有任何差别,但一个是搭载了40GB的显存容量,另一个是80GB。其中,80GB的A100,是OpenAI提出了需求才有的。也就是说,大模型后期对于显存的需求要比计算的需求要高。按照袁琪的...……更多
英伟达推出“护栏”软件 让AI聊天机器人不再胡说八道
...相关的话题。如果用户提出这样的问题,机器人可以引导对话回到开发者希望的话题上。英伟达还提供了另一个例子,一个用于回答内部企业人力资源问题的聊天机器人。在这个例子中,英伟达能够使用 NeMo Guardrails 来阻止基于 ...……更多
微软难以摆脱英伟达 |焦点分析
...处理器)Azure Cobalt 100,分别在AI芯片和CPU芯片上正面对刚英伟达和英特尔。2023年3月ChatGPT火热后,英伟达的AI芯片A100、H100便一卡难求,英伟达占据了人工智能芯片市场至少90%的份额。AI芯片是AI时代石油一般的存在。大模型公司...……更多
微软、谷歌、亚马逊 正在打响大模型时代的云战争
...,谷歌在 ChatGPT 发布后的反应不可谓不快,很快就发布了对话式智能机器人 Bard 和新一代大语言模型 PaLM 2 作为回应,结果发布会上直接翻车,后续的产品发布速度也不理想,与微软强大的工程化能力形成了鲜明的对比。最后值...……更多
算力卡不住大模型的脖子
...:近期,国内厂商密集发布大模型产品,各种大模型之间差别大吗?戴文渊:不能说没有区别,但都是基于GPT做的。虽然中国目前没有OpenAI,但可能还会有更多的大模型。对于我们自己来说,不是去对标OpenAI,也并不是说OpenAI能...……更多
...置 ChatGPT 和百度文心一言双 AI,能够与用户进行更丰富的对话,包括根据用户兴趣爱好创作诗歌、歌词、文章;根据用户情绪状态提供安慰、鼓励或建议;或者与用户进行游戏 / 测试 / 问答等。OPPO 将大模型 AndesGPT接入手机8 月 1...……更多
英伟达推出新一代ai芯片,预计今年晚些时候发货
美东时间3月18日周一,英伟达举办了2024GTCAI大会,被称为今年全球头号人工智能领域开发者大会。这也是英伟达时隔五年首次让年度GTC会议重回线下,被认为是一次重要的AI盛会。在开发者大会上,英伟达创始人兼CEO黄仁勋进行...……更多
开源社区分水岭:Meta大模型Llama 3发布,参数最高或达4000亿
...官方Web版本Meta AI。目前,该平台仍处于初级阶段,只有对话和绘画两大功能。用户使用对话功能无需通过注册,使用绘画功能则需要用户注册登录账号。为开源社区注入活力Meta的AI道路向来与开源紧密相连,Llama 3一经推出,受...……更多
聊聊ChatGPT:大厂纷纷布局 万亿市场背后的商业逻辑
...的强大之处。新版Bing既能与人类进行有感情、有逻辑的对话,还能够综合所学知识,为用户援引不同资料生成问题的答案,相比于老版本在体验上可以说带来了质的提升。对于微软的这一步,谷歌自然也不敢怠慢。不过其推出...……更多
GPU受限,国内AI大模型能否交出自己的答卷?
...的算力资源,GPU是大模型的最佳算力发动机。截至目前,英伟达的GPU芯片正在为全球绝大多数的人工智能系统提供最基础的算力支持。那么,在GPU受限的情况下,国内AI行业发展境况如何,能否交出属于他们自己的答卷?未来的...……更多
前谷歌工程师创业造AI芯片!产品明年问世,已拿到1.8亿融资
...谷歌前员工成立的AI芯片创企MatX浮出水面。MatX正在挑战英伟达在AI芯片领域的霸主地位,其为大语言模型训练而设计的AI芯片将于明年问世。这家公司的官网显示,使用MatX芯片,训练70B大模型的延迟将小于10ms/token。该公司还预...……更多
沙特和阿联酋推进AI战略:抢购英伟达芯片,吸收中国人才
...说,海湾地区可以“在这场围绕新兴技术及其监管的全球对话中发挥核心作用”。 今年7月,全球最大的在线学习平台之一Coursera与英国咨询机构YouGov对阿联酋500多名商界领袖进行了研究。研究显示,85%的企业领导者认为生成式...……更多
挑战英伟达!AMD推出能运行更大模型的AI芯片 也能写诗
...玩家、芯片厂商AMD推出全新人工智能GPU MI300系列芯片,与英伟达在人工智能算力市场展开竞争。北京时间6月14日凌晨,AMD如期举办了“AMD数据中心与人工智能技术首映会”,并在会上推出的AI处理器MI300系列。其中,特别为大语...……更多
英伟达地表最强,黄教主被称作AI界“霉霉”
...丨创业邦(ID:ichuangyebang)作者丨Juny编辑丨海腰图源丨英伟达官方好久没有一场大会让整个科技界都如此躁动。今天早间,在位于硅谷San Jose的麦克内里会议中心,英伟达2024 GTC大会标识已被高高挂起,并在下方悬挂着一行醒目...……更多
黄仁勋:华为是英伟达在AI芯片领域“非常强大”的竞争对手
...发,不同的GPU产品,比如AMD的MI,英特尔的Gaudi,他们的差别不只有浮点运算能力、性能密度这些,还有指令集、逻辑芯片、底层语言上的差异等等。一个能在H100上运行的算法,不一定就完美适配MI300X。换言之,如果开发伊始就...……更多
黄仁勋万字答问实录:AI的下一个浪潮是什么?
...,Blackwell系统包括了NVlink,就在这里。因此,这次的定价差别是完全不同的,我们将为它们每一个提供定价。每个的定价将如往常一样基于TCO(总运营成本)而定。 英伟达不仅仅制造芯片,英伟达构建数据中心,你们可以看到...……更多
无惧限制 Intel为中国公司定制了一张AI大模型入场券
...赛的入场券。另一层含义是对于英特尔来说,拿出的能和英伟达最先进的H100 GPU比拼的产品,是其在AI大市场里披荆斩棘的入场券,也是一个“大杀器”。站在AI的变革时刻,手握AI时代入场券的公司,如何才能成为AI时代的领导...……更多
英伟达禁令之后,中国AI计算何去何从?
...AMD、英特尔等公司提供的高端AI芯片也受到影响。但由于英伟达在全球AI芯片领域一家独大,本次禁令涉及A100、H100等主流AI训练用英伟达GPU,因此这次的芯片禁令也被称为“英伟达禁令”。消息一出,立刻引起了AI产业的热议。...……更多
谷歌云AIGC火力全开!推出新AI芯片TPU v5e,企业AI服务30美元/月,接入Llama 2等大模型
...提供会议记录、摘要、翻译,在Google Chat中可直接与Duet AI对话等功能。谷歌云称,70%以上的生成式AI独角兽公司都是其客户,包括AI21、Anthropic、Cohere、Jasper、MosaicML、Replit、Runway和Typeface等,并且一半以上获得融资的AI……更多
...星火一体机的训练和推理一体化部署,可用于问答系统、对话生成、知识图谱构建、智能推荐等领域的应用,具备大模型预训练、多模态理解与生成、多任务学习和迁移等能力。 星火一体机基于华为鲲鹏CPU+昇腾GPU,另外联合华...……更多
AMD MI300绝杀英伟达H100?跑GPT-4性能超25%,AI芯片大决战一触即发
...芯片大决战,不少芯片初创公司跃跃欲试,希望一举打破英伟达的垄断地位。而AMD的MI300,在部署32K上下文窗口的GPT-4模型时,居然比H100效果更好?AI芯片大决战,即将来临!AI硬件开发商初创公司的未来会怎样?Tenstorrent CEO David...……更多
被股民用脚投票!AMD的AI“终极武器”输在了哪里?
...192GB,内存带宽为5.2TB/s,Infinity Fabric带宽为896GB/s。对比英伟达的H100,MI300X提供的HBM(高带宽内存)密度约为H100的2.4倍,HBM带宽是1.6倍。苏姿丰表示,随着模型参数规模越来越大,就需要更多的GPU来运行。而随着AMD芯片内存的增...……更多
老黄祭出史上最强 AI 芯片B200!30倍性能提升,AI 迎来新摩尔定律时代|钛媒体AGI
...纱。北京时间3月19日(星期二)凌晨,在年度GTC大会上,英伟达(Nvidia)首席执行官黄仁勋宣布推出AI超级芯片——Blackwell GB200,将于今年晚些时候发货。GB200采用新一代AI GPU(图形处理器)Blackwell,是英伟达A100/H100系列AI GPU的...……更多
进击的英伟达:成AI企业主要投资者,黄仁勋频访亚洲
...s,开发工业机器人操作系统的Ready Robotics,在药物发现、对话式人工智能和智能电网领域提供解决方案的Recursion、Kore.ai和Utilidata。其中,在NVentures投资的19家公司中,超过三分之一专注于利用人工智能来加强新药的发现。投资组...……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
万众瞩目的英伟达GPU技术大会(GTC)如期举行,备受期待的最新AI芯片也被如期推出。当地时间3月18日,黄仁勋发表主题演讲《见证AI的变革时刻》。在两个小时的演讲中,黄仁勋围绕五大板块,介绍了英伟达的最新研发进展:...……更多
单机1EP能力!英伟达推出GH200超级计算机
...能、大型语言模型和推荐系统是现代经济的数字引擎,\"英伟达创始人兼首席执行官黄仁勋说。\"DGX GH200 AI超级计算机整合了英伟达最先进的加速计算和网络技术,以拓展AI的前沿领域。\"英伟达NVLink技术扩大了AI的规模GH200超级芯...……更多
马斯克梦想AI超算霸权,旗下公司却\\\
...人工智能聊天机器人Grok的训练和推理能力进行了深入的对话。xAI另一位联合创始人兼研究工程师伊戈尔·巴布什金(Igor Babuschkin)曾是OpenAI和谷歌的资深人士,他分享了这家初创公司如何使用英伟达技术加速Grok的训练和提升推...……更多
更多关于科技的资讯:
打造全球煤炭科技第一品牌!中国煤科在2024年中国品牌博览会上广受关注
本文转自:新华网5月10日,2024年中国品牌日活动在上海举行。集团公司受邀参加本次博览会并设专场品牌展。在中国煤炭科工集团有限公司展台
2024-05-11 15:43:00
典型威海 劳动榜样丨以匠心精神实现“小数点后三个9”
陈乃彰 通讯员 夏丽萍 威海报道近日,2024年庆祝“五一”国际劳动节暨全国五一劳动奖和全国工人先锋号表彰大会,山东省庆祝“五一”国际劳动节暨省五一劳动奖获得者表彰大会相继召开
2024-05-11 15:43:00
坚持制造强国初心,上海电气打造品牌“金名片”
本文转自:中国新闻网5月10日,中国迎来第八个“中国品牌日”,由国家发改委联合相关部门主办的2024年中国品牌日活动在上海启幕
2024-05-11 17:09:00
喜报!连续三年入选“好品山东”品牌名单,浪潮质量品牌建设再创佳绩!
5月11日,“好客山东 好品山东”共建工作现场观摩会暨 2024 中国品牌日(山东)活动在潍坊举行,会上为第三批“好品山东”品牌代表颁发授权书
2024-05-11 17:57:00
逐新提质丨江苏无锡:向“新”而行,打造小微特机器人产业发展新高地
5月8日,2024年中国小微特机器人大赛暨小微特机器人创新发展大会在无锡举行,众多小微特机器人展示的“黑科技”令人耳目一新
2024-05-11 18:28:00
新款华为matebook14开启预售活动,性能迎来进化
5月7日,华为在海外举办了一场发布会面向全球发布了MateBookXPro、华为WATCHFit等多款新品,并且新款华为MateBook14也迎来首秀
2024-05-11 18:53:00
荣耀200系列渲染图曝光,定位为“荣耀年度旗舰”
荣耀200系列在近期频频曝光,结合各方消息来看,新机很有可能会在不久后正式发布。5月11日,CNNO从线下渠道获悉,荣耀200系列已开启线下预订
2024-05-11 18:55:00
安卓15即将上线,这些新功能你都知道吗?
安卓12带来重大更新后,近来的安卓13与14则稍显平淡,没有太多重大更新。尽管距离安卓15的正式登场还有数月之遥,但随着开发者预览版和测试版陆续放出
2024-05-11 18:56:00
迪丽热巴有可能将成为联想和摩托罗拉的代言人
5月11日,CNMO注意到,#迪丽热巴联想#这一话题在微博上引起了较大的关注。截至发稿前,相关话题的阅读量超过1200万
2024-05-11 18:58:00
一加13不会配备后置方形相机模组
近日,关于一加手机可能为其即将推出的一加13采用方形相机模组的传闻引起了广泛关注。不过有爆料者表示,一加13不会配备后置方形相机模组
2024-05-11 19:03:00
突发!世界级投资大佬离世
当地时间周五,西蒙斯基金会(SimonsFoundation)宣布,该基金会联合创始人詹姆斯·哈里斯·西蒙斯(JamesHarrisSimons)周五在纽约去世
2024-05-11 19:19:00
雷克沙展台报道,三防存储卡新品模型
一年一度的P&E展会开幕了,全称为第二十五届中国国际照相机械影像器材与技术博览会,地点在北京展览馆,时间是5月10-13日
2024-05-11 19:25:00
恒锋泓业:安全与智能并行 以科技防患于未然引领厨房安全革新
在快速发展的新时代浪潮中,燃气作为厨房中“必不可少”的能源,其安全使用越来越受到社会各界的广泛关注。传统的厨房燃气使用方式存在诸多安全隐患
2024-05-11 19:28:00
兰帕全光谱护眼台灯 用科技防控青少年近视
青少年近视居高不下的问题,不仅仅影响个人的健康和生活,还会增加社会成本、降低综合竞争力;同时,随着征兵对视力要求的逐渐放宽
2024-05-11 19:31:00
微软发力手游市场,xbox移动商店即将上架
日前,Xbox总裁SarahBond在一次公开演讲中透露,Xbox移动商店将于七月份推出。微软旗下的《糖果传奇》、《我的世界》等第一方游戏将会出现在Xbox移动商店中
2024-05-11 19:42:00