• 我的订阅
  • 头条热搜
微软紧随英伟达发布芯片,老黄还不慌吗?
...显存具备更大的容量和更高带宽,可以支持超大参数的大模型训练与推理。官方给出的参数显示,H200相较上一代产品在Llama2和ChatGPT的训练速度分别能提升40%和60%。 可以看出,从MI300X到H200,再到Maia100,大厂对训练参数量、训练...……更多
AI巨头燃起创新之火,人形机器人走入家庭提上日程?
...网公司应打造企业级、产业级、场景化、垂直化的垂直大模型,而在消费领域,每个人每个家庭将会有一个AI助理或家用机器人。“小Sora,大模型”, 尽管Sora只生成一分钟视频,但却带给影视制作行业强烈的震荡,然而Sora的影...……更多
如果MaaS是个伪命题 大模型时代的“云”应该怎么建?
2024 年的大模型产业,注定将是会被反复提起的历史一页。这一年,被按下加速键的市场,刚刚过半,就已经显示出冰火两重天的格局:算法的单模态扩展到多模态,趋势如燎原之火,让全球陷入对世界模型畅想的狂欢中醺然欲...……更多
英伟达副总裁:中国拥有众多汽车制造商 积极推动创新
...件公司Cerence合作,共同开发适用于车载计算的大型语言模型人工智能系统。同时,英伟达透露,中国电脑制造商联想也在与其合作部署大型语言模型。另外,Soundhound将运用英伟达技术开发车载语音命令系统,使车主能通过语音...……更多
CMU清华教LLM练成数学高手,LeanSTaR训练模型边思考边证明,登顶新SOTA
...学生怎么办?CMU清华团队提出了Lean-STaR训练框架,在语言模型进行推理的每一步中都植入CoT,提升了模型的定理证明能力,成为miniF2F上的新SOTA。如果想训练LLM证明定理的能力,你会怎么做?既然模型可以通过海量语料学会生成...……更多
...英伟达在中国市场面临更大的竞争压力。 在今年全球大模型算力军备竞赛中,英伟达无疑是最炙手可热的军火商——算力、算法和数据构成了AI时代的三要素,算力又是电力般的基础设施,有多少枚GPU,有多少算力,成为外界...……更多
AI计算爆发!吴泳铭力挺GPU计算,CPU真要沦为配角了?
...对算力的恐怖需求,这个需求不仅体现在训练、优化AI大模型上,更是随着用户数量的增长飙升。生成式AI可以说是人类少有的,从出现到普及耗时最短的前沿科技,现如今每一个接入互联网的人,都可以通过访问通义千问等网...……更多
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
...求主要分为训练与推理两大阶段,训练可以理解为打磨大模型智能水平的过程,而推理则是在大模型应用过程中计算的过程。对于这两者的算力需求,一些机构提出了各自的估算方式,它们可以用一个公式来简单概况:每参数每...……更多
英伟达 Jim Fan 预测未来 2-3 年机器人领域迎来“GPT-3 时刻”
...李飞飞教授。他的研究领域十分广泛,包括了多模态基础模型、强化学习以及计算机视觉,曾实习于谷歌云 AI、OpenAI、百度硅谷人工智能实验室等知名组织。Jim Fan 目前在英伟达公司领导 AI 相关研究,其团队正致力于开发“Projec...……更多
AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
...消息,美国人工智能初创公司Groq最新推出的面向云端大模型的推理芯片引发了业内的广泛关注。其最具特色之处在于,采用了全新的Tensor Streaming Architecture (TSA) 架构,以及拥有超高带宽的SRAM,从而使得其对于大模型的推理速度...……更多
英伟达推新一代芯片H200:内存、带宽大升级
...的细节显示,新的H200芯片是当前用于训练最先进大语言模型H100芯片的升级产品(基于Hopper架构),集成了141GB的内存,且是HBM3e内存的芯片。借助HBM3e,英伟达H200以每秒4.8TB的速度提供141GB的内存,与A100相比,容量几乎是其两倍...……更多
美媒:无论有没有芯片,中国都在推进人工智能发展
...芯片。报道称,一大批中国AI初创企业正在通过为大语言模型编写更高效的代码,提高人工智能效率,以解决没有先进芯片的问题;还有一些公司则注重于构建更小、更专业的模型,或是采用耗能耗时更少的训练方法。文章援引...……更多
英伟达抛出年度AI杀器:史上最强芯片,还有机器人大模型
... GPU中包含2080亿个晶体管,可以支持多达10万亿个参数的AI模型。黄仁勋展示Blackwell除了芯片本身之外,这一架构还采用了第五代NVLink高速互联、第二代Transformer引擎,多方位全面升级。据黄仁勋介绍,这一全新的芯片将在2024年晚...……更多
与英伟达正面交锋!AMD“终极武器”今夜来袭
...00有足够的竞争力。据AMD今年6月公布的数据,专为大语言模型优化的产品MI300X,其内存达到了192GB,内存带宽为5.2TB/s,InfinityFabric带宽为896GB/s,晶体管达到1530亿个。另外,MI300X提供的HBM(高带宽内存)密度是英伟达H100的2.4倍,H...……更多
英伟达携手达慕思大学开发“生成式人工智能教学工具包”
...颁发能力证书。最新课程的重点是:介绍适用于大型语言模型(LLMs)的自然语言处理(NLP)基础知识。该课程还将使用英伟达云平台对生成式预训练变换器(GPT)模型进行云驱动培训,然后再扩展到涵盖图像和视频生成的扩散...……更多
google宣布为gemma系列增加一系列新成员
...年一度的I/O2024开发者大会上宣布为其开放(但非开源)模型系列Gemma增加一系列新成员。其中最引人注目的是Gemma2,它是Google下一代Gemma模型,将于6月份推出,拥有270亿个参数模型。PaliGemma是一种预训练的Gemma变体,Google将其描...……更多
李彦宏:百度AI构架有优势,性能较低的国产芯片仍可高效运作!
...响。百度过去主要使用英伟达的高性能GPU来对其自研的AI模型进行训练和执行推理任务。然而,美国在2022年10月首次出台针对AI芯片的出口限制政策,使得英伟达、AMD等厂商的高性能AI芯片的对华出口受限,虽然之后英伟达推出了...……更多
\\\
...图:英伟达AI产品更新路线图就性能的升级对比,H200在大模型Llama和GPT-3.5的输出速度分别是H100的1.9倍和1.6倍,在高性能计算方面的速度达到双核x86 CPU的110倍。而到了GB200,与H100相比,可以将LLM推理工作的性能提高30倍,并将成...……更多
CES 2024前瞻:红绿蓝“三巨头”相约来“挤牙膏”?
...数据,相比于前代7040系列,锐龙8040系列在Llama 2大语言模型和视觉模型方面,性能可提升最多40%。这次的新品共有9个SKU,可以分为8045HS(35-54W)、8040HS(20-30W)和8040U(15-30W)三大类,进一步细分了一下,对于笔记本厂商来说,可以根...……更多
Whisper 模型处理测试:英伟达 RTX 4090 比苹果 M3 Max 慢 86 秒
...比了英伟达的 RTX 4090 显卡。Wehrens 使用 OpenAI 的语音识别模型 Whisper 进行测试,主要测量转录 10 分钟音频文件所需时间。测试结果显示 M1 Pro 处理音频时间需要 216 秒,英伟达 RTX 4090 显卡处理时间需要 186 秒。而具有 76 个 GP……更多
不光鸡生蛋、蛋也能生鸡?英伟达正测试用生成式AI来帮助研发芯片
...需要大量算力的支持,而英伟达的尖端AI芯片则是大语言模型(LLM)开发的首选,几乎垄断了全球算力。那么,如果说尖端AI芯片这只“鸡”,诞生下了生成式AI这只火爆全球的“蛋”。未来这只愈发成熟的“蛋”,是否也有可能...……更多
突发!英伟达高性能AI芯片几被禁 国产算力的春天真来了
...可以对标英伟达A100。彼时有媒体透露,用于讯飞星火大模型训练的是华为最新昇腾芯片910B。时隔两月,《IT时报》记者从多个信源获悉,基于华为昇腾910B芯片的全套国产智算集群,正在国内多个智算中心、大模型厂商、电信运...……更多
...会”(1#AIConferenceforDevelopers)演讲。黄仁勋介绍了运行AI模型的新一代芯片和软件。在本次GTC大会上,英伟达推出了ProjectGR00T人型机器人项目——人型机器人基础模型。英伟达表示,基于GR00T人型机器人基础模型,可以实现通过...……更多
87.8%准确率赶超GPT-4o登顶!谷歌DeepMind发布自动评估模型FLAMe
【新智元导读】谷歌DeepMind推出LLM自动评估模型FLAMe系列,FLAMe-RM-24B模型在RewardBench上表现卓越,以87.8%准确率领先GPT-4o。大语言模型都卷起来了,模型越做越大,token越来越多,输出越来越长。那么问题来了,如何有效地评估大...……更多
Databricks推出目前最强开源 AI
3月31日消息,Databricks近日在推出了一款通用大语言模型DBRX,号称是“目前最强开源AI”,据称在各种基准测试中都超越了“市面上所有的开源模型”。从官方新闻稿中得知,DBRX是一个基于Transformer的大语言模型,采用MoE(Mixture...……更多
微软:从“软件老大”到“AI帝国”
从2009开始开发AI模型,到2019年投资OpenAI,微软正在一步一步成为AI时代的庞然大物。对于微软及其生态系统而言,今年的Ignite技术大会堪称异彩纷呈。微软一口气公布了100多项以 AI 为中心,在云计算基础设施、 模型即服务 MaaS ...……更多
智谱AI发布视频生成大模型,B站参与研发,亦庄提供算力|甲子光年
视频大模型进入百模大战。今年是“视频生成”大模型爆发元年。在过去两个月,我们看到了快手可灵、商汤Vimi、Luma AI、爱诗科技Pixverse、Runway Gen-3等等视频大模型的你追我赶。但上半年的视频生成大模型公司,往往只聚焦在...……更多
全球AI大事记·疯狂三月盘点:9万亿AIGC时代即将到来|钛媒体AGI
刚刚过去的2024年3月,OpenAI最强人工智能(AI)大模型GPT-4发布了一周年,对于生成式 AI 的热度只增不减。过去一个月内,OpenAI、谷歌、微软、英伟达、阿里等多家国内外大科技公司均发布多个关于 AI 的重要消息,动作不断,全...……更多
非Transformer架构站起来了!首个纯无注意力大模型,超越Llama 3.1
Mamba 架构的大模型又一次向 Transformer 发起了挑战。Mamba 架构模型这次终于要「站」起来了?自 2023 年 12 月首次推出以来,Mamba 便成为了 Transformer 的强有力竞争对手。此后,采用 Mamba 架构的模型不断出现,比如 Mistral 发布的首...……更多
“苹果智能”仅面向付费开发者,三大新模块炸裂出圈
...苹果的技术论文表明,TPU架构可以开发更大、更复杂的AI模型。三大新模块炸裂出圈随着iOS18.1Beta版的上线,注册开发者从即日起就能体验到苹果AI的部分功能。据悉,本次更新只支持M系和A17Pro芯片,即在iPhone上仅适用于iPhone15Pro...……更多
更多关于科技的资讯:
香港维尔利健康科技集团健康管理设备通过中国检测上市,开启健康调理新格局
香港维尔利健康科技集团近日宣布,其最新研发的健康管理设备已顺利通过中国权威机构检测,并正式投入市场。此次检测涵盖负氧磁养生舱
2025-03-05 10:52:00
香港中农国际集团携手约翰迪尔,共推全球智能农业科技创新
香港中农国际集团(简称“香港中农国际”)与全球农业机械及智能农业领域的领导者——约翰迪尔(JohnDeere)正式达成战略合作
2025-03-05 10:53:00
中国网3月5日讯(记者李智)2025年全国两会正式拉开帷幕,众多跨国公司高度关注中国两会。松下控股株式会社全球副总裁、集团中国东北亚总代表本间哲朗在接受中国网记者专访时提到了近来热词——人工智能(AI)
2025-03-05 10:58:00
还是极氪车主会玩!直接给极氪 007GT上“新皮肤”了
这几天极氪全新猎装车极氪007GT的热度太高了!目前新车只是亮相,还没正式发布呢,一些会玩的极氪车主就给极氪007GT二创出这么多好看的“车衣”
2025-03-05 10:59:00
亿兰科与泰国Engiga合作升级,共谋国际化发展新布局
近日,Engiga于泰国曼谷盛大举办了开业典礼!作为亿兰科在泰国及整个东南亚区域的核心合作伙伴,Engiga将与我司共谋发展
2025-03-05 11:00:00
华网·两会科技聚焦|京东曹鹏:打破“机房睡大觉”困局,构建异构算力新生态
文|罗曾2025年全国两会期间,中华网财经了解到,全国政协委员、京东集团技术委员会主席曹鹏提交了《关于推进异构算力基础设施建设
2025-03-05 11:02:00
华网·两会科技聚焦|小米雷军:从智驾量产到车联互通、号牌升级,全面激活智能汽车产业
文|罗曾2025年全国两会期间,全国人大代表、小米集团创始人兼CEO雷军提交了五份提案,聚焦自动驾驶量产落地、智能网联新能源汽车生态构建
2025-03-05 11:05:00
本文转自:人民网-重庆频道代表委员说夏泳:加快推动“疆算入渝”打造西部算力枢纽人民网记者 胡虹“‘疆算入渝’的核心在于将新疆丰富的风光电资源与重庆的算力需求相结合
2025-03-05 11:14:00
POSITIVEHOTEL地中海咖啡,摩登时尚生活的一部分
引言近年来,国内咖啡市场持续繁荣增长,消费场景日益多元化,除传统线下咖啡门店外,办公室、家庭等也逐渐成为咖啡消费的重要阵地
2025-03-05 11:17:00
用户增长超预期的秘密:乐信分期乐会员体系深度解析
乐信分期乐通过精细化会员等级体系设计,实现用户留存率阶梯式跃升,黑金会员留存率高达97%,成为消费金融领域用户运营标杆
2025-03-05 11:19:00
造物数科PCB电路板打样必读:丝印环节关键注意事项及PCB共享设计应用探索
在PCB电路板的制造过程中,丝印(Silkscreen)是一个关键步骤,主要用于在电路板上印刷标识、元器件编号、极性标记
2025-03-05 11:32:00
全球首个人形机器人半马即将鸣枪
昨天,在北京市政府新闻办公室举行的发布会上,北京经济技术开发区(也称“北京亦庄”)介绍,全球首个人形机器人半程马拉松赛将于4月13日在北京亦庄半程马拉松赛期间举行
2025-03-05 11:32:00
周云杰代表:不断地寻尖、拔尖,才能真正成为顶尖
本文转自:人民网“走上通道的代表”系列策划——周云杰代表:不断地寻尖、拔尖,才能真正成为顶尖十四届全国人大三次会议首场“代表通道”上
2025-03-05 11:43:00
造物数科:以PCB创新之力,重塑智能家居未来
随着科技的飞速发展,智能家居正逐渐从概念走向现实,为人们的生活带来了前所未有的便捷与舒适。在这一变革中,印制电路板(PCB)作为电子设备的核心组件
2025-03-05 11:43:00
巴展手记:老钱带新贵,中国 AI 加速出海, 处处可见“六小龙”
出品|搜狐科技作者|杨锦“宇树的展台在哪里?这个产品支持 DeepSeek 吗?”作为全球通信行业最大盛会的“巴展”,今年终于被 AI 彻底 攻陷了
2025-03-05 11:43:00