英伟,模型,模型,英伟,精度,内存头条新闻资讯订阅

我的订阅
头条热搜

我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！

虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！

头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。

英伟达发布Llama-3.1-Nemotron-51B AI

IT之家 9 月 25 日消息，英伟达 9 月 23 日发布博文，宣布推出 Llama-3.1-Nemotron-51B AI 模型，源自 Meta 公司的 Llama-3.1-70B，不过创新使用神经架构搜索（NAS）方法，建立了一个高度准确和高效的模型。Llama-3.1-Nemotron-5……更多

2024-09-26 09:49:00英伟,模型,模型,英伟,精度,内存

英伟达blackwell计算引擎制造商推出的ai模型

如果还有人想在AI处理领域跟英伟达正面抗衡，那最好再多做几手准备。除了最强大的技术储备之外，大家可能还需要雄厚的资金支持和上天的意外眷顾。换句话说，如今压制英伟达的唯一可能性恐怕只有天降神迹。日前在圣何...……更多

2024-03-20 02:59:00英伟,制造商,模型,引擎,制造,英伟

AI推理速度提升超10倍，Groq LPU能否取代英伟达GP

...得其对于大模型的推理速度提高了10倍以上，甚至超越了英伟达的GPU。推理速度是英伟达GPU的10倍，功耗仅1/10据介绍，Groq的大模型推理芯片是全球首个LPU（Language Processing Unit）方案，是一款基于全新的TSA 架构的Tensor Streaming Proce……更多

2024-02-21 14:03:00英伟,推理,速度,加速卡,内存,芯片

黄仁勋：华为是英伟达在AI芯片领域“非常强大”的竞争对手

12月6日消息，英伟达首席执行官黄仁勋今日表示，在生产最好的人工智能芯片的竞争中，华为是英伟达“非常强大”（very formidable）的竞争对手之一。周三，黄仁勋在新加坡接受采访时表示，华为、英特尔和不断壮大的半导体...……更多

2023-12-06 14:12:00华为,英伟,芯片,对手,竞争,领域

比GPU性价比高百倍！Cerebras推出新AI推理服务，号

...线。据官网介绍，该推理服务在保证精度的同时，速度比英伟达的服务快20倍；其处理器内存带宽是英伟达的7000倍，而价格仅为GPU的1/5，性价比提高了100倍。Cerebras Inference还提供多个服务层次，包括免费、开发者和企业级，满足...……更多

2024-08-29 09:49:00性价比高,推理,性价比,全球,服务,推理

amd旗舰aigpu加速器mi300x对比英伟达h100

...ngAI”活动中，正式宣布了旗舰AIGPU加速器MI300X，其性能比英伟达的H100高出60%。性能：AMD公司在演讲过程中，对比英伟达的H100加速卡，分享了MI300X的性能参数情况，IT之家附上数值如下：内存容量是H100的2.4倍内存带宽是H100的1.6倍...……更多

2023-12-08 05:06:00英伟,加速器,旗舰,芯片,堆栈,加速卡

AMD的GPU跑AI模型终于Yes了？PK英伟达H100不带

AMD vs 英伟达绝对算是一个长盛不衰的话题 —— 从玩游戏用哪家强到如今训练 AI 哪个更高效？原因也很简单：它们的 GPU 产品存在直接竞争关系。当然，答案通常都偏向于英伟达，尤其是在 AI 算力方面，正如前些天李沐在上海...……更多

2024-09-05 09:49:00英伟,模型,英伟,内存,推理,性能

英伟达特供芯片卖不动了？黄仁勋穿上东北花袄“示好”，中国大厂

算力芯片的火，从2023年一直燃烧到2024年。开年不久，英伟达CEO黄仁勋时隔四年到访中国大陆，还穿上了东北大花袄与国内员工共舞，气氛无比热络，似乎是在对自家芯片遇冷的传言进行某种回应。2023年，英伟达的AI芯片成了科...……更多

2024-01-30 16:23:00上东,大厂,英伟,中国,野心,芯片

PyTorch官宣：告别CUDA，GPU推理迎来Triton

【新智元导读】用英伟达的GPU，但可以不用CUDA？PyTorch官宣，借助OpenAI开发的Triton语言编写内核来加速LLM推理，可以实现和CUDA类似甚至更佳的性能。试问，有多少机器学习小白曾被深度学习框架和CUDA的兼容问题所困扰？又有多...……更多

2024-09-07 09:48:00新时代,推理,内核,矩阵,乘法,英伟

发布一揽子新品，AMD再次挑战英伟达！但败局早已注定？

...AI PC处理器、EPYC处理器、GPU加速卡等多款重磅产品。作为英伟达为数不多的友商，AMD对这一波新品寄予厚望，发布会还特意邀请了OpenAI、微软等巨头的大佬来站台，然而市场对其产品却不看好，其股价也应声下跌。难道AMD挑战英...……更多

2024-10-15 17:56:00英伟,败局,新品,再次,英伟,性能

史上最快AI芯片「Sohu」，速度10倍于B200，哈佛辍学

...是 GPU 的 140 倍。大模型时代，全球都缺算力，买铲子的英伟达市值被炒上了天。现在，终于有一家公司带着自己的 AI 芯片来叫板了。今天凌晨，科技圈迎来了一个重要新闻。美国芯片创业公司 Etched 推出了自己的第一块 AI 芯片 ...……更多

2024-06-27 09:24:00辍学生,哈佛,芯片,速度,芯片,模型

AMD MI300绝杀英伟达H100？跑GPT-4性能超25

...芯片大决战，不少芯片初创公司跃跃欲试，希望一举打破英伟达的垄断地位。而AMD的MI300，在部署32K上下文窗口的GPT-4模型时，居然比H100效果更好？AI芯片大决战，即将来临！AI硬件开发商初创公司的未来会怎样？Tenstorrent CEO David...……更多

2023-11-06 15:12:00英伟,大决战,芯片,性能,英伟,芯片

一行代码训练成本再降30%，AI大模型混合精度训练再升级

...caling，所以计算效率较低，但是对收敛性影响较小。根据英伟达的报告，这两种scaling方案的计算效率差距在10%以内。Colossal-AI采用了对训练收敛性影响较小的实时scaling方案，同时实现有着不输其他延迟scaling实现的性能。在单卡H...……更多

2024-09-26 13:34:00训练,精度,一行,混合,模型,成本

AMD发布最强AI芯片，对标英伟达Blackwell，202

...率先在其商用 PC 上采用 Ryzen AI Pro 300 系列处理器。对标英伟达最强 AI 芯片：Instinct MI355X 加速卡最近，全球 AI 芯片供不应求，AMD 已成为 GPU 领域的重要玩家，今天该公司宣布了最新的 AI 加速器和用于 AI 基础设施的网络解决方...……更多

2024-10-12 09:49:00英伟,芯片,性能,支持,加速器,处理

英伟达阉割版B200A曝光！最强芯片架构难产：产能不够，刀法

英伟达最强芯片B200被迫推迟三个月，传闻闹的沸沸扬扬。老黄的对策来了：阉割版芯片B200A曝光。这难道就是“产能不够，刀法来凑”？没错，根据SemiAnalysis分析，B200遇到的主要问题正是产能不足，更具体来说是台积电的新封...……更多

2024-08-06 09:27:00英伟,刀法,架构,芯片,不够,英伟

英伟达发布80亿参数的ai模型

8月23日消息，英伟达（NVIDIA）宣布，其已成功研发并发布了一款全新的AI模型，该模型拥有高达80亿的参数规模，具备精度高、计算效率高等优点，可在GPU加速的数据中心、云和工作站上运行。据介绍，这款新发布的AI模型是基...……更多

2024-08-24 05:15:00英伟,模型,参数,模型,英伟,应用

推理性能提升30倍！英伟达发布史上最强AI芯片，黄仁勋：将成

万众瞩目的英伟达GPU技术大会（GTC）如期举行，备受期待的最新AI芯片也被如期推出。当地时间3月18日，黄仁勋发表主题演讲《见证AI的变革时刻》。在两个小时的演讲中，黄仁勋围绕五大板块，介绍了英伟达的最新研发进展：...……更多

2024-03-19 08:53:00英伟,推理,芯片,性能,成功,产品

英伟达推出史上最强AI芯片H200：推理性能提升90%，无缘

...狐科技作者 | 梁昌均在全球算力荒的情况下，AI芯片巨头英伟达加速算力竞赛。当地时间11月13日，英伟达宣布推出新一代人工智能芯片H200，称其是目前世界“最强”的AI芯片。H200此次升级主要体现在带宽更高、容量更大的内存...……更多

2023-11-14 14:05:00英伟,中国,推理,芯片,性能,市场

自研芯片三国杀，头部智驾新战场，蔚小理谁强？

...章，你将看到：新势力执着自研芯片的原因；特斯拉、英伟达设计大算力芯片的两种不同路径；为什么一代FSD算力不大，却能跑端到端大模型；蔚来神玑一颗顶四颗，到底是多少算力？ 1颗小鹏图灵芯片，相当于3颗OrinX。 01 新...……更多

2024-10-11 09:53:00头部,战场,芯片,三国,芯片,小鹏

晶圆级AI芯片WSE-3性能公布：80亿参数模型上每秒生成1

...40GB，内存带宽为20PB/s，结构带宽高达220PB/s。如果将其与英伟达的H100相比，WSE-3面积将是H100的57倍，内核数量是H100的52倍，片上内存是H100的880倍，内存带宽是H100的7000倍，结构带宽是H100的3715倍。（ H200 的 HBM3e 仅拥有 4.……更多

2024-09-02 13:36:00晶圆,芯片,生成,模型,性能,参数

00后华裔小哥哈佛辍学组团挑战英伟达，史上最快AI芯片Soh

...d又宣布了炸裂的新消息：已筹到1.2亿美元。就在上周，英伟达的市值达到3.3万亿美元，超过微软成为全球第一。而Etched相信，自己的35人团队能够击败英伟达。他们的豪放预言，得到了硅谷真金白银的支持。投资名单中，是一...……更多

2024-06-27 09:25:00小哥,英伟,哈佛,华裔,推理,芯片

疯狂一夜！美国AMD、谷歌纷纷亮出大杀器，人类迎来巨变前夜？

...夜，谷歌（Google）、AMD先后上新，终于要“打爆”OpenAI和英伟达了。钛媒体App 12月7日消息，北京时间今天凌晨，谷歌CEO桑达尔·皮查伊 (Sundar Pichai) 宣布，谷歌公司正式发布迄今为止功能最强大、最通用的多模态人工智能（AI）...……更多

2023-12-07 13:02:00美国,人类,疯狂,焦点,媒体,英伟

响应速度碾压英伟达，AI芯片领域又出“王炸” 创始人豪言将把

...初创企业在软件层面“争奇斗艳”。而在硬件层面，似乎英伟达已经“一骑绝尘”，该公司生产的GPU芯片“一片难求”，全球AI厂商都争相求购。▲Groq芯片不过就在当地时间20日，初创芯片企业Groq开放了免费试用，其芯片响应速...……更多

2024-02-22 16:46:00英伟,豪言,创始人,芯片,成本,速度

最强大模型训练芯片H200发布！

英伟达老黄，带着新一代GPU芯片H200再次炸场。官网毫不客气就直说了，“世界最强GPU，专为AI和超算打造”。听说所有AI公司都抱怨内存不够？这回直接141GB大内存，与H100的80GB相比直接提升76%。作为首款搭载HBM3e内存的GPU，内存...……更多

2023-11-14 20:51:00芯片,模型,训练,英伟,内存,节点

英伟达尖端图像处理半导体h200开始供货

3月28日消息，据报道，英伟达的尖端图像处理半导体（GPU）H200现已开始供货。H20为面向AI领域的半导体，性能超过当前主打的H100。根据英伟达方面公布的性能评测结果，以Meta公司旗下大语言模型Llama2处理速度为例，H2000相比于H...……更多

2024-03-30 02:04:00英伟,图像处理,尖端,半导体,供货,图像

745TFLOPS！Tenstorrent推768核RISC

...，性能高达745 TOPS，尽管芯片集成的内存容量和带宽低于英伟达A100，但是整体的AI性能和可扩展性更优。据介绍，这款Blackhole AI芯片共拥有768个RISC-V内核，包括16个Big RISC-V内核、752个Baby RISC-V内核，其中大量的Baby RISC-V内核被分……更多

2024-08-30 09:52:00英伟,芯片,内核,英伟,芯片,以太

英伟达发布mistral-nemoai大语言模型

7月19日消息，英伟达联合法国初创公司MistralAI，今天发布了全新的Mistral-NeMoAI大语言模型，拥有120亿个参数，上下文窗口（AI模型一次能够处理的最大Token数量）为12.8万个token。VentureBeat与Midjourney合作制作Mistral-NeMoAI大模……更多

2024-07-19 22:18:00英伟,模型,语言,人工智能,模型,人工