• 我的订阅
  • 头条热搜
00后华裔小哥哈佛辍学组团挑战英伟达,史上最快AI芯片Sohu推理性能超H100二十倍!
...0B,推理性能已超B200十倍,超H100二十倍!刚刚,几位00后小哥从哈佛辍学后成立的公司Etached,宣布再融资1.2亿美元。有史以来最快的Transformer芯片,刚刚诞生了?去年21岁哈佛辍学华裔小哥的神级创业故事,进化到了新的阶段。...……更多
史上最快AI芯片「Sohu」,速度10倍于B200,哈佛辍学生打造
...是 GPU 的 140 倍。大模型时代,全球都缺算力,买铲子的英伟达市值被炒上了天。现在,终于有一家公司带着自己的 AI 芯片来叫板了。今天凌晨,科技圈迎来了一个重要新闻。美国芯片创业公司 Etched 推出了自己的第一块 AI 芯片 ...……更多
全球首款Transformer专用AI芯片Sohu发布:比英伟达H100快20倍
...大型模型时展现出了惊人的性能,其速度超越了行业巨头英伟达的H100高达20倍,即便是与今年3月才面世的顶尖芯片B200相比,Sohu也展现出超过10倍的优越性能。Sohu芯片的最大突破在于它直接将Transformer架构嵌入芯片内部。据Etched...……更多
6月26日消息,英伟达最近成为华尔街的焦点,自2022年底以来,其市值增长了八倍,本月市值更是飙升至超过3万亿美元。与此同时,一家由哈佛大学辍学生创立的初创公司Etched正在崭露头角,打算开发一款竞争性芯片,在人工智...……更多
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
昨天凌晨,英伟达发布了2024财年第四季度财报,业绩再次超出预期。但比起亮眼的业绩,更让人印象深刻的是,英伟达在财报电话会议的一个观点:推理端的爆发,可能很多人还是低估了。据英伟达电话会议披露,公司全年数...……更多
...预计Meta可于年内完成该芯片在自有数据中心的部署,与英伟达GPU协同提供算力。该芯片是Meta去年宣布的内部芯片生产线的第二代产品,有助于减少Meta对占据市场主导地位的英伟达芯片的依赖,并控制运行AI负载带来的成本飙升...……更多
英伟达推出史上最强AI芯片H200:推理性能提升90%,无缘中国市场
...狐科技作者 | 梁昌均在全球算力荒的情况下,AI芯片巨头英伟达加速算力竞赛。当地时间11月13日,英伟达宣布推出新一代人工智能芯片H200,称其是目前世界“最强”的AI芯片。H200此次升级主要体现在带宽更高、容量更大的内存...……更多
英特尔推出新款AI芯片:推理性能比英伟达H100快50%
...750亿参数GPT-3模型的训练时间。英特尔表示,Gaudi 3能够比英伟达上一代H100处理器训练特定大型语言模型的速度快40%,在推理端比英伟达H100快50%。基辛格在现场表示,Gaudi 3的性能将与英伟达H200相当,在某些领域的性能甚至会更...……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
万众瞩目的英伟达GPU技术大会(GTC)如期举行,备受期待的最新AI芯片也被如期推出。当地时间3月18日,黄仁勋发表主题演讲《见证AI的变革时刻》。在两个小时的演讲中,黄仁勋围绕五大板块,介绍了英伟达的最新研发进展:...……更多
AMD MI300绝杀英伟达H100?跑GPT-4性能超25%,AI芯片大决战一触即发
...芯片大决战,不少芯片初创公司跃跃欲试,希望一举打破英伟达的垄断地位。而AMD的MI300,在部署32K上下文窗口的GPT-4模型时,居然比H100效果更好?AI芯片大决战,即将来临!AI硬件开发商初创公司的未来会怎样?Tenstorrent CEO David...……更多
影响英伟达根本逻辑的大争论:OpenAI改变策略意味着什么?谁在撒谎?
...型预训练“缩放定律”定律失效?模型推理成“解药”,英伟达一家独大格局要变天?“缩放定律”指导下,AI大模型预训练目前遭遇瓶颈。据路透12日报道,硅谷主要AI实验室的新模型训练计划目前普遍进展不顺,新模型训练遭...……更多
比GPU性价比高百倍!Cerebras推出新AI推理服务,号称“全球最快”
...线。据官网介绍,该推理服务在保证精度的同时,速度比英伟达的服务快20倍;其处理器内存带宽是英伟达的7000倍,而价格仅为GPU的1/5,性价比提高了100倍。Cerebras Inference还提供多个服务层次,包括免费、开发者和企业级,满足...……更多
突破数据墙!27岁华裔MIT辍学创业8年,年化收入逼近10亿
...资部门参与其中,而且很多注资过的公司也回归了,包括英伟达、Coatue、Y Combinator等等。就在近期,Wang手下的高管团队,再度进行了调整。首席技术官Arun Murthy将离开公司,而去年离开风投公司Benchmark的前优步高管Jason Droege将加...……更多
大模型步入推理Scaling时代,SambaNova如何挑战英伟达的霸主地位
...DU 展现出了独特优势,也被视为 GPU 的最有力竞争者 。与英伟达相比,Sambanova 最新 Llama 3.1 模型上生成 token 的性能快了 10 倍以上,并且通过 cloud.sambanova.ai 公开供开发人员使用。RDU 能够实现更快的推理速率,更利于大模型的部...……更多
英伟达推出新一代ai芯片,预计今年晚些时候发货
美东时间3月18日周一,英伟达举办了2024GTCAI大会,被称为今年全球头号人工智能领域开发者大会。这也是英伟达时隔五年首次让年度GTC会议重回线下,被认为是一次重要的AI盛会。在开发者大会上,英伟达创始人兼CEO黄仁勋进行...……更多
英伟达推出新一代芯片,“AI+”产业有望加速发展
01、AI+的场景变得越来越多过去1年多,英伟达通过为包括OpenAI、Meta等人工智能企业提供包括H200、H100、A100等不同规格的GPU,成为生成式AI技术爆发的“卖水人”。这也让英伟达的GTC人工智能大会,成为科技界“春晚”的势头。...……更多
英伟达深夜炸场,世界最强AI芯片H200震撼发布,性能飙升90%
英伟达的节奏,越来越可怕了。就在刚刚,老黄又一次在深夜炸场——发布目前世界最强的AI芯片H200!较前任霸主H100,H200的性能直接提升了60%到90%。不仅如此,这两款芯片还是互相兼容的。这意味着,使用H100训练/推理模型的...……更多
AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
...得其对于大模型的推理速度提高了10倍以上,甚至超越了英伟达的GPU。推理速度是英伟达GPU的10倍,功耗仅1/10据介绍,Groq的大模型推理芯片是全球首个LPU(Language Processing Unit)方案,是一款基于全新的TSA 架构的Tensor Streaming Proce……更多
...。据了解,新的芯片将被应用于数据中心的推理任务,与英伟达等供应商的GPU一起协同工作。Meta发言人之前表示:我们相信,我们自主开发的加速器将与市面上的GPU相得益彰,为Meta的任务提供最佳的性能与效率平衡。除了更高...……更多
英伟达地表最强,黄教主被称作AI界“霉霉”
...丨创业邦(ID:ichuangyebang)作者丨Juny编辑丨海腰图源丨英伟达官方好久没有一场大会让整个科技界都如此躁动。今天早间,在位于硅谷San Jose的麦克内里会议中心,英伟达2024 GTC大会标识已被高高挂起,并在下方悬挂着一行醒目...……更多
Meta推出新版自研AI芯片:性能较上代提高三倍,降低对英伟达依赖
...排名和推荐系统而设计。分析指出,Meta的目标是降低对英伟达等芯片厂商的依赖。10日当天,Meta(Nasdaq:META)股价收于每股519.83美元,涨0.57%,总市值1.33万亿美元。Wind数据显示,自今年年初以来,Meta股价已涨超47%。从名字来...……更多
黄仁勋:我从不在乎市场份额、英伟达唯一目标是创造新市场
“这是我听过的黄仁勋最好的采访!”英伟达CEO黄仁勋的一场炉边谈话再次引起热议:英伟达从来没有一天谈论过市场份额。我们所讨论的只是:如何创造下一个东西?如何将过去需要一年才能完成的飞轮缩短到一个月?面对Az...……更多
每月141元的ChatGPT Plus订阅重新开放,背后发生了什么?
...吸引顶级研究人员的「利器」。公开报道指出,作为全球英伟达 H100 GPU 储备第二多的公司,Meta 已经将大量 H100 作为吸引顶级 AI 人才的招聘策略。难怪 Altman 新推文下面有网友再次感叹道:「GPU 是新的石油。」图/ X(Twitter) ...……更多
英伟达发布GB200计算卡:2080亿个晶体管,AI性能提升5倍
在这个星球上,英伟达毫无疑问是如今的AI之王,其推出的H100已经被众多科技企业抢购,而英伟达的营收和利润也是节节攀升。但是在这个算力决定效率的今天,英伟达H100计算卡的算力还远远不够,尤其是像Sora这样的文生视频...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...阶段性答卷,向外界表明自己的野心与实力。有趣的是,英伟达CEO黄仁勋也来到现场,为Azure和英伟达合作的AIfoundryservice站台。纳德拉当着黄仁勋的面发布自研AI芯片,难免让人浮想联翩。英伟达对高算力芯片的垄断,早已成为...……更多
英伟达展示blackwell平台,否认推迟上市
8月24日消息,英伟达邀请部分媒体举办吹风会,向科技记者首次展示了Blackwell平台。英伟达将出席8月25-27日举办的HotChips2024活动,展示Blackwell平台在数据中心投入使用的相关情况。否认Blackwell推迟上市消息英伟达在本次吹风会...……更多
AI算力大战开启:英特尔AI芯片性能超越H100,谷歌云推出最强ARM芯片|钛媒体AGI
...及 2 倍的网络带宽提升。同时,在AI模型算力中,相比于英伟达H100 GPU,Gaudi3 AI芯片的模型训练速度、推理速度分别提升40%和50%,平均性能提高 50%,能效平均提高40%,而成本仅为H100的一小部分。英特尔预计,Gaudi 3将于2024年第二...……更多
ai芯片初创公司cerebras首次公开募股
...该公司致力于通过其技术推动深度学习的计算革命。挑战英伟达Cerebras引用基准分析提供者ArtificialAnalysis测试结果,其公司芯片在AI推理方面比英伟达当前一代Hopper芯片快20倍,价格更便宜只有英伟达GPU的1/5。Cerebras首席执行员费...……更多
响应速度碾压英伟达,AI芯片领域又出“王炸” 创始人豪言将把计算成本“降至零”
...初创企业在软件层面“争奇斗艳”。而在硬件层面,似乎英伟达已经“一骑绝尘”,该公司生产的GPU芯片“一片难求”,全球AI厂商都争相求购。▲Groq芯片不过就在当地时间20日,初创芯片企业Groq开放了免费试用,其芯片响应速...……更多
OpenAI造芯计划曝光!拟自研AI芯片 英伟达强敌来了
...,最近也出现了AI硬件共同开发、评估相关岗位。摆脱对英伟达的过度依赖,OpenAI是要动真格了。自ChatGPT掀起最新AI趋势后,算力焦虑笼罩在各大AI厂商头上。无论是模型训练推理,还是API调用都需要算力作为支撑,有多少卡也...……更多
更多关于科技的资讯:
雷克沙全球首发DDR5-6000 CL26超低延迟内存:AMD专属优化
快科技12月16日消息,雷克沙近日上线了高频率、低延迟的新款内存套条DDR5-6000 CL26 Ares战神之翼,如此组合还是第一次看到
2024-12-16 00:48:00
为什么我们的身体会带静电? 3种方法防止静电攻击
门把手、水龙头、触碰到另外一个人……一到冬天被静电击中是常有的事。但是静电到底是什么呢,为什么它会击中我们,我们又要如何才能防止那猝不及防地电击呢
2024-12-16 00:48:00
刷屏一年的飞行汽车 真能飞了?
快到年底了,不知道大家对今年的科技新词有啥看法,反正在咱编辑部这边,倒是一直有个高频出现的词——低空经济。自打去年年底
2024-12-16 00:48:00
特斯拉击败福特和通用,成为“美国制造”冠军
12月15日消息,特斯拉击败了传统的美国汽车巨头福特和通用汽车,成为了“最美国制造”汽车的冠军。根据美国大学Kogod商学院最新发布的排名
2024-12-16 01:11:00
小米pocox7系列外观渲染图曝光:搭载1.5k曲面屏
有媒体曝光了小米POCOX7系列的外观渲染图,引发了广泛关注。据悉,小米POCOX7系列包含标准版和Pro版两款机型,两款机型在外观设计上各有特色
2024-12-16 01:31:00
联发科天玑8400游戏能效表现不错,挑战高通骁龙8gen3
12月14日消息,博主数码闲聊站爆料,联发科天玑8400游戏能效表现不错,这次发哥要挑战对手高通骁龙8Gen3。据悉,天玑8400基于台积电4nm制程打造
2024-12-16 02:38:00
《双人成行》Steam平台迎来 2 折新史低折扣
12月15日消息,动作冒险游戏《双人成行》现已在Steam平台迎来2折新史低折扣,游戏原价198元,优惠后39.6元,截止日期为12月20日
2024-12-16 02:51:00
“中国温度”惠及世界(2024年终系列报道·科技篇④)
本文转自:人民日报海外版本报记者 张保淑《人民日报海外版》(2024年12月16日第 09 版)中国新一代可控核聚变大科学装置“中国环流三号”
2024-12-16 03:37:00
本文转自:人民日报海外版浙江省嵊州市——实景三维系统助力社会治理《人民日报海外版》(2024年12月16日第 05 版)本报电(朱巍)近日
2024-12-16 03:37:00
苹果发布ios18.2正式版,电池续航时间变化
12月15日消息,苹果最新发布了iOS18.2正式版,为iPhone15Pro和iPhone16带来了更多AI功能,包括Siri接入ChatGPT
2024-12-16 03:47:00
上汽大众2025款朗逸燃油轿车限时降价
12月15日消息,上汽大众宣布旗下2025款朗逸新锐燃油轿车迎来限时降价1万元,该车原价7.99万元起,年前大定即可享6
2024-12-16 04:07:00
瑞士洛桑联邦理工学院公布仿生学无人机
12月15日消息,瑞士洛桑联邦理工学院(EPFL)的研究团队在12月7日发布论文,公布了一款名为RAVEN的仿生学无人机
2024-12-16 04:09:00
比亚迪海狮07电池续航信息曝光
12月15日消息,比亚迪海狮07DM-i/DM-p两款车型现身第390批《道路机动车辆生产企业及产品公告》新产品公示,IT之家今日从工信部获取到了比亚迪海狮07的电池及续航信息
2024-12-16 04:52:00
2025款诺基亚105/110功能机规格曝光
12月15日消息,HMD现已悄悄在欧洲推出了2025款诺基亚105/110功能机(Nokia105/1104G2ndEdition)
2024-12-16 04:53:00
五菱宏光miniev四门版开启预订,一共三款幻彩高定车色
12月15日消息,五菱宏光MINIEV四门版实车视频现已公布,这款新车于12月12日开启预订(暂未公布价格信息)。视频中
2024-12-16 04:55:00