• 我的订阅
  • 头条热搜
00后华裔小哥哈佛辍学组团挑战英伟达,史上最快AI芯片Sohu推理性能超H100二十倍!
...0B,推理性能已超B200十倍,超H100二十倍!刚刚,几位00后小哥从哈佛辍学后成立的公司Etached,宣布再融资1.2亿美元。有史以来最快的Transformer芯片,刚刚诞生了?去年21岁哈佛辍学华裔小哥的神级创业故事,进化到了新的阶段。...……更多
史上最快AI芯片「Sohu」,速度10倍于B200,哈佛辍学生打造
...是 GPU 的 140 倍。大模型时代,全球都缺算力,买铲子的英伟达市值被炒上了天。现在,终于有一家公司带着自己的 AI 芯片来叫板了。今天凌晨,科技圈迎来了一个重要新闻。美国芯片创业公司 Etched 推出了自己的第一块 AI 芯片 ...……更多
全球首款Transformer专用AI芯片Sohu发布:比英伟达H100快20倍
...大型模型时展现出了惊人的性能,其速度超越了行业巨头英伟达的H100高达20倍,即便是与今年3月才面世的顶尖芯片B200相比,Sohu也展现出超过10倍的优越性能。Sohu芯片的最大突破在于它直接将Transformer架构嵌入芯片内部。据Etched...……更多
6月26日消息,英伟达最近成为华尔街的焦点,自2022年底以来,其市值增长了八倍,本月市值更是飙升至超过3万亿美元。与此同时,一家由哈佛大学辍学生创立的初创公司Etched正在崭露头角,打算开发一款竞争性芯片,在人工智...……更多
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
昨天凌晨,英伟达发布了2024财年第四季度财报,业绩再次超出预期。但比起亮眼的业绩,更让人印象深刻的是,英伟达在财报电话会议的一个观点:推理端的爆发,可能很多人还是低估了。据英伟达电话会议披露,公司全年数...……更多
...预计Meta可于年内完成该芯片在自有数据中心的部署,与英伟达GPU协同提供算力。该芯片是Meta去年宣布的内部芯片生产线的第二代产品,有助于减少Meta对占据市场主导地位的英伟达芯片的依赖,并控制运行AI负载带来的成本飙升...……更多
英伟达推出史上最强AI芯片H200:推理性能提升90%,无缘中国市场
...狐科技作者 | 梁昌均在全球算力荒的情况下,AI芯片巨头英伟达加速算力竞赛。当地时间11月13日,英伟达宣布推出新一代人工智能芯片H200,称其是目前世界“最强”的AI芯片。H200此次升级主要体现在带宽更高、容量更大的内存...……更多
英特尔推出新款AI芯片:推理性能比英伟达H100快50%
...750亿参数GPT-3模型的训练时间。英特尔表示,Gaudi 3能够比英伟达上一代H100处理器训练特定大型语言模型的速度快40%,在推理端比英伟达H100快50%。基辛格在现场表示,Gaudi 3的性能将与英伟达H200相当,在某些领域的性能甚至会更...……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
万众瞩目的英伟达GPU技术大会(GTC)如期举行,备受期待的最新AI芯片也被如期推出。当地时间3月18日,黄仁勋发表主题演讲《见证AI的变革时刻》。在两个小时的演讲中,黄仁勋围绕五大板块,介绍了英伟达的最新研发进展:...……更多
AMD MI300绝杀英伟达H100?跑GPT-4性能超25%,AI芯片大决战一触即发
...芯片大决战,不少芯片初创公司跃跃欲试,希望一举打破英伟达的垄断地位。而AMD的MI300,在部署32K上下文窗口的GPT-4模型时,居然比H100效果更好?AI芯片大决战,即将来临!AI硬件开发商初创公司的未来会怎样?Tenstorrent CEO David...……更多
影响英伟达根本逻辑的大争论:OpenAI改变策略意味着什么?谁在撒谎?
...型预训练“缩放定律”定律失效?模型推理成“解药”,英伟达一家独大格局要变天?“缩放定律”指导下,AI大模型预训练目前遭遇瓶颈。据路透12日报道,硅谷主要AI实验室的新模型训练计划目前普遍进展不顺,新模型训练遭...……更多
比GPU性价比高百倍!Cerebras推出新AI推理服务,号称“全球最快”
...线。据官网介绍,该推理服务在保证精度的同时,速度比英伟达的服务快20倍;其处理器内存带宽是英伟达的7000倍,而价格仅为GPU的1/5,性价比提高了100倍。Cerebras Inference还提供多个服务层次,包括免费、开发者和企业级,满足...……更多
突破数据墙!27岁华裔MIT辍学创业8年,年化收入逼近10亿
...资部门参与其中,而且很多注资过的公司也回归了,包括英伟达、Coatue、Y Combinator等等。就在近期,Wang手下的高管团队,再度进行了调整。首席技术官Arun Murthy将离开公司,而去年离开风投公司Benchmark的前优步高管Jason Droege将加...……更多
大模型步入推理Scaling时代,SambaNova如何挑战英伟达的霸主地位
...DU 展现出了独特优势,也被视为 GPU 的最有力竞争者 。与英伟达相比,Sambanova 最新 Llama 3.1 模型上生成 token 的性能快了 10 倍以上,并且通过 cloud.sambanova.ai 公开供开发人员使用。RDU 能够实现更快的推理速率,更利于大模型的部...……更多
英伟达推出新一代ai芯片,预计今年晚些时候发货
美东时间3月18日周一,英伟达举办了2024GTCAI大会,被称为今年全球头号人工智能领域开发者大会。这也是英伟达时隔五年首次让年度GTC会议重回线下,被认为是一次重要的AI盛会。在开发者大会上,英伟达创始人兼CEO黄仁勋进行...……更多
英伟达推出新一代芯片,“AI+”产业有望加速发展
01、AI+的场景变得越来越多过去1年多,英伟达通过为包括OpenAI、Meta等人工智能企业提供包括H200、H100、A100等不同规格的GPU,成为生成式AI技术爆发的“卖水人”。这也让英伟达的GTC人工智能大会,成为科技界“春晚”的势头。...……更多
英伟达深夜炸场,世界最强AI芯片H200震撼发布,性能飙升90%
英伟达的节奏,越来越可怕了。就在刚刚,老黄又一次在深夜炸场——发布目前世界最强的AI芯片H200!较前任霸主H100,H200的性能直接提升了60%到90%。不仅如此,这两款芯片还是互相兼容的。这意味着,使用H100训练/推理模型的...……更多
AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
...得其对于大模型的推理速度提高了10倍以上,甚至超越了英伟达的GPU。推理速度是英伟达GPU的10倍,功耗仅1/10据介绍,Groq的大模型推理芯片是全球首个LPU(Language Processing Unit)方案,是一款基于全新的TSA 架构的Tensor Streaming Proce……更多
英伟达地表最强,黄教主被称作AI界“霉霉”
...丨创业邦(ID:ichuangyebang)作者丨Juny编辑丨海腰图源丨英伟达官方好久没有一场大会让整个科技界都如此躁动。今天早间,在位于硅谷San Jose的麦克内里会议中心,英伟达2024 GTC大会标识已被高高挂起,并在下方悬挂着一行醒目...……更多
...。据了解,新的芯片将被应用于数据中心的推理任务,与英伟达等供应商的GPU一起协同工作。Meta发言人之前表示:我们相信,我们自主开发的加速器将与市面上的GPU相得益彰,为Meta的任务提供最佳的性能与效率平衡。除了更高...……更多
Meta推出新版自研AI芯片:性能较上代提高三倍,降低对英伟达依赖
...排名和推荐系统而设计。分析指出,Meta的目标是降低对英伟达等芯片厂商的依赖。10日当天,Meta(Nasdaq:META)股价收于每股519.83美元,涨0.57%,总市值1.33万亿美元。Wind数据显示,自今年年初以来,Meta股价已涨超47%。从名字来...……更多
黄仁勋:我从不在乎市场份额、英伟达唯一目标是创造新市场
“这是我听过的黄仁勋最好的采访!”英伟达CEO黄仁勋的一场炉边谈话再次引起热议:英伟达从来没有一天谈论过市场份额。我们所讨论的只是:如何创造下一个东西?如何将过去需要一年才能完成的飞轮缩短到一个月?面对Az...……更多
每月141元的ChatGPT Plus订阅重新开放,背后发生了什么?
...吸引顶级研究人员的「利器」。公开报道指出,作为全球英伟达 H100 GPU 储备第二多的公司,Meta 已经将大量 H100 作为吸引顶级 AI 人才的招聘策略。难怪 Altman 新推文下面有网友再次感叹道:「GPU 是新的石油。」图/ X(Twitter) ...……更多
英伟达发布GB200计算卡:2080亿个晶体管,AI性能提升5倍
在这个星球上,英伟达毫无疑问是如今的AI之王,其推出的H100已经被众多科技企业抢购,而英伟达的营收和利润也是节节攀升。但是在这个算力决定效率的今天,英伟达H100计算卡的算力还远远不够,尤其是像Sora这样的文生视频...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...阶段性答卷,向外界表明自己的野心与实力。有趣的是,英伟达CEO黄仁勋也来到现场,为Azure和英伟达合作的AIfoundryservice站台。纳德拉当着黄仁勋的面发布自研AI芯片,难免让人浮想联翩。英伟达对高算力芯片的垄断,早已成为...……更多
英伟达展示blackwell平台,否认推迟上市
8月24日消息,英伟达邀请部分媒体举办吹风会,向科技记者首次展示了Blackwell平台。英伟达将出席8月25-27日举办的HotChips2024活动,展示Blackwell平台在数据中心投入使用的相关情况。否认Blackwell推迟上市消息英伟达在本次吹风会...……更多
AI算力大战开启:英特尔AI芯片性能超越H100,谷歌云推出最强ARM芯片|钛媒体AGI
...及 2 倍的网络带宽提升。同时,在AI模型算力中,相比于英伟达H100 GPU,Gaudi3 AI芯片的模型训练速度、推理速度分别提升40%和50%,平均性能提高 50%,能效平均提高40%,而成本仅为H100的一小部分。英特尔预计,Gaudi 3将于2024年第二...……更多
ai芯片初创公司cerebras首次公开募股
...该公司致力于通过其技术推动深度学习的计算革命。挑战英伟达Cerebras引用基准分析提供者ArtificialAnalysis测试结果,其公司芯片在AI推理方面比英伟达当前一代Hopper芯片快20倍,价格更便宜只有英伟达GPU的1/5。Cerebras首席执行员费...……更多
响应速度碾压英伟达,AI芯片领域又出“王炸” 创始人豪言将把计算成本“降至零”
...初创企业在软件层面“争奇斗艳”。而在硬件层面,似乎英伟达已经“一骑绝尘”,该公司生产的GPU芯片“一片难求”,全球AI厂商都争相求购。▲Groq芯片不过就在当地时间20日,初创芯片企业Groq开放了免费试用,其芯片响应速...……更多
OpenAI造芯计划曝光!拟自研AI芯片 英伟达强敌来了
...,最近也出现了AI硬件共同开发、评估相关岗位。摆脱对英伟达的过度依赖,OpenAI是要动真格了。自ChatGPT掀起最新AI趋势后,算力焦虑笼罩在各大AI厂商头上。无论是模型训练推理,还是API调用都需要算力作为支撑,有多少卡也...……更多
更多关于科技的资讯:
诺奖得主迈克尔·莱维特担任然益多益生菌首席科学顾问
近日,然益多“自然的,益处更多”品牌母公司、专注基因细胞科学的自然有益集团宣布将由诺奖得主迈克尔·莱维特担任其首席科学顾问
2024-12-18 10:12:00
中国太保上海金融科技国际论坛 “共建数字金融,共享数智生态”
12月14日,由中国太保主办的第六届上海金融科技国际论坛“共建数字金融,共享数智生态”平行论坛在上海陆家嘴中国金融信息中心成功举行
2024-12-18 10:16:00
近日,人保财险唐山市分公司中标唐山市住宅专项维修资金增值收益购买电梯综合保险项目,将联合共保体保险机构为唐山市主城区提供“保险+科技+服务”新模式电梯综合保险服务
2024-12-18 10:56:00
荣耀gt正式登场,有什么亮眼之处
时间来到12月,中端性能手机市场展开了一场激烈的竞争,各家性能旗舰纷纷登场,各种满配让人看得眼花缭乱。12月16日晚,荣耀GT也正式登场
2024-12-18 11:03:00
天津地铁可以刷支付宝微信乘车了 扫码阅读手机版
图片由轨道交通集团提供天津北方网讯:昨日记者发现,天津地铁乘车码在支付宝和微信都已上线,对于市民和外地游客来说更加友好
2024-12-18 11:11:00
揭秘加装电梯的钢结构工程费用:你的预算,真的准备好了
加装电梯,对于老旧小区来说,无疑是一项提升居住品质的重大工程。而在电梯加装过程中,钢结构工程费用是其中一个重要的组成部分
2024-12-18 11:12:00
“真抢不到票啊!”近日,在社交媒体上,如何送父母去刀郎演唱会现场的讨论帖、攻略帖热度颇高。票务软件中,刀郎已经“战胜”凤凰传奇
2024-12-18 11:15:00
□ 本报综合整理12月11日至12日,中央经济工作会议提出“积极发展首发经济”,引爆市场热度,多只首发经济概念股12月16日涨停
2024-12-18 11:16:00
威海首个!全省仅入选8个
齐鲁晚报·齐鲁壹点客户端 田佳玉 通讯员 林慧芹近日,工信部公布了2024年物联网赋能行业发展典型案例名单,三角轮胎股份有限公司申报的“物联网在高性能乘用车胎智能工厂的应用”案例入选
2024-12-18 11:17:00
余承东官宣智界R7增程版12月19日上市,价格或低于纯电版?
12月16日,余承东发布微博:智界R7增程版不止续航超长!更多惊喜,12月19日见!这也是智界系列首款增程车型。目前纯电版智界R7起售价为25
2024-12-18 11:17:00
世界最大压缩空气储能电站开工建设:一次储能可充10万辆新能源汽车
快科技12月18日消息,据报道,世界规模最大的压缩空气储能电站——华能金坛盐穴压缩空气储能发电二期项目,在江苏省常州市隆重宣布启动建设
2024-12-18 11:20:00
闪迪惊艳变身!全新像素风品牌Logo亮相
快科技12月18日消息,闪迪(Sandisk)正式对外公布了其采用像素风格设计的全新商标,并宣布该商标计划于2025年初正式启用
2024-12-18 11:20:00
本文转自:人民网人民网记者 许维娜“最近咨询空调、中央集成暖气片这些品类的用户明显增多。”位于北京朝阳区的一家家电卖场经理表示
2024-12-18 11:28:00
慕思第七次被授予“全国家具标准化先进集体”称号
2024年12月6日,全国家具行业标准化工作会暨全国家具标准化技术委员会第四届一次全体委员会议日前在杭州召开,会上,慕思被授予“2024年度全国家具标准化先进集体“荣誉称号
2024-12-18 11:47:00
一加Ace 5系列手机或12月26日发布,价格将会极具竞争力
12月17日,一加举行了一加11周年·加油班会,在这次活动上,一加科技李杰透露了一加Ace 5系列的部分细节:一加Ace 5系列大概是今年最香的骁龙8至尊版手机
2024-12-18 11:50:00