• 我的订阅
  • 头条热搜
大模型步入推理Scaling时代,SambaNova如何挑战英伟达的霸主地位
...DU 展现出了独特优势,也被视为 GPU 的最有力竞争者 。与英伟达相比,Sambanova 最新 Llama 3.1 模型上生成 token 的性能快了 10 倍以上,并且通过 cloud.sambanova.ai 公开供开发人员使用。RDU 能够实现更快的推理速率,更利于大模型的部...……更多
三星成为英伟达gddr7显存供应商
...显存,而其他型号可能会选择28Gbps的版本。即使是28Gbps的解决方案,仍然为RTX5090提供了显著的性能提升,其显存带宽将达到1792GB/s,相比RTX4090的1008GB/s提升了78%。需要注意的是,由于RTX5090采用了更宽的512-bit显存接口,所需内存...……更多
英伟达深夜炸场,世界最强AI芯片H200震撼发布,性能飙升90%
英伟达的节奏,越来越可怕了。就在刚刚,老黄又一次在深夜炸场——发布目前世界最强的AI芯片H200!较前任霸主H100,H200的性能直接提升了60%到90%。不仅如此,这两款芯片还是互相兼容的。这意味着,使用H100训练/推理模型的...……更多
大模型推理乘上RISC-V快车?国内AI芯片创企推大模型系列一体机
...规模的大模型,这也是专门针对私有化部署提供的系统级解决方案。 在私有的处理器指令集Arm和x86之外,希姆计算的产品为满足市场算力需求提供了在用户高并发、技术自主可控方面具有优势的新选择。AI大模型在推理侧的新...……更多
微软被曝未来3年花1000亿美金囤芯片;杨元庆:AI不是取代人类的智能|钛媒体AGI
...而落地的途径,就是涵盖智能设备、智能基础设施、智能解决方案和服务的三大支柱。开源大模型Llama3推出,百度智能云支持其全系列训练推理北京时间4月19日凌晨,Meta公布期待已久的多模态开源大模型Llama 3系列,目前包括80...……更多
挑战英伟达!OpenAI被曝接洽博通联合开发AI芯片
...主要从事半导体设计、开发和供应,以及企业软件和安全解决方案。6月,博通公布截至5月5日的第二财季业绩,营收同比大涨43%至124.87亿美元,主要受益于强劲的人工智能需求以及虚拟化软件VMware业务。其中,半导体解决方案部...……更多
还记得“比英伟达GPU快10倍”的芯片吗?这家公司的估值翻倍了
...(LPU),公司曾声称“在Groq上运行大模型的推理速度较英伟达GPU提高10倍甚至更高”,这意味着公司的目标就是要挑战英伟达在AI芯片市场上的主导地位。但要指出的是,Groq是专为大语言模型量身定制设计的AI芯片,其突出优势...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
...施研发投入在AI领域等战略举措,并推出了联想智算中心解决方案和服务核心产品。 ▲联想两款服务器新品介绍联想集团副总裁、中国区基础设施业务群服务器事业部总经理陈振宽在当时提到,以AI为导向的基础设施要依据AI数...……更多
英伟达官宣AI NPC首秀 相中了这款中国电竞游戏
英伟达在官网技术博客中宣布,其在2024科隆国际游戏展(Gamescom 2024)上发布了首款设备端小型语言模型(SLM),可用于提升游戏角色对话能力。英伟达还宣布,首款展示“NVIDIA ACE”数字人技术的游戏是Amazing Seasun Games(西山居...……更多
AI集群,对抗英伟达的新“杀手锏”?
...大规模的超大规模集群。近日,AMD执行副总裁兼数据中心解决方案集团总经理Forrest Norrod在接受采访时表示,AMD将构建全球最大的单体AI训练集群,将集成高达120万片的GPU。作为对比,目前全球最强的超级计算机Frontier所配备的GPU...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...阶段性答卷,向外界表明自己的野心与实力。有趣的是,英伟达CEO黄仁勋也来到现场,为Azure和英伟达合作的AIfoundryservice站台。纳德拉当着黄仁勋的面发布自研AI芯片,难免让人浮想联翩。英伟达对高算力芯片的垄断,早已成为...……更多
戴尔科技涨超31%、英伟达收盘市值首次站上2万亿美元;这家银行又爆雷,一度跌超30%,白宫:继续关注
...务器设备需求强劲。业绩报告显示,戴尔旗下的基础设施解决方案集团在这个季度取得93亿美元的营业额,同比下降6%,但环比增长10%。服务器和网络收入占大部分,其中49亿美元的收入是由“人工智能优化服务器”推动的。...……更多
液冷成为AI必选项?英伟达产业链爆发,浙企同星科技跟上“吃肉
...合作的企业快速成长。英伟达GB200AIGPU服务器的液冷技术解决方案供应商Vertiv,就交出了一份令人满意的业绩。今年第一季度,Vertiv总订单同比增长60%,期末积压订单金额高达63亿美元,一举创下历史新高。暗示全球AI数据中心对...……更多
联想携多项硬核技术创新亮相CES 2024 涉及多款笔电
...子展(CES)在美国拉斯维加斯开启,联想携众多新产品和解决方案参展,本次参展的很多产品、解决方案都融入了联想研究院打造或推动的关键技术创新,包括AIPC技术,裸眼3D显示引擎,车计算技术,高亮不锈镁材料,用于多模...……更多
Intel三条线优化阿里云通义千问2模型:720亿参数轻松拿捏
...7日消息,Intel官方宣布,旗下数据中心、客户端、边缘AI解决方案均已经为阿里云通义千问2(Qwen2)的全球发布提供支持,已取得ModelScope、阿里云PAI、OpenVINO等诸多创新成果。为了最大限度地提升诸通义千问2等大模型的效率,Int...……更多
热点解读:英伟达GTC要点梳理,关注算力、机器人及游戏投资机遇
...药开发以及治疗方案。在自动驾驶领域,英伟达的芯片和解决方案也越来越多地渗透到更多车企新车型中。无论是硬件端还是软件端,应用端还是工具端,各个行业对于 AI 的需求仍处于摸索的初期阶段,来自B 端的需求仍在大幅...……更多
英伟达宣布与阿联酋 G42 公司合作开发 AI 天气预测平台
...室超过 100PB 的地球物理数据来创建定制化的气候与天气解决方案。G42 首席执行官 Peng Xiao 表示,他们将通过创新的 AI 应用解决全球关键挑战,在阿布扎比建立的气候技术实验室有助于创造可持续发展未来。而英伟达首席执行官...……更多
AI 推理助力客户服务:基于案例的推理方法解析
...务应用程序使用强大的Baklib推理引擎的专利搜索技术,将解决方案的搜索转变为直观的问答环节。对于消费者 客户通过标准Web浏览器访问您的知识库,只需输入他们的问题即可。Baklib的自然语言处理引擎可以理解日常语言中提...……更多
谷歌发布gemma2大语言模型,共有两种大小
...27B模型的性能媲美两倍规模的主流模型,而且只需要一片英伟达H100ensorCoreGPU或TPU主机就能实现这种性能,从而大大降低了部署成本。Gemma2-9B模型优于Llama38B和其他类似规模的开源模型。谷歌还计划在未来几个月发布参数为26亿的G...……更多
新鲜早科技丨英伟达将华为列为竞争对手;华为将发布通信大模型;台积电日本厂正式投产
...拉动了通信需求。2月26日,华为即将发布5G-A的一系列新解决方案,并且发布通信大模型。3、 英特尔CEO证实与台积电合作3nm制程产品。英特尔CEO帕特·基辛格证实,与台积电的合作已由5纳米制程推进至3纳米,公司将把两款处理...……更多
手机市场深陷泥沼,厂商如何破冰?
...面,在整个“端云协同”的大链路中,端侧是轻量高效的解决方案,但除了端侧外,整个OPPO大模型(AndesGPT)能够完整涵盖十亿至千亿以上多种不同参数规模的模型规格:AndesGPT-Tiny、AndesGPT-Turbo和AndesGPT-Titan,最高可达1800亿参数...……更多
黄仁勋:我从不在乎市场份额、英伟达唯一目标是创造新市场
“这是我听过的黄仁勋最好的采访!”英伟达CEO黄仁勋的一场炉边谈话再次引起热议:英伟达从来没有一天谈论过市场份额。我们所讨论的只是:如何创造下一个东西?如何将过去需要一年才能完成的飞轮缩短到一个月?面对Az...……更多
疯狂一夜!美国AMD、谷歌纷纷亮出大杀器,人类迎来巨变前夜?|钛媒体焦点
...夜,谷歌(Google)、AMD先后上新,终于要“打爆”OpenAI和英伟达了。钛媒体App 12月7日消息,北京时间今天凌晨,谷歌CEO桑达尔·皮查伊 (Sundar Pichai) 宣布,谷歌公司正式发布迄今为止功能最强大、最通用的多模态人工智能(AI)...……更多
...多方调研了解,市场表现平稳,价格稳定。(证券时报)英伟达CEO:美国国防法案的变动不影响公司供应链英伟达首席执行官黄仁勋12月8日表示,在一项旨在加快美国半导体项目建设的措施被从必须通过的国防立法中删除后,公...……更多
英伟达确认下一代DGX系统即将到来,将采用液冷散热
...品做好了准备,为每个GPU带来了满足1000W功耗所需的散热解决方案,因此可能需要液冷散热解决方案。近年来,随着CPU和GPU变得越来越耗电、发热越来越大,业界对尖端液冷散热的投资也在不断增加,毕竟比起传统风冷有着更高...……更多
...高性能加速计算平台而量身打造,不仅为构建未来就绪的解决方案奠定了基础,也预示着智算中心行业将进入一个全新的发展阶段。根据《算力基础设施高质量发展行动计划》,预计到2025年,中国算力规模将超过300EFLOPS,智能...……更多
黄仁勋对话Transformer七子:我们被困在原始模型里,还需要更强大的新架构
...也不想看到在一个太难的问题上花的资源过少,而得不到解决方案。Illiya Polosukhin:就像2+2,如果输入到模型,就会使用一万亿个参数。所以自适应计算是接下来必须出现的。我们要关注,在特定问题上具体要花费多少计算资源...……更多
大模型下沉,汽车需要存算一体芯片|超级观点
...项之初认为:“按照现在生成式AI的快速发展,2027年预计英伟达大概需要提供150万台服务器,每年消耗的电量接近一个瑞典或荷兰、阿根廷体量国家一年的耗电量。在AGI初步实现的阶段,大概需要43个美国全年的耗电量,这是地...……更多
无问芯穹夏立雪:破解算力焦虑,我做了大模型算力领域的“淘宝”丨36氪专访
...的需求和供给错配。一方面,目前全球GPU芯片缺口巨大,英伟达一家又无法满足所有的全球AI大模型训练、推理的需求;另一方面,英伟达以外的多元异构GPU也在快速发展中,AI算力生态分散,难以被整合起来,供应给亟需算力...……更多
2022生成模型进展有多快,新论文盘点9类生成模型代表作
...程问题,随后从现有代码(包含库、API等)中找到对应的解决方案,基于GitHub数据进行训练。AlphaCode 由DeepMind打造,基于Transformer模型打造,通过采用GitHub中715.1GB的代码进行预训练,并从Codeforces中引入一个数据集进行微调,随...……更多
更多关于科技的资讯:
HKC新款27寸显示器首发1599元:2K 320Hz屏
快科技1月3日消息,HKC新款27寸显示器——猎鹰二代G27H4Pro已经上市,首发1599元。据悉,新款显示器搭载Fast IPS快速液晶面板
2025-01-03 08:14:00
女子长时间未拔手机充电器 房子变废墟
近日,海南海口市龙华区发生了一起手机充电器导致的住宅火灾事件。据海南消防通报,一栋居民楼的19层一套住房客厅突然起火。消防队员迅速赶到现场展开救援行动
2025-01-03 08:14:00
性能最强安卓平板TOP10出炉:OPPO Pad3 Pro夺冠
快科技1月3日消息,安兔兔最新发布的2024年12月份安卓平板性能排行榜显示,OPPO Pad3 Pro凭借骁龙8 Gen3领先版的强劲支持
2025-01-03 08:14:00
国漫典藏级定制!真我Neo7不良人限定版今日发布
快科技1月3日消息,今天下午4点,真我Neo7不良人限定版将正式发布,与《画江湖之不良人》第七季梦幻联动,现场还将进行特别PV全球首映
2025-01-03 08:14:00
经常用热水泡脚 身体会发生什么变化 这4类人千万别乱泡
冬天,每位在通勤路上饱受寒风摧残的打工人,大概都抱着相同心愿:早点下班,回家用热水泡泡脚,来缓解一天的疲惫和寒冷。作为和“保温杯里泡枸杞”齐名的养生方式
2025-01-03 08:14:00
上4休3的好处已经显现出来了 打工人心情愉悦:周三能固定放假吗
1月3日消息,近日,周三的放假安排让众多网友的心情得到了极大的愉悦。许多人称,由于这次特殊的放假模式,他们在这个周末都没有出现以往的emo情绪
2025-01-03 08:44:00
499元REDMI 14C火了 半小时卖完了一个月的量
快科技1月3日消息,今天一早,REDMI产品经理胡馨心公布了一个振奋人心的消息:她说道:“听说REDMI 14C也火了
2025-01-03 08:44:00
厦门AI创作者:“投喂”温暖 AI视频作品才能有温度
温勤在工位处理AI视频。(厦门日报记者 薛尧 摄)厦门网讯(厦门日报记者 薛尧)2024年12月30日晚,在央视新闻主办
2025-01-03 08:52:00
电影平均票价连续4年超过40元被吐槽太贵:19.9元的电影票回来了!
快科技1月3日消息,你多久没有去电影院看过电影了,是因为没有好的影片,还是票价太贵?最新的调查显示,2024年的总票房体量与2015年相当
2025-01-03 09:14:00
美主播评论中国六代战机尴尬翻车 肉眼就能看见也不隐形啊:网友笑哭
1月3日消息,当地时间2024年12月29日,美国微软全国有线广播电视公司(MSNBC)新闻节目主播克里斯蒂娜 鲁菲尼(Christina Ruffini)在评论有关“中国第六代战斗机成功首飞”的传闻时称
2025-01-03 09:14:00
90后清华女硕士裸辞转行去蓝翔学厨师引热议:浪费人才吗
1月3日消息,近日90后清华女硕士转行学厨师一事引起了网友的热议,有不少人表示,这简直就是浪费人才,大家觉得呢?这位女孩名叫佟洁琼
2025-01-03 09:14:00
2025蛇年纪念钞/纪念币今日兑换 一套约赚800元
快科技1月3日消息,2025年蛇年贺岁纪念币和纪念钞于1月3日至9日开启兑换。大家可携带身份证和现金前往预约的银行网点进行兑换
2025-01-03 09:14:00
欧洲负电价现象加剧 德国电价跌至零以下:清洁能源快速增长导致
1月3日消息,据国外媒体报道称,清洁能源快速增长导致欧洲电力市场频现负电价。由于风能发电量远超需求,1月2日德国隔夜市场出现4小时负电价
2025-01-03 09:14:00
达产后年利润近5亿!青岛超大尺寸面板后道项目落户青岛西海岸
齐鲁晚报·齐鲁壹点 徐润杰1月2日,总投资30亿元的青岛超大尺寸面板后道(Open-Cell)项目签约落户青岛西海岸新区
2025-01-03 09:26:00
商务部研究员洪勇:新质供给引领“中国制造”升级“中国智造”
近日,中央经济工作会议明确提出要以科技创新引领新质生产力发展,建设现代化产业体系,鼓励积极运用数字技术、绿色技术改造提升传统产业
2025-01-03 09:32:00