- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
【新智元导读】是时候用CPU通用服务器跑千亿参数大模型了！马斯克19天建成由10万块H100串联的世界最大超算，已全力投入Grok 3的训练中。与此同时，外媒爆料称，OpenAI和微软联手打造的下一个超算集群，将由10万块GB200组成。...……更多
2024-08-02 09:47:00大厂,模型,参数,疯狂,服务器,服务
...算机性能、能耗、吞吐和延迟等方面要求较高，传统通用服务器的负载能力有限，无法承受高负载的人工智能应用，需要更适合深度学习训练场景的AI服务器方可完成。随着后续算力的持续增长，自然语言处理和图像、视频等AI...……更多
2023-04-17 17:54:00大厂,模型,阿里,京东,模型,厂商
...资源和成本也越相应增加。而承载超大参数量的背后则是服务器数量。据安信证券测算，目前ChatGPT每天所需的算力约50EFLOPs，所需服务器约1万台，若ChatGPT的用户量继续保持上涨，假设到24年底用户数量为5亿，则需要23万台服务...……更多
2024-06-24 09:26:00大厂,夹缝,价格战,模型,中小,价格
...超过了100万倍。一位商汤员工表示，商汤上海临港AIDC的服务器机柜设计功耗10千瓦~25千瓦，最大可同时容纳4台左右英伟达A100服务器，但普通的服务器机柜普遍设计功耗以5千瓦居多，而单台A100服务器的功耗即高达4.5千瓦左右。...……更多
2023-04-14 18:02:00轮子,两极,大战,模型,中国,阿里
...大在于，建立了完整的自研芯片产业链，形成网络芯片、服务器芯片、AI芯片三条产品线。在AI芯片领域，亚马逊的自研产品就通用计算芯片、机器学习训练芯片、学习推理芯片等。满打满算，从2013年推出首款自研芯片Nitro1以来...……更多
2023-11-23 09:36:00老黄,英伟,微软,芯片,芯片,英伟
...让腾讯具备了更强的“全局优化”能力。从自研的星星海服务器，到新一代HCC高性能计算集群，再到自研的星脉高速网络，腾讯已经为自己打造了一整套面向AIGC的高性能智算网络。据腾讯内部负责人介绍，目前腾讯云已经可支...……更多
2023-10-07 15:24:00模型,疯狂,应用,模型,腾讯,能力
...首先有自研全功能GPU，基于GPU做出计算加速卡，再组建成服务器，放进超融合一体机，然后将这样的4台机器整合到一个机柜里，形成一个小集群，小集群连成大集群，大集群的线性加速比高于91%。有了这样一个灵活组合的集群...……更多
2024-07-09 09:47:00摩尔,张建中,万卡,张建,集群,线程
...力发展不是一个新鲜的话题，但随着ChatGPT的崛起，基于服务器芯片的 AI 算力需求愈加强烈，在外界高需求、高关注、高压力之下，现有的服务器瞬时算力很难支撑高达千亿参数的大模型推理训练，大模型已经遭遇算力瓶颈。4月...……更多
2023-04-25 14:30:00模型,英伟,中国,马斯,芯片,马斯克
...要几百甚至几千张GPU卡的算力。这意味着在算力之外，当服务器节点众多，跨服务器通信需求大，网络带宽性能亦成为GPU集群瓶颈，高性能计算网络也随之成为一个话题。具体的数字更具说服力。有报道指出，Stability AI此前仅计...……更多
2023-02-08 19:19:00迭代,路线,背后,观察,行业,模型
...“清爽”。他以云服务做类比，在美国，可以直接按租用服务器收费，其他都不用管，正如ChatGPT可以直接按调用次数收费。但在中国，面对大企业和政府，技术公司得做全套服务、甚至是定制开发。这项技术与大用户产品结合...……更多
2023-02-19 09:34:00变形记,中国,模型,公司,中国,投资
...络经常需要几百 G 以上的 RDMA 带宽连接，而不是常见的云服务器几 G 到几十 G 的带宽。对于高可用并没有很强的要求，因为本身很多离线计算的任务，不涉及到容灾等问题。没有过度复杂的调度和机器级别的容灾。因为机器本身...……更多
2023-03-01 03:00:00模型,训练,达摩,参数,能力,集群
...降本增效已迫在眉睫。如果大模型普及，全球飞速运转的服务器，怕不会把地球烧了。既然大模型训练的成本中，电费占主要部分，那么究竟是哪些环节在耗电？又能如何优化？大模型是“电老虎”OpenAI曾在其《AIandCompute》分析...……更多
2023-04-17 19:00:00特斯,特斯拉,训练,模型,能耗,训练
...，英伟达面向中国市场的改良版——HGX H20已与国内头部服务器厂商在进行适配测试，由于具体的性能差异和优化程度挂钩，目前还很难对其与高配版H800做性能对比，但是，预估HGX H20的8卡服务器仍高达百万级。英特尔则对Gaudi 2...……更多
2023-11-29 10:32:00华为,英伟,芯片,模型,国产,厂商
...的需要，自建云都是一条 “ 不归路 ” 。
一旦你用上云服务器，新的问题就出现了。云计算的需求是由 “ 最高峰时的算力需要 ” 决定的，这就是所谓的弹性。但在平时，企业用到的算力可能是峰值的 1/3 甚至更少。这你不能...……更多
2023-05-04 09:51:00阿里,促销,阿里,服务,就是,企业
...让“算力更普惠”的智算平台，硬件厂商则乘势加快了AI服务器、AI芯片、存储的国产替代进程。算力突围战，再次打响。01、奇点之路，算力为基在2023财年Q1财报会上，扎克伯格称“生成式AI将触及Meta所有产品”，这已是全球第...……更多
2023-05-09 11:00:00中国,机器人,智能,机器,模型,腾讯
...近日在线上对记者分析说。进入2023年，除传统手机、PC和服务器市场外，ChatGPT开启的AI大模型浪潮、汽车智能化浪潮带来更多商业机会，这些应用场景对数据存储的容量、效率、流动性和安全性等方面提出了更高的需求。面对新...……更多
2024-03-23 16:31:00存储,市场,原厂,供销,业绩,应用
...伴和7家云服务商基于第五代至强处理器准备好了全新的服务器和云服务。”英特尔数据中心与人工智能集团副总裁兼中国区总经理陈葆立称。自去年年底ChatGPT发布以来，大语言模型技术支持下的AIGC应用获得了极大的发展。而这...……更多
2023-12-15 22:53:00英特,英特尔,生成,模型,英特,英特尔
...公布的对话式大型语言模型，热情的用户涌入一度导致其服务器被挤崩。21日晚，第一财经连麦学界、法律界大V，共同探讨了ChatGPT的应用、误读以及其牵涉的法律风险和商业伦理问题。复旦大学计算机科学技术学院教授张奇参...……更多
2023-02-22 14:23:00影响力,核心,成员,影响,云庭,复旦
...月ChatGPT对相关概念股股价的拉动，芯片、光模块、PCB、服务器年初至今已各涨65％、146％、45％、62％。巨头混战大模型，能不能开启下一轮技术革命的热潮？谁究竟能脱颖而出？02别低估了大模型的门槛今年2月份ChatGPT-4问世后...……更多
2023-04-25 10:39:00盛景,模型,年前,互联网,互联,模型
...月ChatGPT对相关概念股股价的拉动，芯片、光模块、PCB、服务器年初至今已各涨65%、146%、45%、62%。但大模型的需求真就如此之大么？产业链的需求有没有虚火么？这个答案显而易见。虚火旺盛，泡沫横生，不少投机者也在其中浑...……更多
2023-05-15 13:53:00罗生,中国,模型,科技,模型,企业
几乎是一夜之间，AI服务器价格在国内市场中飙升。智东西从一位服务器渠道销售人员处得知，搭载英伟达A800 GPU的热门AI服务器型号的价格已达140~150万元/台，比今年6月上涨超40%；搭载8颗英伟达H800 GPU的AI服务器价格上涨则更离...……更多
2023-10-21 17:43:00味精,缺货,大王,真相,调查,服务器
...战，实现通用且可扩展的解决方案。这对算法、数据量、服务器等有很高的要求一一不过这恰恰也是VAST团队的核心优势。VAST这一思路提高了生成模型的成功率和效率。目前，已经实现8秒钟生成带纹理3D网格模型，可以进入传统...……更多
2023-12-21 12:30:00商汤,模型,生成,负责人,项目,时代
...下来的模型“放置”在任何一个云厂商平台上，通过虚拟服务器跑起来。上述人士介绍，在第二种形式中，阿里云构建了百炼平台、灵积（DashScope）平台等，为用户提供模型训练、推理等所需的算力服务。这些平台不仅支持阿里...……更多
2024-06-28 18:08:00挥出,三板,三板斧,阿里,阿里,模型
...SS的参数量比ChatGPT小了一个量级，大家还是蜂拥而上，把服务器都给挤爆了。而发布没过一周，复旦大学教授邱锡鹏就在演讲中提出，如果优化顺利，计划在三月底开源MOSS。因为在他看来：人们之所以很容易有“卡脖子”问题...……更多
2023-04-23 16:48:00复旦,模型,同时,复旦,模型,团队
...囤货，大批量购买A800、H800等英伟达芯片，目前已部署的服务器总量尚能支撑市场需求，故而对“减量不减价”的H20兴致缺缺。而前人工智能NLP企业首席科学家、千芯科技董事长陈巍进一步向时代财经记者透露，国内交易市场中...……更多
2024-01-30 16:23:00上东,大厂,英伟,中国,野心,芯片
...言顺利上线，百度阳泉智算中心专门为其搭建了GPU集成的服务器中心，该地运维人员也在紧急进行压力测试。据了解，百度阳泉智算中心采用的也是英伟达芯片，而百度也在推动芯片研发，其量产的7纳米昆仑芯2代在FP16精度下达...……更多
2023-03-15 21:00:00模态,文心,中文,落地,多种,压力
...网络，如果网络不稳定，信号覆盖不到或者信号质量差，服务器处理能力不行的情况下，它的识别会非常不稳定。其次就是云端无法保证用户的隐私安全，存在泄漏风险。再就是云端的运行成本非常高，因为它要搭建，涉及到搭...……更多
2024-01-03 22:00:00云端,模型,场景,能力,成本,芯片
... ASIC。通过专门化，Sohu获得了前所未有的性能。一台8xSohu服务器每秒可以处理超过50万个Llama 70B token，等效于160块H100 GPU。Sohu仅支持Transformer推理，并支持当今所有的模型（Google、Meta、Microsoft、OpenAI、Anth……更多
2024-06-27 09:25:00小哥,英伟,哈佛,华裔,推理,芯片
...是一项长期消耗成本、且暂时还无法停下的趋势，无论是服务器消耗的电力、相关研发等都需要持续的投入。算法交易公司Deep Trading就曾指出，ChatGPT4以1.8亿用户基数和每人100Ktoken/天计算，每日成本就高达88.2万美元。此前vivo副...……更多
2024-07-25 11:54:00模型,供应商,供应,手机,模型,手机
...水？今天就来跟大家聊聊，那些互联网巨头们都是怎么给服务器散热的。有什么办法，能把杭州西湖的水给用完？这是杭州西湖，三面环山，面积约6.39平方千米，南北长约3.2千米，东西宽约2.8千米，水体容量约为1429万立方米。...……更多
2023-10-06 12:01:00不够,服务,数据中心,数据,耗水,水资
更多关于科技的资讯：
2024年9月22日，矿业与科技行业的精英们齐聚中国杭州，共同见证KoBold科宝全球淘金计划的正式启动及其创新型挖矿淘金平台KoBoldApp的发布
2024-09-23 09:58:00
可穿戴智能设备的红海里，有人在VR赛道挤破头，也有人希望在AR领域打出一番天地。就在外界传言Meta下周即将推出首款AR眼镜Orion时
2024-09-23 10:00:00
在机器人技术领域，让机器人在从未见过的环境中执行任务一直是一个棘手的问题。一般来说，研究人员需要针对每个新环境对机器人进行额外的训练
2024-09-23 10:02:00
文｜李振兴2024年9月20日，中华老字号吴裕泰举办了“茶韵百年、芳华千载”主题庆典活动和自有品牌产品发布会，正式对外推出自有品牌产品矩阵
2024-09-23 10:05:00
国庆黄金周即将来临，在“金九银十”的传统家装旺季，叠加全国各地掀起的“家居家装家电以旧换新”补贴热潮，众多家居企业纷纷抢抓机遇
2024-09-23 10:06:00
从TPE包胶工艺的理论模型来分析，实现接合(cohesion)包胶效果，基本要点其实只有三句话：1.极性匹配，两种材料在熔体状态下能分子链段互溶加穿透
2024-09-23 10:11:00
文｜罗曾 实习生于琪成立十年，透露上市消息四年，闪送终于要“尘埃落定”了。近日，闪送（BingEx Limited）正式向美国证券交易委员会（SEC）递交招股书
2024-09-23 10:14:00
“我们都没做过芯片，但我们觉得这事必须要做出来。”2016年，第一波机器人浪潮翻涌而来，马扬发现，触觉传感器是一片被忽视的蓝海
2024-09-23 13:33:00
作为中国乃至全世界的AI硬件中心，深圳对机器人产业的影响力是毋庸置疑的。因此，地瓜机器人选择在深圳继续举办「开发者日」
2024-09-23 13:33:00
上线3年，情绪管理应用Finch在ins上积累了23万粉丝，单月下载量超55万，刚刚过去的8月，Finch月流水超100万美元
2024-09-23 13:34:00
9月23日，小米董事长雷军发文：Note 14 系列，定档9月26日晚 7 点。Note 新十年首款作品，小金刚在进化
2024-09-23 13:52:00
TPE原料的应用领域很是广泛，每个用户对TPE原料物性的选择差异化很大。所以选择一家可以定做TPE改性原料的生产厂家就至关重要了
2024-09-23 10:20:00
普惠金融是中央金融工作会议提出的“五篇大文章”之一，是银行业服务实体经济、助力社会高质量发展的重要领域。民生银行始终秉承“服务大众
2024-09-23 10:29:00
本文转自：人民网-广西频道冯肖慧“以旧换新，你家参与了吗？”“好划算！”“优惠力度真大！”今年以来，广西推出一系列消费品以旧换新主题活动
2024-09-23 10:39:00
为推动厕用湿巾行业规范化与高质量发展，9月21日，《厕用湿巾》标准发布会在上海新国际博览中心召开。会议由中国产业用纺织品行业协会主办
2024-09-23 10:42:00