• 我的订阅
  • 头条热搜
算力浪费超50%!百度AI计算部负责人拆解大模型时代的算力成本
...东西9月13日消息,百度系统架构师、百度智能云AI计算部负责人王雁鹏向媒体解读了大模型时代的算力成本。为了有效降低AI万卡集群的算力开支,他提出搭载RDMA网络、自动并行策略、保证训练稳定性、动态分配算力、多芯异构...……更多
当大模型Scaling Law继续,万卡集群算力释放在百舸找到一条通途
...一世纪什么最贵?人才!」而随着人工智能行业进入到大模型时代,这一问题的答案已然变成了「算力」。随着模型规模急剧扩张,参数已经飙升到了千亿甚至万亿级,业界开启了千模大战,AI 算力需求不可避免迎来爆炸式增长...……更多
张云泉:集中力量,促进国产AI大模型发展
...第18期,总第915期),原题为《集中力量,促进国产AI大模型发展——专访十四届全国政协委员、中科院计算所研究员张云泉》。文丨《瞭望东方周刊》记者万宏蕾编辑顾佳贇算力建设能否及时跟上,成为AI大模型向各领域进一步...……更多
中国智算建设潮背后,谁在推动十万卡集群
...行副总裁、百度智能云事业群总裁沈抖透露,为了支撑大模型进一步的高速发展,百度在打磨十万卡集群能力方面,已在两大问题上取得关键突破。与此同时,字节和阿里在智算上投入巨大,今年以来,华为也联合厂商在攻克更...……更多
国产GPU万卡集群终于来了!摩尔线程CEO张建中:做难而正确的事
...张建中抛出一句掷地有声的断言。为什么必须是万卡?大模型行业变化很快,客户希望两周内结束战斗,最迟也得在1个月内训练完。假设训练一个5000亿参数模型,有15TB数据,如果只有1000P算力,3年都训不完;如果将时间锁到两...……更多
...六优’产业升级的标杆案例。”宁夏移动算力运营分公司负责人段立介绍。宁夏移动发力数字“新基建”,从数据中心向算力中心演进,打造国家级绿色低碳数据中心产业园区,通过建设22kW以上高功率密度机柜,完成智算集群...……更多
无问芯穹夏立雪:破解算力焦虑,我做了大模型算力领域的“淘宝”丨36氪专访
...问芯穹」创始人兼CEO夏立雪曾任阿里云用户增长产品技术负责人,曾经负责过阿里云大语言模型的压缩加速、生成式AI模型芯片的等战略项目;无问芯穹CEO夏立雪联合创始人兼CTO颜深根曾是商汤科技数据与计算平台部执行总监,...……更多
超万卡集群让算力迈上新台阶
...产效率、效益及节能效果都有显著提升。”中国一重相关负责人介绍,在“5G+数据采集”的加持下,轧电车间生产制造信息采集量提升80%以上,为车间的生产排产以及生产管理提供了有效可靠的数据支撑。 打造数字政府、深化...……更多
百度All in的大模型何时能赚钱?
...供更加个性化、智能化和便利化的产品和服务。但是,大模型作为动辄投入数十亿的项目,故事势必要从巨头们讲起,而作为这场大模型竞争中的主要玩家之一,率先发布文心一言的百度不可谓不是其中的领头羊。基于过去数年...……更多
阿里云AI基础设施获2024世界互联网大会领先科技奖
...达到99%的业界领先水平。阿里云副总裁、基础设施事业部负责人蒋江伟据介绍,阿里云AI Infra相关核心技术已被SIGCOMM、HPCA、ICDE、ACM等多个国际顶级学术会议收录认可。基于阿里云AI Infra打造的通义千问大模型,已成为全球性能...……更多
支付宝在AI大模型时代
...)对此感慨颇深,尽管内部已经有过好几轮演练,但在大模型这样一个“新事物”面前,说不紧张是骗人的。1月28日,晚上8点,支付宝技术团队所在的蚂蚁空间8号楼已经坐满了人,再过四个小时,五福节就要正式上线了。俊义已...……更多
马斯克宣布训练“世界上最强大的人工智能” !万卡集群背后的算力竞赛迅猛升级
...标具有一定的挑战性,但并非完全不现实。”科方得智库负责人张新原在接受金融投资报记者采访时表示,如果能够充分利用孟菲斯超级集群的强大计算能力,并采用先进的技术和方法,有可能实现这个目标。这将推动AI研究和...……更多
容联云QCon全球软件大会分享:大模型引领“营销服”创新实践
...日,QCon全球软件开发大会正式召开。容联云大模型产品负责人唐兴才受邀出席,并分享营销服场景中,大模型的创新应用与实践。 唐兴才指出,在大模型浪潮的推动下,营销服场景正经历着前所未有的变革。面对激烈的市场竞...……更多
...出,要将人工智能时代的算力成本降到最低,发展通用大模型和垂直领域大模型,着力打造全国算力成本洼地和模型输出地。全力抢占人工智能发展制高点,是杭州推动数字经济“二次攀登”、开启下一个“黄金二十年”的入场...……更多
摩尔线程与360达成战略合作,将共同打造“360智脑大模型一体机”
...双方此次合作旨在聚焦数字安全、信息与数字化服务及大模型等领域的创新应用,共同构建一个更加强大、可靠的人工智能生态系统,为各行各业提供先进的技术支持和服务。双方还将携手打造“360 智脑大模型一体机”,加速...……更多
人均年薪100万,手机厂商数百亿开卷大模型
...4月,王斌牵头负责,小米技术委员会AI实验室大模型团队负责人栾剑带队,小米内部正式成立了一支自研大模型团队,雷军亲自推动了自研大模型团队的建立,并全程高度参与了小米大模型的自研,他会亲自查看团队的周报、月...……更多
商汤大装置:打造人工智能算力“样板间”,从AI 1.0跨越到2.0时代
...、规模化的新一代AI基础设施 SenseCore商汤大装置,以AI大模型开发、生成、应用为核心,赋能人工智能生产新范式。2022年,作为大装置重要载体的商汤临港AIDC正式投入运营,成为亚洲最大的人工智能计算中心之一,推动人工智...……更多
AI难盈利,商汤生成式AI创收12亿增长两倍,全年净利亏损65亿
...消息称,商汤计划将该业务分拆单独融资。后来该事业群负责人王晓刚表示,会持续加大投入,把它做大做强。根据财报信息,商汤智能汽车去年新增129万辆量产车型,同比增长163%,累计交付达195万辆,覆盖90多个车型,并新增...……更多
鸿蒙x昇腾云:华为打造智能时代最佳AI基础设施
...步提升服务分发效率,给消费者带来全新的体验。盘古大模型的应用,进一步提升了系统对用户高阶意图的理解和匹配能力,帮助开发者更精准地触达目标用户,从而优化用户体验和应用效率。鸿蒙操作系统还提供了AI控件能力...……更多
首个国产单池万卡液冷算力集群投入运营,满足万亿级大模型训练需求
...展正在进入“深水区”。随着生成式AI的迭代和发展,大模型规模以惊人的速度扩展,万亿参数级别几乎成为通用大模型的标配,由此带来的是算力需求的急剧增长。作为践行《新型数据中心“算力浦江”行动计划(2022-2024年)...……更多
加速落地 京东云大模型已支持数百个场景
...代数字基础设施,持续加速产业智能化变革。京东云相关负责人介绍,京东围绕大模型的平台构建和场景应用,进行了深入探索,从虚拟数字人主播、到AIGC生成的营销物料,从商家运营的全面智能化、到智能配送车稳定运营,...……更多
阿里云CTO周靖人:全面投入升级AI大基建
...准,全面升级从服务器到计算、存储、网络、数据处理、模型训练和推理平台的技术架构体系,让数据中心成为一台超级计算机,为每个AI和应用提供高性能、高效的算力服务。大会现场,通义大模型迎来了年度重磅发布,基础...……更多
再融近5亿!清华系AI创业新势力,成最吸金“算力运营商”
一笔近5个亿新融资,投向AI大模型领域。量子位独家获悉,清华系AI创业公司无问芯穹完成了近5亿元A轮融资。加码的股东阵容很全、很豪华:一口气新增15家股东,涵盖北京上海等地的国资/地方基金,顺为资本/达晨财智等市场...……更多
重磅!TeleAI 完成首个全国产化万卡万参大模型训练
...功完成国内首个基于全国产化万卡集群训练的万亿参数大模型(万卡万参),并正式对外开源首个基于全国产化万卡集群和国产深度学习框架训练的千亿参数大模型——星辰语义大模型 TeleChat2-115B。这是由中国电信集团 CTO、首...……更多
字节跳动豆包大模型发布,火山引擎全栈AI服务助力企业智能化转型
...能体,为终端用户带来了全新的AI体验。捷途汽车数字化负责人 刘航 捷途汽车数字化负责人刘航表示,捷途汽车希望通过大模型扩大自身服务能力、洞察用户真实需求,进而提升销售效率和能力。携手火山引擎,双方围绕客服...……更多
Llama3训练每3小时崩一次?豆包大模型、港大为脆皮万卡训练提效
伴随大模型迭代速度越来越快,训练集群规模越来越大,高频率的软硬件故障已经成为阻碍训练效率进一步提高的痛点,检查点(Checkpoint)系统在训练过程中负责状态的存储和恢复,已经成为克服训练故障、保障训练进度和提...……更多
汽车新智能图谱里:理解腾讯的AI TO B路径
...成熟度去做选择。”腾讯智慧出行副总裁、腾讯智慧出行负责人钟学丹告诉我们。也更可以理解为,腾讯如今为汽车行业提供的是一套契合产业、契合企业自身的云端大模型体系,基于腾讯固有的应用、工具和云的强项能力给企...……更多
...讯,蚂蚁集团首席技术官何征宇表示,目前已形成包括大模型底层基础设施、基础大模型、行业大模型、应用产品在内的完整技术链条。“我们是从集群开始自己搭的,蚂蚁建设了超过万卡的异构集群,其中硬件算力效率(HFU)超...……更多
百度李彦宏:一个只靠想法赚钱的时代来了
OpenAI掀起的这一波大模型浪潮已经火热了近两年时间,AI技术以前所未有的速度进行迭代和创新,从大公司到创业者再到风险投资,纷纷寻找生成式AI时代基于大模型的超级应用。但客观来说,业界期待的“杀手级应用”直到今...……更多
...在加快构建。突破瓶颈 打造自主云算力底座依托铁路大模型,高铁巡检机器人实现了多模态融合诊断技术的精准应用,极大提升了铁路检修的安全性和效率;矿山大模型推进了人工智能大规模“下井”,在煤炭行业九大专业领...……更多
更多关于科技的资讯:
近日,“年轻人开始反向驯化‘大数据杀熟’”的话题引发热议。一名年轻人通过反复评论“机票太贵了,买不起,不去了”后,发现机票价格从4309元降至1903元
2024-12-20 22:28:00
本文转自:人民网人民网北京12月20日电 (记者夏晓伦)“数据二十条”提出,“建立数据资源持有权、数据加工使用权、数据产品经营权等分置的产权运行机制”
2024-12-20 22:56:00
放弃坚果狂吃肉 松鼠捕田鼠吃 尝过肉就停不下来
近日,科学家们发现加州地区的松鼠,出现了一种反常态且令人惊讶的行为:它们放弃了对坚果和果实的热爱,转而开始食肉,吃的还是同是啮齿动物的田鼠
2024-12-21 00:01:00
晋江文学城回应被要求整改:一直在北京 对浙江消保委约谈非常惊讶
快科技12月20日消息,今晚,晋江文学城发布了关于近期被浙江消保委要求整改及后续媒体不实报道的解释和说明。说明中称,晋江文学城于2024年12月2日收到自称“浙江省消费者权益保护委员会”的组织下达的《约谈函》
2024-12-21 00:01:00
科幻惊悚剧《怪奇物语》第五季杀青 多张幕后照发布
快科技12月20日消息,网飞正式官宣,《怪奇物语》第五季杀青,同时发布多张幕后照。《怪奇物语》(Stranger Things)是美国网飞公司制作的一部主打科幻惊悚风格的美剧
2024-12-21 00:01:00
拉萨一航班起飞时遭遇鸟击返航:风挡玻璃上血迹斑斑
快科技12月20日消息,据报道,今日上午,西藏航空一个从拉萨飞往西宁的航班在起飞时,遭遇鸟击后返航。网友发布的现场视频显示
2024-12-21 00:01:00
小红书已经成为新一代《1818黄金眼》
“ 在商场门口被无人机撞头,怎么维权 ” ?“ 服了,在网购平台买到假乳液了 ” 。“xx 手机维权!质保期内右上角漏液
2024-12-21 00:31:00
世界第三大车企即将诞生:被迫的
快科技12月21日消息,多少有些戏剧性的剧情正在上演,继丰田和大众之后,世界第三大汽车集团即将诞生,然而,双方是不得不走到这一步
2024-12-21 08:01:00
年薪50万女子择偶标准要求千万年薪引热议:门当户对不应该吗
12月21日消息,1991年出生的万女士开了一家公司,年收入50万左右。择偶要求男方年薪千万,相亲遇到“假富豪”,引发关注
2024-12-21 08:01:00
《暗喻幻想》IGN年度最佳引热议:你认为是否实至名归
IGN今日举行了年度游戏颁奖直播,年度最佳游戏奖项最终颁发给了《暗喻幻想:ReFantazio》。这一消息在官方推特发布后
2024-12-21 00:31:00
超算+AI 我国科学家揭示地球20亿年生命演化历程
快科技12月21日消息,南京大学科研团队联合中外多家科研单位,揭示了地球大约从20亿年到5亿年前早期生命多样性演化历程
2024-12-21 00:31:00
微信推出这个送礼功能 到底好不好用
兄弟们,掐指一算,很久没写微信的新功能了。倒不是世超不想整,相反,写了流量大大滴,我还特想写。主要现在微信新功能都是灰度
2024-12-21 00:31:00
冬天来了 我却不会开车上的空调
这几天天气冷了,但脖子哥在网上冲浪的时候,刷到很多人还不会用车上的空调。比如下面这个问题,冬天刚打着火的车,它吹出来的暖风到底是不是暖风
2024-12-21 00:31:00
警方通报新型诈骗:直播间开盲盒获高额奖金 全是假的
快科技12月21日消息,网络直播间直播开盲盒,高额奖金频频开出,“小投入高回报”让观看的人心动不已,但实际上是精心设计的骗局
2024-12-21 00:31:00
因没用USB-C接口:iPhone 14/SE今日起在欧盟停产、停售
快科技12月21日消息,今日起,苹果将逐步在欧盟地区正式停售iPhone 14、iPhone 14 Plus、iPhone SE 3
2024-12-21 00:31:00