• 我的订阅
  • 头条热搜
算力浪费超50%!百度AI计算部负责人拆解大模型时代的算力成本
...东西9月13日消息,百度系统架构师、百度智能云AI计算部负责人王雁鹏向媒体解读了大模型时代的算力成本。为了有效降低AI万卡集群的算力开支,他提出搭载RDMA网络、自动并行策略、保证训练稳定性、动态分配算力、多芯异构...……更多
当大模型Scaling Law继续,万卡集群算力释放在百舸找到一条通途
...一世纪什么最贵?人才!」而随着人工智能行业进入到大模型时代,这一问题的答案已然变成了「算力」。随着模型规模急剧扩张,参数已经飙升到了千亿甚至万亿级,业界开启了千模大战,AI 算力需求不可避免迎来爆炸式增长...……更多
张云泉:集中力量,促进国产AI大模型发展
...第18期,总第915期),原题为《集中力量,促进国产AI大模型发展——专访十四届全国政协委员、中科院计算所研究员张云泉》。文丨《瞭望东方周刊》记者万宏蕾编辑顾佳贇算力建设能否及时跟上,成为AI大模型向各领域进一步...……更多
中国智算建设潮背后,谁在推动十万卡集群
...行副总裁、百度智能云事业群总裁沈抖透露,为了支撑大模型进一步的高速发展,百度在打磨十万卡集群能力方面,已在两大问题上取得关键突破。与此同时,字节和阿里在智算上投入巨大,今年以来,华为也联合厂商在攻克更...……更多
国产GPU万卡集群终于来了!摩尔线程CEO张建中:做难而正确的事
...张建中抛出一句掷地有声的断言。为什么必须是万卡?大模型行业变化很快,客户希望两周内结束战斗,最迟也得在1个月内训练完。假设训练一个5000亿参数模型,有15TB数据,如果只有1000P算力,3年都训不完;如果将时间锁到两...……更多
...六优’产业升级的标杆案例。”宁夏移动算力运营分公司负责人段立介绍。宁夏移动发力数字“新基建”,从数据中心向算力中心演进,打造国家级绿色低碳数据中心产业园区,通过建设22kW以上高功率密度机柜,完成智算集群...……更多
无问芯穹夏立雪:破解算力焦虑,我做了大模型算力领域的“淘宝”丨36氪专访
...问芯穹」创始人兼CEO夏立雪曾任阿里云用户增长产品技术负责人,曾经负责过阿里云大语言模型的压缩加速、生成式AI模型芯片的等战略项目;无问芯穹CEO夏立雪联合创始人兼CTO颜深根曾是商汤科技数据与计算平台部执行总监,...……更多
超万卡集群让算力迈上新台阶
...产效率、效益及节能效果都有显著提升。”中国一重相关负责人介绍,在“5G+数据采集”的加持下,轧电车间生产制造信息采集量提升80%以上,为车间的生产排产以及生产管理提供了有效可靠的数据支撑。 打造数字政府、深化...……更多
百度All in的大模型何时能赚钱?
...供更加个性化、智能化和便利化的产品和服务。但是,大模型作为动辄投入数十亿的项目,故事势必要从巨头们讲起,而作为这场大模型竞争中的主要玩家之一,率先发布文心一言的百度不可谓不是其中的领头羊。基于过去数年...……更多
阿里云AI基础设施获2024世界互联网大会领先科技奖
...达到99%的业界领先水平。阿里云副总裁、基础设施事业部负责人蒋江伟据介绍,阿里云AI Infra相关核心技术已被SIGCOMM、HPCA、ICDE、ACM等多个国际顶级学术会议收录认可。基于阿里云AI Infra打造的通义千问大模型,已成为全球性能...……更多
支付宝在AI大模型时代
...)对此感慨颇深,尽管内部已经有过好几轮演练,但在大模型这样一个“新事物”面前,说不紧张是骗人的。1月28日,晚上8点,支付宝技术团队所在的蚂蚁空间8号楼已经坐满了人,再过四个小时,五福节就要正式上线了。俊义已...……更多
马斯克宣布训练“世界上最强大的人工智能” !万卡集群背后的算力竞赛迅猛升级
...标具有一定的挑战性,但并非完全不现实。”科方得智库负责人张新原在接受金融投资报记者采访时表示,如果能够充分利用孟菲斯超级集群的强大计算能力,并采用先进的技术和方法,有可能实现这个目标。这将推动AI研究和...……更多
容联云QCon全球软件大会分享:大模型引领“营销服”创新实践
...日,QCon全球软件开发大会正式召开。容联云大模型产品负责人唐兴才受邀出席,并分享营销服场景中,大模型的创新应用与实践。 唐兴才指出,在大模型浪潮的推动下,营销服场景正经历着前所未有的变革。面对激烈的市场竞...……更多
...出,要将人工智能时代的算力成本降到最低,发展通用大模型和垂直领域大模型,着力打造全国算力成本洼地和模型输出地。全力抢占人工智能发展制高点,是杭州推动数字经济“二次攀登”、开启下一个“黄金二十年”的入场...……更多
摩尔线程与360达成战略合作,将共同打造“360智脑大模型一体机”
...双方此次合作旨在聚焦数字安全、信息与数字化服务及大模型等领域的创新应用,共同构建一个更加强大、可靠的人工智能生态系统,为各行各业提供先进的技术支持和服务。双方还将携手打造“360 智脑大模型一体机”,加速...……更多
人均年薪100万,手机厂商数百亿开卷大模型
...4月,王斌牵头负责,小米技术委员会AI实验室大模型团队负责人栾剑带队,小米内部正式成立了一支自研大模型团队,雷军亲自推动了自研大模型团队的建立,并全程高度参与了小米大模型的自研,他会亲自查看团队的周报、月...……更多
商汤大装置:打造人工智能算力“样板间”,从AI 1.0跨越到2.0时代
...、规模化的新一代AI基础设施 SenseCore商汤大装置,以AI大模型开发、生成、应用为核心,赋能人工智能生产新范式。2022年,作为大装置重要载体的商汤临港AIDC正式投入运营,成为亚洲最大的人工智能计算中心之一,推动人工智...……更多
AI难盈利,商汤生成式AI创收12亿增长两倍,全年净利亏损65亿
...消息称,商汤计划将该业务分拆单独融资。后来该事业群负责人王晓刚表示,会持续加大投入,把它做大做强。根据财报信息,商汤智能汽车去年新增129万辆量产车型,同比增长163%,累计交付达195万辆,覆盖90多个车型,并新增...……更多
首个国产单池万卡液冷算力集群投入运营,满足万亿级大模型训练需求
...展正在进入“深水区”。随着生成式AI的迭代和发展,大模型规模以惊人的速度扩展,万亿参数级别几乎成为通用大模型的标配,由此带来的是算力需求的急剧增长。作为践行《新型数据中心“算力浦江”行动计划(2022-2024年)...……更多
鸿蒙x昇腾云:华为打造智能时代最佳AI基础设施
...步提升服务分发效率,给消费者带来全新的体验。盘古大模型的应用,进一步提升了系统对用户高阶意图的理解和匹配能力,帮助开发者更精准地触达目标用户,从而优化用户体验和应用效率。鸿蒙操作系统还提供了AI控件能力...……更多
加速落地 京东云大模型已支持数百个场景
...代数字基础设施,持续加速产业智能化变革。京东云相关负责人介绍,京东围绕大模型的平台构建和场景应用,进行了深入探索,从虚拟数字人主播、到AIGC生成的营销物料,从商家运营的全面智能化、到智能配送车稳定运营,...……更多
阿里云CTO周靖人:全面投入升级AI大基建
...准,全面升级从服务器到计算、存储、网络、数据处理、模型训练和推理平台的技术架构体系,让数据中心成为一台超级计算机,为每个AI和应用提供高性能、高效的算力服务。大会现场,通义大模型迎来了年度重磅发布,基础...……更多
再融近5亿!清华系AI创业新势力,成最吸金“算力运营商”
一笔近5个亿新融资,投向AI大模型领域。量子位独家获悉,清华系AI创业公司无问芯穹完成了近5亿元A轮融资。加码的股东阵容很全、很豪华:一口气新增15家股东,涵盖北京上海等地的国资/地方基金,顺为资本/达晨财智等市场...……更多
重磅!TeleAI 完成首个全国产化万卡万参大模型训练
...功完成国内首个基于全国产化万卡集群训练的万亿参数大模型(万卡万参),并正式对外开源首个基于全国产化万卡集群和国产深度学习框架训练的千亿参数大模型——星辰语义大模型 TeleChat2-115B。这是由中国电信集团 CTO、首...……更多
字节跳动豆包大模型发布,火山引擎全栈AI服务助力企业智能化转型
...能体,为终端用户带来了全新的AI体验。捷途汽车数字化负责人 刘航 捷途汽车数字化负责人刘航表示,捷途汽车希望通过大模型扩大自身服务能力、洞察用户真实需求,进而提升销售效率和能力。携手火山引擎,双方围绕客服...……更多
Llama3训练每3小时崩一次?豆包大模型、港大为脆皮万卡训练提效
伴随大模型迭代速度越来越快,训练集群规模越来越大,高频率的软硬件故障已经成为阻碍训练效率进一步提高的痛点,检查点(Checkpoint)系统在训练过程中负责状态的存储和恢复,已经成为克服训练故障、保障训练进度和提...……更多
汽车新智能图谱里:理解腾讯的AI TO B路径
...成熟度去做选择。”腾讯智慧出行副总裁、腾讯智慧出行负责人钟学丹告诉我们。也更可以理解为,腾讯如今为汽车行业提供的是一套契合产业、契合企业自身的云端大模型体系,基于腾讯固有的应用、工具和云的强项能力给企...……更多
...讯,蚂蚁集团首席技术官何征宇表示,目前已形成包括大模型底层基础设施、基础大模型、行业大模型、应用产品在内的完整技术链条。“我们是从集群开始自己搭的,蚂蚁建设了超过万卡的异构集群,其中硬件算力效率(HFU)超...……更多
百度李彦宏:一个只靠想法赚钱的时代来了
OpenAI掀起的这一波大模型浪潮已经火热了近两年时间,AI技术以前所未有的速度进行迭代和创新,从大公司到创业者再到风险投资,纷纷寻找生成式AI时代基于大模型的超级应用。但客观来说,业界期待的“杀手级应用”直到今...……更多
...在加快构建。突破瓶颈 打造自主云算力底座依托铁路大模型,高铁巡检机器人实现了多模态融合诊断技术的精准应用,极大提升了铁路检修的安全性和效率;矿山大模型推进了人工智能大规模“下井”,在煤炭行业九大专业领...……更多
更多关于科技的资讯:
RX 8800 XT功耗惊喜!骤降43W
快科技12月4日消息,对于如今的显卡,我们除了想要更高的性能,更希望看到功耗得到合理控制,不要个个都是电老虎。在电源厂商海韵的官网功率计算器中
2024-12-04 00:37:00
车主一年违章十几次 保费上涨2000元!专家:被判定为高风险车辆了
快科技12月4日消息,在杭州一场交通安全科普展上,有车主分享了自己车险保费离谱上涨的经历。车主介绍,自己的车去年有十几次违章
2024-12-04 00:37:00
苦苹果税久矣:英国开发者集体起诉苹果
快科技12月4日消息,据媒体报道,英国开发者集体起诉苹果,他们指控苹果App Store收取高达30%的佣金。负责此案的英国教授Sean Ennis表示
2024-12-04 00:37:00
华为Mate 70系列今日开售支持江苏国补:8.5折优惠买史上最强Mate!
快科技12月4日消息,今天上午10:08,史上最强大的Mate——华为Mate 70系列将正式开售,售价5499元起。华为Mate 70系列开售前夕
2024-12-04 00:37:00
看完11月汽车销量 我觉得价格战根本打不完
兄弟们, 11 月汽车销量来了,真的是有人炸裂,有人裂开。先说炸裂的。你瞧瞧,比亚迪一个月卖了夺少?足足 50 多万辆
2024-12-04 00:37:00
华为Mate 70系列今日首销:合肥消费券补贴最高优惠1000元
快科技12月4日消息,华为Mate 70系列将于今天上午10:08正式首销,售价5499元起。据“安徽交通广播”公众号
2024-12-04 01:07:00
《工业巨擘4.0》steam平台开放抢先体验
近日,由DonVSDodo开发,ToplitzProductions发行的《工业巨擘4.0》已在STEAM平台上开放抢先体验
2024-12-04 01:42:00
海外媒体指出iphone变得“无聊”的主要原因
作为智能手机行业的标杆产品,iPhone近年来虽然依然保持着卓越的质量和用户体验,但不少科技爱好者和普通用户却开始觉得iPhone变得“无聊”
2024-12-04 01:45:00
小米汽车正在筹备首款SUV车型,预计今年年底亮相
小米汽车的首款车型SU7自今年3月28日正式上市以来,凭借其出色的设计和性能,迅速吸引了大量消费者的关注。据最新数据显示
2024-12-04 02:43:00
vivos20的拍摄体验如何?
vivoS20是一款非常适合年轻人的手机,vivoS20在拍摄场景优化方面下足了功夫,无论是自拍还是多场景人像拍摄,都能满足年轻人的需求
2024-12-04 03:44:00
iqoo手机,小v帮记功能更贴心
iQOO手机一直以来在性能方面给大家留下了深刻的印象,出色的游戏体验获得了大量电竞用户好评,也给iQOO带来了出色的销量表现
2024-12-04 03:47:00
在房梁上挂50多年 发黑发臭的四川臭猪肉能吃吗
这个挂在房梁上发黑的东西是一整只猪,如果您走近它的话,会闻到刺鼻的气味。它是四川扎坝人的特色美食,叫作陈猪肉,但因为发黑发臭
2024-12-04 06:38:00
国际三项大奖都拿下了杭州日报讯 移液器是生命科学和生物医疗实验室中最常出现的工具之一,科研人员用它来精确测量和转移各种液体
2024-12-04 06:40:00
卢伟冰:大批Reno/S/Nova用户纷纷换Redmi Note 14
快科技12月4日消息,小米集团合伙人、总裁,手机部总裁,小米品牌总经理卢伟冰透露了一个惊喜。他表示,开Redmi Note 14系列的复盘会议时
2024-12-04 07:08:00
何小鹏:中国城中村智驾比美国难10倍 小鹏P7+轻松拿捏
快科技12月4日消息,日前,小鹏P7+前往广州最拥挤、“小电驴”最多的城中村,进行了智驾测试。视频中,城中村的路本来就不宽敞
2024-12-04 07:38:00