• 我的订阅
  • 头条热搜
算力浪费超50%!百度AI计算部负责人拆解大模型时代的算力成本
...东西9月13日消息,百度系统架构师、百度智能云AI计算部负责人王雁鹏向媒体解读了大模型时代的算力成本。为了有效降低AI万卡集群的算力开支,他提出搭载RDMA网络、自动并行策略、保证训练稳定性、动态分配算力、多芯异构...……更多
当大模型Scaling Law继续,万卡集群算力释放在百舸找到一条通途
...一世纪什么最贵?人才!」而随着人工智能行业进入到大模型时代,这一问题的答案已然变成了「算力」。随着模型规模急剧扩张,参数已经飙升到了千亿甚至万亿级,业界开启了千模大战,AI 算力需求不可避免迎来爆炸式增长...……更多
张云泉:集中力量,促进国产AI大模型发展
...第18期,总第915期),原题为《集中力量,促进国产AI大模型发展——专访十四届全国政协委员、中科院计算所研究员张云泉》。文丨《瞭望东方周刊》记者万宏蕾编辑顾佳贇算力建设能否及时跟上,成为AI大模型向各领域进一步...……更多
中国智算建设潮背后,谁在推动十万卡集群
...行副总裁、百度智能云事业群总裁沈抖透露,为了支撑大模型进一步的高速发展,百度在打磨十万卡集群能力方面,已在两大问题上取得关键突破。与此同时,字节和阿里在智算上投入巨大,今年以来,华为也联合厂商在攻克更...……更多
国产GPU万卡集群终于来了!摩尔线程CEO张建中:做难而正确的事
...张建中抛出一句掷地有声的断言。为什么必须是万卡?大模型行业变化很快,客户希望两周内结束战斗,最迟也得在1个月内训练完。假设训练一个5000亿参数模型,有15TB数据,如果只有1000P算力,3年都训不完;如果将时间锁到两...……更多
...六优’产业升级的标杆案例。”宁夏移动算力运营分公司负责人段立介绍。宁夏移动发力数字“新基建”,从数据中心向算力中心演进,打造国家级绿色低碳数据中心产业园区,通过建设22kW以上高功率密度机柜,完成智算集群...……更多
无问芯穹夏立雪:破解算力焦虑,我做了大模型算力领域的“淘宝”丨36氪专访
...问芯穹」创始人兼CEO夏立雪曾任阿里云用户增长产品技术负责人,曾经负责过阿里云大语言模型的压缩加速、生成式AI模型芯片的等战略项目;无问芯穹CEO夏立雪联合创始人兼CTO颜深根曾是商汤科技数据与计算平台部执行总监,...……更多
超万卡集群让算力迈上新台阶
...产效率、效益及节能效果都有显著提升。”中国一重相关负责人介绍,在“5G+数据采集”的加持下,轧电车间生产制造信息采集量提升80%以上,为车间的生产排产以及生产管理提供了有效可靠的数据支撑。 打造数字政府、深化...……更多
百度All in的大模型何时能赚钱?
...供更加个性化、智能化和便利化的产品和服务。但是,大模型作为动辄投入数十亿的项目,故事势必要从巨头们讲起,而作为这场大模型竞争中的主要玩家之一,率先发布文心一言的百度不可谓不是其中的领头羊。基于过去数年...……更多
阿里云AI基础设施获2024世界互联网大会领先科技奖
...达到99%的业界领先水平。阿里云副总裁、基础设施事业部负责人蒋江伟据介绍,阿里云AI Infra相关核心技术已被SIGCOMM、HPCA、ICDE、ACM等多个国际顶级学术会议收录认可。基于阿里云AI Infra打造的通义千问大模型,已成为全球性能...……更多
支付宝在AI大模型时代
...)对此感慨颇深,尽管内部已经有过好几轮演练,但在大模型这样一个“新事物”面前,说不紧张是骗人的。1月28日,晚上8点,支付宝技术团队所在的蚂蚁空间8号楼已经坐满了人,再过四个小时,五福节就要正式上线了。俊义已...……更多
马斯克宣布训练“世界上最强大的人工智能” !万卡集群背后的算力竞赛迅猛升级
...标具有一定的挑战性,但并非完全不现实。”科方得智库负责人张新原在接受金融投资报记者采访时表示,如果能够充分利用孟菲斯超级集群的强大计算能力,并采用先进的技术和方法,有可能实现这个目标。这将推动AI研究和...……更多
容联云QCon全球软件大会分享:大模型引领“营销服”创新实践
...日,QCon全球软件开发大会正式召开。容联云大模型产品负责人唐兴才受邀出席,并分享营销服场景中,大模型的创新应用与实践。 唐兴才指出,在大模型浪潮的推动下,营销服场景正经历着前所未有的变革。面对激烈的市场竞...……更多
...出,要将人工智能时代的算力成本降到最低,发展通用大模型和垂直领域大模型,着力打造全国算力成本洼地和模型输出地。全力抢占人工智能发展制高点,是杭州推动数字经济“二次攀登”、开启下一个“黄金二十年”的入场...……更多
摩尔线程与360达成战略合作,将共同打造“360智脑大模型一体机”
...双方此次合作旨在聚焦数字安全、信息与数字化服务及大模型等领域的创新应用,共同构建一个更加强大、可靠的人工智能生态系统,为各行各业提供先进的技术支持和服务。双方还将携手打造“360 智脑大模型一体机”,加速...……更多
人均年薪100万,手机厂商数百亿开卷大模型
...4月,王斌牵头负责,小米技术委员会AI实验室大模型团队负责人栾剑带队,小米内部正式成立了一支自研大模型团队,雷军亲自推动了自研大模型团队的建立,并全程高度参与了小米大模型的自研,他会亲自查看团队的周报、月...……更多
商汤大装置:打造人工智能算力“样板间”,从AI 1.0跨越到2.0时代
...、规模化的新一代AI基础设施 SenseCore商汤大装置,以AI大模型开发、生成、应用为核心,赋能人工智能生产新范式。2022年,作为大装置重要载体的商汤临港AIDC正式投入运营,成为亚洲最大的人工智能计算中心之一,推动人工智...……更多
AI难盈利,商汤生成式AI创收12亿增长两倍,全年净利亏损65亿
...消息称,商汤计划将该业务分拆单独融资。后来该事业群负责人王晓刚表示,会持续加大投入,把它做大做强。根据财报信息,商汤智能汽车去年新增129万辆量产车型,同比增长163%,累计交付达195万辆,覆盖90多个车型,并新增...……更多
鸿蒙x昇腾云:华为打造智能时代最佳AI基础设施
...步提升服务分发效率,给消费者带来全新的体验。盘古大模型的应用,进一步提升了系统对用户高阶意图的理解和匹配能力,帮助开发者更精准地触达目标用户,从而优化用户体验和应用效率。鸿蒙操作系统还提供了AI控件能力...……更多
首个国产单池万卡液冷算力集群投入运营,满足万亿级大模型训练需求
...展正在进入“深水区”。随着生成式AI的迭代和发展,大模型规模以惊人的速度扩展,万亿参数级别几乎成为通用大模型的标配,由此带来的是算力需求的急剧增长。作为践行《新型数据中心“算力浦江”行动计划(2022-2024年)...……更多
加速落地 京东云大模型已支持数百个场景
...代数字基础设施,持续加速产业智能化变革。京东云相关负责人介绍,京东围绕大模型的平台构建和场景应用,进行了深入探索,从虚拟数字人主播、到AIGC生成的营销物料,从商家运营的全面智能化、到智能配送车稳定运营,...……更多
阿里云CTO周靖人:全面投入升级AI大基建
...准,全面升级从服务器到计算、存储、网络、数据处理、模型训练和推理平台的技术架构体系,让数据中心成为一台超级计算机,为每个AI和应用提供高性能、高效的算力服务。大会现场,通义大模型迎来了年度重磅发布,基础...……更多
再融近5亿!清华系AI创业新势力,成最吸金“算力运营商”
一笔近5个亿新融资,投向AI大模型领域。量子位独家获悉,清华系AI创业公司无问芯穹完成了近5亿元A轮融资。加码的股东阵容很全、很豪华:一口气新增15家股东,涵盖北京上海等地的国资/地方基金,顺为资本/达晨财智等市场...……更多
重磅!TeleAI 完成首个全国产化万卡万参大模型训练
...功完成国内首个基于全国产化万卡集群训练的万亿参数大模型(万卡万参),并正式对外开源首个基于全国产化万卡集群和国产深度学习框架训练的千亿参数大模型——星辰语义大模型 TeleChat2-115B。这是由中国电信集团 CTO、首...……更多
字节跳动豆包大模型发布,火山引擎全栈AI服务助力企业智能化转型
...能体,为终端用户带来了全新的AI体验。捷途汽车数字化负责人 刘航 捷途汽车数字化负责人刘航表示,捷途汽车希望通过大模型扩大自身服务能力、洞察用户真实需求,进而提升销售效率和能力。携手火山引擎,双方围绕客服...……更多
Llama3训练每3小时崩一次?豆包大模型、港大为脆皮万卡训练提效
伴随大模型迭代速度越来越快,训练集群规模越来越大,高频率的软硬件故障已经成为阻碍训练效率进一步提高的痛点,检查点(Checkpoint)系统在训练过程中负责状态的存储和恢复,已经成为克服训练故障、保障训练进度和提...……更多
汽车新智能图谱里:理解腾讯的AI TO B路径
...成熟度去做选择。”腾讯智慧出行副总裁、腾讯智慧出行负责人钟学丹告诉我们。也更可以理解为,腾讯如今为汽车行业提供的是一套契合产业、契合企业自身的云端大模型体系,基于腾讯固有的应用、工具和云的强项能力给企...……更多
...讯,蚂蚁集团首席技术官何征宇表示,目前已形成包括大模型底层基础设施、基础大模型、行业大模型、应用产品在内的完整技术链条。“我们是从集群开始自己搭的,蚂蚁建设了超过万卡的异构集群,其中硬件算力效率(HFU)超...……更多
百度李彦宏:一个只靠想法赚钱的时代来了
OpenAI掀起的这一波大模型浪潮已经火热了近两年时间,AI技术以前所未有的速度进行迭代和创新,从大公司到创业者再到风险投资,纷纷寻找生成式AI时代基于大模型的超级应用。但客观来说,业界期待的“杀手级应用”直到今...……更多
...在加快构建。突破瓶颈 打造自主云算力底座依托铁路大模型,高铁巡检机器人实现了多模态融合诊断技术的精准应用,极大提升了铁路检修的安全性和效率;矿山大模型推进了人工智能大规模“下井”,在煤炭行业九大专业领...……更多
更多关于科技的资讯:
2025开年首款新机!REDMI Turbo 4开启预约:首发天玑8400-Ultra
快科技12月23日消息,REDMI Turbo 4目前已经正式开启预约,该机将于2025年1月发布,是2025开年首款新机
2024-12-23 18:33:00
韩国学术界呼吁效仿台积电成立KSMC:维持半导体领导地位
快科技12月23日消息,据媒体报道,韩国国家工程院(NAEK)近日在首尔举行的研讨会上,讨论了效仿台积电成立韩国半导体制造公司(KSMC)的计划
2024-12-23 18:33:00
央视曝光智能门锁突然自燃失火原因!看完速转发给家人
快科技12月23日消息,据央视报道,日前,贵州贵阳一小区位于13层的住宅发生火情,消防员到场后发现,房屋门锁紧闭,无人员在内
2024-12-23 18:33:00
小米SU7最新版本OTA推送:正式接入VLM视觉语言大模型
快科技12月23日消息,小米汽车官方宣布,小米SU7汽车已接收到Xiaomi HyperOS 1.4.5版本的OTA更新
2024-12-23 18:33:00
近日,中新经纬小编跟随搬家师傅体验了“搬家小哥”的一天。曹师傅表示:“老手平均一个月挣一万四五没问题,单王也能到两万。也有挣几千的
2024-12-23 18:47:00
雷克萨斯ES200高速上追尾气囊未弹 车主:当时时速已经到100km/h了
快科技12月23日消息,据博主“拜托了老司机”透露,近日,一位雷克萨斯ES200车主向其反映,他车在高速上发生追尾事故
2024-12-23 19:03:00
能载人、会托马斯全旋!年度最强国产四轮足机器人来袭
快科技12月23日消息,今日下午,宇树科技官方发布消息称:在发布量产一年后,Unitree B2-W工业轮足,觉醒了更多极限天赋技能
2024-12-23 19:03:00
渔民捕到205斤野生石斑鱼引围观:售价达5位数
据悉,这条石斑鱼重量达205斤,目击者称这样的大鱼还是第一次见,65一斤卖了1万多元。据视频显示,这条石斑鱼的体重惊人
2024-12-23 19:03:00
新疆精梳长绒棉:南极人纯棉保暖内衣套装29元发车
天猫南极人时尚旗舰店,南极人纯棉保暖内衣套装日常售价59元,下单领30元优惠券,到手价29元。共有10款可选,包含圆领款
2024-12-23 19:03:00
本田CEO:与日产合并不是在救助日产 而是本田在扩张
快科技12月23日消息,据报道,本田和日产在今日举行了记者会,讨论经营统合(经营整合)的事宜。本田和日产声明:欲通过潜在合并实现30万亿日元的联合销售目标
2024-12-23 19:03:00
照着迈巴赫:造不出一台中国行政旗舰
2016年10月,纽博格林北环赛道的圈速榜上,第一次有中国品牌的身影。蔚来的纯电超跑EP9,空运到德国后,遇上雨天,只用三圈机会就创下纽北最快电动汽车圈速纪录
2024-12-23 19:03:00
还能再涨23%!AI宠儿NVIDIA成大摩明年首选
快科技12月23日消息,据报道,摩根士丹利(Morgan Stanley)最新报告指出,NVIDIA仍是其明年的“首选股”
2024-12-23 19:03:00
主美术罕见谈《仙剑4》:酒色财气4大迷宫最初都有 砍掉2个并非没钱
快科技12月23日消息,《仙剑奇侠传四:重制版》的先导PV预告一经发布,便迅速点燃了无数仙剑粉丝的热情与期待。特别是对于那些曾让无数人魂牵梦绕的琼华派“须臾幻境”中的“酒色财气”四大考验
2024-12-23 19:03:00
苹果正在开发一种新的智能门铃摄像头
12月22日消息,据彭博社MarkGurman(马克・古尔曼)今日爆料,苹果正在开发一种新的智能门铃摄像头,支持使用FaceID解锁
2024-12-23 19:24:00
张继科下场做直播了:199元乒乓球录播课3小时卖了25万!
快科技12月23日消息,据媒体综合报道,近日,乒乓球奥运冠军张继科在“张指导乒乓”账号开播。12月20日,张继科直播时不仅介绍了自己新代言的运动品牌
2024-12-23 19:33:00