• 我的订阅
  • 头条热搜
算力浪费超50%!百度AI计算部负责人拆解大模型时代的算力成本
...东西9月13日消息,百度系统架构师、百度智能云AI计算部负责人王雁鹏向媒体解读了大模型时代的算力成本。为了有效降低AI万卡集群的算力开支,他提出搭载RDMA网络、自动并行策略、保证训练稳定性、动态分配算力、多芯异构...……更多
当大模型Scaling Law继续,万卡集群算力释放在百舸找到一条通途
...一世纪什么最贵?人才!」而随着人工智能行业进入到大模型时代,这一问题的答案已然变成了「算力」。随着模型规模急剧扩张,参数已经飙升到了千亿甚至万亿级,业界开启了千模大战,AI 算力需求不可避免迎来爆炸式增长...……更多
张云泉:集中力量,促进国产AI大模型发展
...第18期,总第915期),原题为《集中力量,促进国产AI大模型发展——专访十四届全国政协委员、中科院计算所研究员张云泉》。文丨《瞭望东方周刊》记者万宏蕾编辑顾佳贇算力建设能否及时跟上,成为AI大模型向各领域进一步...……更多
中国智算建设潮背后,谁在推动十万卡集群
...行副总裁、百度智能云事业群总裁沈抖透露,为了支撑大模型进一步的高速发展,百度在打磨十万卡集群能力方面,已在两大问题上取得关键突破。与此同时,字节和阿里在智算上投入巨大,今年以来,华为也联合厂商在攻克更...……更多
国产GPU万卡集群终于来了!摩尔线程CEO张建中:做难而正确的事
...张建中抛出一句掷地有声的断言。为什么必须是万卡?大模型行业变化很快,客户希望两周内结束战斗,最迟也得在1个月内训练完。假设训练一个5000亿参数模型,有15TB数据,如果只有1000P算力,3年都训不完;如果将时间锁到两...……更多
...六优’产业升级的标杆案例。”宁夏移动算力运营分公司负责人段立介绍。宁夏移动发力数字“新基建”,从数据中心向算力中心演进,打造国家级绿色低碳数据中心产业园区,通过建设22kW以上高功率密度机柜,完成智算集群...……更多
无问芯穹夏立雪:破解算力焦虑,我做了大模型算力领域的“淘宝”丨36氪专访
...问芯穹」创始人兼CEO夏立雪曾任阿里云用户增长产品技术负责人,曾经负责过阿里云大语言模型的压缩加速、生成式AI模型芯片的等战略项目;无问芯穹CEO夏立雪联合创始人兼CTO颜深根曾是商汤科技数据与计算平台部执行总监,...……更多
超万卡集群让算力迈上新台阶
...产效率、效益及节能效果都有显著提升。”中国一重相关负责人介绍,在“5G+数据采集”的加持下,轧电车间生产制造信息采集量提升80%以上,为车间的生产排产以及生产管理提供了有效可靠的数据支撑。 打造数字政府、深化...……更多
百度All in的大模型何时能赚钱?
...供更加个性化、智能化和便利化的产品和服务。但是,大模型作为动辄投入数十亿的项目,故事势必要从巨头们讲起,而作为这场大模型竞争中的主要玩家之一,率先发布文心一言的百度不可谓不是其中的领头羊。基于过去数年...……更多
阿里云AI基础设施获2024世界互联网大会领先科技奖
...达到99%的业界领先水平。阿里云副总裁、基础设施事业部负责人蒋江伟据介绍,阿里云AI Infra相关核心技术已被SIGCOMM、HPCA、ICDE、ACM等多个国际顶级学术会议收录认可。基于阿里云AI Infra打造的通义千问大模型,已成为全球性能...……更多
支付宝在AI大模型时代
...)对此感慨颇深,尽管内部已经有过好几轮演练,但在大模型这样一个“新事物”面前,说不紧张是骗人的。1月28日,晚上8点,支付宝技术团队所在的蚂蚁空间8号楼已经坐满了人,再过四个小时,五福节就要正式上线了。俊义已...……更多
马斯克宣布训练“世界上最强大的人工智能” !万卡集群背后的算力竞赛迅猛升级
...标具有一定的挑战性,但并非完全不现实。”科方得智库负责人张新原在接受金融投资报记者采访时表示,如果能够充分利用孟菲斯超级集群的强大计算能力,并采用先进的技术和方法,有可能实现这个目标。这将推动AI研究和...……更多
容联云QCon全球软件大会分享:大模型引领“营销服”创新实践
...日,QCon全球软件开发大会正式召开。容联云大模型产品负责人唐兴才受邀出席,并分享营销服场景中,大模型的创新应用与实践。 唐兴才指出,在大模型浪潮的推动下,营销服场景正经历着前所未有的变革。面对激烈的市场竞...……更多
...出,要将人工智能时代的算力成本降到最低,发展通用大模型和垂直领域大模型,着力打造全国算力成本洼地和模型输出地。全力抢占人工智能发展制高点,是杭州推动数字经济“二次攀登”、开启下一个“黄金二十年”的入场...……更多
摩尔线程与360达成战略合作,将共同打造“360智脑大模型一体机”
...双方此次合作旨在聚焦数字安全、信息与数字化服务及大模型等领域的创新应用,共同构建一个更加强大、可靠的人工智能生态系统,为各行各业提供先进的技术支持和服务。双方还将携手打造“360 智脑大模型一体机”,加速...……更多
人均年薪100万,手机厂商数百亿开卷大模型
...4月,王斌牵头负责,小米技术委员会AI实验室大模型团队负责人栾剑带队,小米内部正式成立了一支自研大模型团队,雷军亲自推动了自研大模型团队的建立,并全程高度参与了小米大模型的自研,他会亲自查看团队的周报、月...……更多
商汤大装置:打造人工智能算力“样板间”,从AI 1.0跨越到2.0时代
...、规模化的新一代AI基础设施 SenseCore商汤大装置,以AI大模型开发、生成、应用为核心,赋能人工智能生产新范式。2022年,作为大装置重要载体的商汤临港AIDC正式投入运营,成为亚洲最大的人工智能计算中心之一,推动人工智...……更多
AI难盈利,商汤生成式AI创收12亿增长两倍,全年净利亏损65亿
...消息称,商汤计划将该业务分拆单独融资。后来该事业群负责人王晓刚表示,会持续加大投入,把它做大做强。根据财报信息,商汤智能汽车去年新增129万辆量产车型,同比增长163%,累计交付达195万辆,覆盖90多个车型,并新增...……更多
鸿蒙x昇腾云:华为打造智能时代最佳AI基础设施
...步提升服务分发效率,给消费者带来全新的体验。盘古大模型的应用,进一步提升了系统对用户高阶意图的理解和匹配能力,帮助开发者更精准地触达目标用户,从而优化用户体验和应用效率。鸿蒙操作系统还提供了AI控件能力...……更多
首个国产单池万卡液冷算力集群投入运营,满足万亿级大模型训练需求
...展正在进入“深水区”。随着生成式AI的迭代和发展,大模型规模以惊人的速度扩展,万亿参数级别几乎成为通用大模型的标配,由此带来的是算力需求的急剧增长。作为践行《新型数据中心“算力浦江”行动计划(2022-2024年)...……更多
加速落地 京东云大模型已支持数百个场景
...代数字基础设施,持续加速产业智能化变革。京东云相关负责人介绍,京东围绕大模型的平台构建和场景应用,进行了深入探索,从虚拟数字人主播、到AIGC生成的营销物料,从商家运营的全面智能化、到智能配送车稳定运营,...……更多
阿里云CTO周靖人:全面投入升级AI大基建
...准,全面升级从服务器到计算、存储、网络、数据处理、模型训练和推理平台的技术架构体系,让数据中心成为一台超级计算机,为每个AI和应用提供高性能、高效的算力服务。大会现场,通义大模型迎来了年度重磅发布,基础...……更多
再融近5亿!清华系AI创业新势力,成最吸金“算力运营商”
一笔近5个亿新融资,投向AI大模型领域。量子位独家获悉,清华系AI创业公司无问芯穹完成了近5亿元A轮融资。加码的股东阵容很全、很豪华:一口气新增15家股东,涵盖北京上海等地的国资/地方基金,顺为资本/达晨财智等市场...……更多
重磅!TeleAI 完成首个全国产化万卡万参大模型训练
...功完成国内首个基于全国产化万卡集群训练的万亿参数大模型(万卡万参),并正式对外开源首个基于全国产化万卡集群和国产深度学习框架训练的千亿参数大模型——星辰语义大模型 TeleChat2-115B。这是由中国电信集团 CTO、首...……更多
字节跳动豆包大模型发布,火山引擎全栈AI服务助力企业智能化转型
...能体,为终端用户带来了全新的AI体验。捷途汽车数字化负责人 刘航 捷途汽车数字化负责人刘航表示,捷途汽车希望通过大模型扩大自身服务能力、洞察用户真实需求,进而提升销售效率和能力。携手火山引擎,双方围绕客服...……更多
汽车新智能图谱里:理解腾讯的AI TO B路径
...成熟度去做选择。”腾讯智慧出行副总裁、腾讯智慧出行负责人钟学丹告诉我们。也更可以理解为,腾讯如今为汽车行业提供的是一套契合产业、契合企业自身的云端大模型体系,基于腾讯固有的应用、工具和云的强项能力给企...……更多
Llama3训练每3小时崩一次?豆包大模型、港大为脆皮万卡训练提效
伴随大模型迭代速度越来越快,训练集群规模越来越大,高频率的软硬件故障已经成为阻碍训练效率进一步提高的痛点,检查点(Checkpoint)系统在训练过程中负责状态的存储和恢复,已经成为克服训练故障、保障训练进度和提...……更多
...讯,蚂蚁集团首席技术官何征宇表示,目前已形成包括大模型底层基础设施、基础大模型、行业大模型、应用产品在内的完整技术链条。“我们是从集群开始自己搭的,蚂蚁建设了超过万卡的异构集群,其中硬件算力效率(HFU)超...……更多
百度李彦宏:一个只靠想法赚钱的时代来了
OpenAI掀起的这一波大模型浪潮已经火热了近两年时间,AI技术以前所未有的速度进行迭代和创新,从大公司到创业者再到风险投资,纷纷寻找生成式AI时代基于大模型的超级应用。但客观来说,业界期待的“杀手级应用”直到今...……更多
2024年,百度最重用的两位女高管|焦点分析
...高管为坐标系。第一位是王颖,百度副总裁、文库事业部负责人。2022年中旬接手百度文库的她,用一年的时间,将“垂暮”的文库,用AI改造成了“百度最赚钱的产品”。截至2024年6月,百度文库付费率年同比增长了60%,用王颖...……更多
更多关于科技的资讯:
小狗散步配备“坐骑”机器狗惊呆路人 网友神回复抢镜了
快科技3月3日消息,近日,四川成都,一则小狗坐机器狗散步的视频引发了网友热议。据视频画面显示,一只白色的小狗稳坐机器狗背部
2025-03-03 17:40:00
贵州发现两栖动物新物种“魏氏纤树蛙”:生活在海拔1600米竹林中
快科技3月3日消息,据报道,近日贵州雷公山国家级自然保护区发现了一种两栖动物新物种——魏氏纤树蛙(Gracixalus weii)
2025-03-03 17:40:00
真我首款可更换镜头概念机公布:10倍无损光学变焦
快科技3月3日消息,真我预热了几天的“影像黑科技”产品终于公布——真我首款可更换镜头概念机。从官方公布的海报来看,真我这款新机采用了大圆形后摄
2025-03-03 17:40:00
抗衰老、延长寿命的追求:NMN全球市场能否面临挑战?
中信证券发布的NMN深度行业研报揭示了中国保健品市场的迅猛发展,过去10年的复合增速高达9.5%。据测算,当前国内每1%保健品人口对应的NMN(β-烟酰胺单核苷酸)市场空间为304亿元
2025-03-03 17:57:00
苹果AI进度严重落后!新版AI Siri要等到iOS 20了
快科技3月3日消息,根据Mark Gurman最新透露,苹果在AI技术开发上遭遇了多项重大挑战,导致许多原计划推出的功能被迫延后
2025-03-03 18:10:00
男子用思域发动机、不锈钢管手搓飞机:仅用10天就成功升空
快科技3月3日消息,日前,有博主发视频称,自己改装本田思域1.5T发动机,使用不锈钢管、手钳、角磨机等用料,花费10天手搓了一台飞机
2025-03-03 18:10:00
官方喊你来当深圳人了:本科、硕士、博士通通有补贴 最高10万
3月3日消息,据国内媒体报道称,深圳就业应届毕业生最高补贴10万。深圳方面表示“百万英才汇南粤”行动计划是省委为广东省实现高质量发展而作出的重大部署
2025-03-03 18:10:00
男子开特斯拉狂飙226km/h还拍视频炫耀遭举报:驾照没了
快科技3月3日消息,近日有男子称,自己因为在群聊中炫耀自己超速行为,被人举报,被处扣驾驶证12分、罚款2000元、驾照吊销2年的处罚
2025-03-03 18:10:00
乌鸦反哺、斑羚飞渡 这些让你感动到哭的故事:都是假的!
在童年的儿歌和故事书中,动物常常被赋予人类的情感和道德:乌鸦反哺彰显孝道,老鹰断喙重生诠释坚韧,斑羚飞渡悬崖谱写牺牲……这些故事承载着文化的期许
2025-03-03 18:10:00
华为打造智能基站:地铁出站秒级降低功率 能耗大降37%
快科技3月3日消息,近日,华为无线网络传来重磅消息,安徽移动携手集团研究院、集团设计院以及华为,于合肥共同打造了规模达千站的无线高阶自智网络示范区
2025-03-03 18:40:00
小米SU7 Ultra民间圈速公布!仅比500万的法拉利SF90慢0.04秒
快科技3月3日消息,今天下午,懂车帝全程直播,联合中国知名车手马青骅在天津V1国际赛车场测试了小米SU7 Ultra的赛道性能
2025-03-03 18:40:00
周鸿祎:DeepSeek会让学渣和学霸的差距越拉越大 且不可逆转
快科技3月3日消息,360集团创始人、董事长周鸿祎今日发视频,谈到了DeepSeek对于普通人的影响。他表示,AI对普通人的影响正在被低估
2025-03-03 18:40:00
周鸿祎再谈DeepSeek:精英人群获得的帮助更大 普通员工反而会退步
快科技3月3日消息,近日,360集团创始人兼董事长周鸿祎在其个人社交账号发布视频,再次谈及了DeepSeek,并介绍了AI普及对大众工作生活的改变和影响
2025-03-03 18:40:00
冯小刚电影《向阳·花》定档4月4日:赵丽颖领衔主演
快科技3月3日消息,冯小刚电影官微发文称,由冯小刚导演、赵丽颖领衔主演的电影《向阳·花》官宣定档4月4日全国上映。官微写道
2025-03-03 18:40:00
日本团队做出世界上最小的射击游戏!纳米粒子立大功
据媒体phys报道,日本名古屋大学工程研究所Takayuki Hoshino教授领导的研究团队,通过实时操控纳米级粒子
2025-03-03 18:40:00