• 我的订阅
  • 头条热搜
Llama3训练每3小时崩一次?豆包大模型、港大为脆皮万卡训练提效
伴随大模型迭代速度越来越快,训练集群规模越来越大,高频率的软硬件故障已经成为阻碍训练效率进一步提高的痛点,检查点(Checkpoint)系统在训练过程中负责状态的存储和恢复,已经成为克服训练故障、保障训练进度和提...……更多
超擎数智重磅发布擎天、锋锐、元景系列AI服务器,打造人工智能新质生产力强劲引擎
...色,在相同的GPU数量下,所需的服务器机头更少,适合千卡到万卡的中型规模GPU部署。强大性能:采用 Intel至强可扩展第四代处理器平台,TDP 350W;DDR5技术+PCIe Gen5最新技术支撑;PCIe直通配置低时延打造极致性能;前后 IO维护兼容设计,具备...……更多
与ChatGPT“赛跑”!国产大模型170多天“赛”出“加速度”
...布讯飞星火认知大模型V3.0,整体超越ChatGPT,并联合华为重磅发布了基于昇腾生态的“飞星一号”大模型算力平台。你知道华为和科大讯飞最早的“合作”在什么时候吗?追寻时间的轨迹,27年前,如今的科大讯飞董事长刘庆峰...……更多
重磅!国产AI写作模型比ChatGPT强1000%,360前员工AI团队取得重大突破
AI办公写作赛道迎来重磅 “炸场” 级产品!近日,360前员工的AI团队耗时半年打磨的创业项目——厉害猫AI,正式亮相。作为一款 “炸场” 级AI办公写作应用,厉害猫AI想要重塑AI办公写作赛道新格局。最长文本+最全场景,国产...……更多
Llama3.1训练平均3小时故障一次,H100万卡集群好脆弱
每3个小时1次、平均1天8次,Llama 3.1 405B预训练老出故障,H100是罪魁祸首?最近有人从Meta发布的92页超长Llama 3.1论文中发现了华点:Llama 3.1在为期54天的预训练期间,经历了共466次任务中断。其中只有47次是计划内的,419次纯属意...……更多
...总结了大模型实践过程中的十大难题:在训练上,面临着万卡/十万卡集群分布式训练及可靠性的挑战;在推理上,需解决面向LLM长文本生成的高效解码的挑战;在高效资源利用方面,面临着AI集群碎片资源利用及全局作业最优调...……更多
全国产算力平台“飞星一号”的首个成果发布:讯飞星火V3.5来了
...科大讯飞携手华为,宣布首个支撑万亿参数大模型训练的万卡国产算力平台“飞星一号”正式启用。启用后的90多天里,讯飞星火步履不停,基于“飞星一号”,启动了对标GPT-4的更大参数规模的大模型训练,带来了1月30日这场...……更多
华为AI存储助力中国移动构建超大规模智算集群
...在30多个单位、千余人的协同支持下,历经7个月时间,超万卡规模智算集群建成,存力规模达150PB。 在智能融合分级存储集群的设计初期,中国移动面临几大挑战:在吞吐性能方面,万亿级参数大模型需要至少10TB/秒的吞吐量,...……更多
商汤大装置:打造人工智能算力“样板间”,从AI 1.0跨越到2.0时代
...多的运营,商汤临港AIDC已取得比较重大的进展,实现了万卡的超大集群互联,并行效率达90%,可在园区里实现万亿参数模规的模型训练。在训练稳定性上,具备了超30天稳定训练不间断的能力。林海 商汤科技大装置事业群智算...……更多
算网筑基 拥抱智能 中国联通重磅发布最新智算成果赋能产业发展
...供给,着力成为生态发展的“筑基者”。打造上海、呼和万卡智算集群,全网智算算力超15EFLOPS,发布AICC、AICP、星罗调度平台等五大智算产品,提供涵盖国家“东数西算”枢纽、31省重点城市、超600边缘节点的AIDC基座。二是建...……更多
...布自研DPU等系列云产品,并推出新版机器学习平台:支持万卡级大模型训练、微秒级延迟网络,让大模型训练更稳更快。火山引擎总裁谭待表示,AI大模型有巨大潜力和创新空间,火山引擎会服务客户做好大模型,共同推动各行...……更多
AI潮起 共筑数智之基
...在中国移动人工智能生态大会上,中国移动正式发布了由万卡级智算集群、千亿多模态大模型、汇聚百大要素的生态平台共同构成的“九天”人工智能基座,并开放三大人工智能基地,加快大模型产业化、规模化发展,为数字中...……更多
京东云发布八大领先智算产品,助力企业火速用上大模型
...型成本至关重要。京东云超智算一体化算力集群,单集群万卡、全局10万卡级集群调度能力,依托软硬件协同优化,驱动大模型算力利用率(MFU)跃升至75%。云海AI存储,千亿级大模型全栈支持,4K随机写IOPS突破1000万级极速响应,...……更多
百度All in的大模型何时能赚钱?
...对算力的要求自然也更进一步,据媒体报道,文心4.0是在万卡AI集群上训练出来的,应该也为国内首次使用万卡规模集群进行训练的大语言模型。而万卡集群,国内目前只有华为、阿里透露已建成万卡AI集群,但我们都没看到基...……更多
国产GPU为底座,摩尔线程首个千卡智算中心落地
...经理翟赢、超对称创始人吴恒魁、数道智算董事长甄鉴等重磅嘉宾,就当前大模型的算力需求和智算中心的建设与运营等话题展开了深入探讨。嘉宾一致认为,智算中心不应只是硬件的堆积,更是对软硬一体化的GPU智算系统整合...……更多
美国商务部长示警黄仁勋“芯片不准卖中国”,英伟达“中国特供”生意将如何延续?|硅基世界
...算力有意义,但不是决定性能力。实际上 AI 模型训练是万卡级别集中在一起,需要整合系统去发挥效能,而非一张卡。”周震刚指出,根据IDC数据显示,2020年,智能算力规模(基于FP16计算)达到75 EFlops,预计到2027年,这一数...……更多
零一万物Yi-1.5来了,国产开源大模型排行榜再次刷新
... 型号也成功超越了 Mistral 的 7B v0.2 版和 Gemma 的 7B 型号。重磅消息当然不止这一个。在成立一周年之际,零一万物宣布面向国内市场一次性发布了包含 Yi-Large、Yi-Large-Turbo、Yi-Medium、Yi-Medium-200K、Yi-Vision、Y……更多
昆仑万维董事长方汉谈“开源模型落后”:和闭源的差距在缩小,不存在谁压倒谁
...,所以购买的价格是比较合适的。可以说我们已经有接近万卡的训练资源,这在中国是位于前列的。我认为万卡资源足够支持下一代多模态大模型的训练。长期来看,如果遇到算力受限的情况,就要求你去优化推理和训练的算法...……更多
没有这些,别妄谈做 ChatGPT 了
...这是一个超大规模的高性能计算集群,是国内唯一能实现万卡规模的 AI 集群。给你一万张 A100,就能把 ChatGPT 训出来吗?答案无疑是否定的。万卡集群对于网络、存储和通信有极高的要求,弄得不好直接宕机。贴一组数据。数据...……更多
...,中国移动智算中心(上海)宣布正式投产,总体规划超万卡,并全部基于全栈自主可控的国产化算力,这标志着上海在算力资源和智能化应用方面上又迈出坚实一步。该智算中心作为中国移动算力网络“4+N+31+X”战略布局的重...……更多
浙江移动:以“国家队”实力全面推进AI+行动计划
...能发展的‘国家队’进展十分迅速,不仅建设3个国产近2万卡智算中心,可为万亿、千亿等超大参数模型训练提供澎湃算力,打造的九天基座大模型实现行业定向增强、行业模态匹配、全栈国产化、安全可信等四大技术突破,成...……更多
雷军花千万挖人、头部量化私募创立、95后AI“天才少女”,这家AI公司刷屏
...,送以“铎神”的称号。此外,小米近段时间正在搭建GPU万卡集群,规模较其大模型团队成立时的约6500张GPU大幅增加。这一计划已施行数月,由雷军亲自领导。小米集团总裁卢伟冰透露,预计2024年小米研发费用将达到240亿元,2...……更多
...性供电、弹性制冷、气流组织优化),在热点区域建设超万卡的超大智算集群,今年3月中国电信在上海临港已建成全国首个国产单池万卡液冷算力集群并投入运营;基于云网融合的天翼云国家云打造“息壤”“云骁”“慧聚”...……更多
生态领先吸引要素集聚
...838P跃升至7367P,建成国内首个支撑万亿参数大模型训练的万卡国产算力平台,算力统筹调度平台上线运行,合肥先进计算中心获批国家新一代人工智能公共算力开放创新平台。关键要素加速集聚。省财政3年安排10亿元,预计带动...……更多
...设施。三大运营商加快400G全光运力网、算力枢纽节点、万卡智算集群等基础设施建设。其中,中国电信和中国联通分别在上海、青岛等地建设了万卡智算集群和新一代智算中心,中国移动则在呼和浩特、哈尔滨建成了全球运营...……更多
中国电信秀出“硬核实力” 打造AI算力新高地
...人工智能公共算力服务平台”,这也是全国首个国产单池万卡液冷算力集群,将助推上海抢占全国算力发展制高点。(图片来源:摄图网)把握人工智能红利,已经成为中国电信角逐智能算力的重要方向。一直以来,中国电信积...……更多
5年投资超1000亿,北京公布一系列AI重磅成果,北大清华百度蚂蚁微软大佬齐谈AI未来|钛媒体AGI
...小”模型以支持手机本地推理计算,蚂蚁集团绿色通算与万卡异构集群智算技术面向行业开源开放,CoDeF实现视频二次加工所见即所得,Codefuse对话式编程机器人让人人都可以成为工程师等。蚂蚁集团CTO何征宇何征宇透露,其智...……更多
支付宝在AI大模型时代
...大模型、应用产品在内的完整技术链条。蚂蚁建设了超过万卡的异构集群,其中硬件算力效率(HFU)超过60%,集群有效训练时长占比90%以上,RLHF训练在同等模型效果下训练吞吐性能相较于业界方案提升3.59倍,推理性能相较于业界...……更多
大模型「标王」硬气:不做Sora ,要帮更多企业做出Sora
...。因为,百舸的多芯混合训练任务的性能损失,控制在了万卡性能损失 5%,已经是业界最高水平。除了「多」,训练、推理也又「快」又「稳」。从发布到上线仅三个月,生数科技就完成了对 Vidu 的快速迭代。为啥这么快?因为...……更多
7个第一,11个首发,讯飞星火放大招,大模型规模化落地可期!
...赋能科研是讯飞星火的重要使命”,刘庆峰说。首个国产万卡算力集群“飞星二号”平台上线,星火大模型持续引领全国产算力平台发展2024科大讯飞AI开发者大赛共有来自14个国家、348座城市的35268支团队参赛,其中9372支是大模...……更多
更多关于科技的资讯:
安卓首发!小米15 Ultra支持ACES LOG电影级视频:录制全焦段8K视频
快科技2月27日消息,小米15 Ultra今日安卓首发支持ACES LOG电影级视频,并且具有电影摄影机级色彩。据悉,ACES LOG是由奥斯卡奖颁发机构“美国电影艺术与科学学院”
2025-02-27 20:06:00
感动值再+1!雷军小米发布会再度深情回应王垠
快科技2月27日消息,今晚7点,小米集团发布会如约召开!发布会一开场,小米集团创始人雷军登上了舞台中央。今天的“雷布斯”格外精神
2025-02-27 20:06:00
没涨价!小米15 Ultra售价公布:6499元起 3月3日10点正式发售
快科技2月27日消息,今晚,小米15 Ultra正式发布。刚刚,卢伟冰公布了新机的售价,与上代小米14 Ultra持平
2025-02-27 20:06:00
254元!小米智能音箱Pro发布:首个“超级小爱”智能音箱
快科技2月27日消息,今天,小米智能音箱Pro正式发布,定价为299元,在国补政策的支持下,到手价仅需254.15元,性价比极高
2025-02-27 20:36:00
冲击超高端!小米15 Ultra正式发布:6499元起不涨价
快科技2月27日消息,今晚,卢伟冰登场带来了小米创业十五年以来最高端的手机产品——小米15 Ultra。小米认为Ultra
2025-02-27 20:36:00
1299元起!小米Buds 5 Pro发布:首发Wi-Fi音频传输 4千元内音质最好TWS耳机
快科技2月27日消息,今晚,小米最强TWS耳机——小米Buds 5 Pro发布,提供蓝牙版Wi-Fi版两种版本,售价分别为1299元和1499元
2025-02-27 20:36:00
到手3599元 米家冰箱Pro双系统法式平嵌508L发布:双蒸发器+双风机设计
快科技2月27日消息,米家冰箱Pro双系统法式平嵌508L今日正式发布,首发4499元,国补到手3599.2元。首先,冰箱采用60cm超薄机身
2025-02-27 20:36:00
小米15 Ultra最后一代6499元!卢伟冰:小米手机要突破6K+超高端市场
快科技2月27日消息,今晚小米15 Ultra正式发布,定价6499元不涨价。共四款不同配置:12+256GB售6499元
2025-02-27 20:36:00
国补到手5199元起 REDMI Book Pro 16正式发布!99Wh巨无霸电池
快科技2月27日消息,在今天的新品发布会上,小米首款AI专业办公笔记本REDMI Book Pro 16 2025正式发布
2025-02-27 20:36:00
首次登上小米发布会!米家智能变频除湿机发布:国补到手1699元
快科技2月27日消息,在今天的小米新品发布会上,小米人车家全生态新品米家智能变频除湿机30L正式发布,这也是这一品类首次登上小米发布会
2025-02-27 21:06:00
小米Buds 5 Pro音质抢先试听!第一次让TWS耳机的声音有了画面感
一直以来,TWS耳机都很难与“好音质”三个字挂钩。这是娘胎里决定的,传输链路、芯片算法、空间体积天生受限。但“好”是相对的
2025-02-27 21:06:00
雷军:SU7 Ultra绝对配得上地表最强四门量产车称号!
快科技2月27日消息,在今晚的小米SU7 Ultra发布会上,雷军强调:小米SU7 Ultra绝对配得上地表最强四门量产车称号
2025-02-27 21:06:00
米家首款中央空调Pro发布:最贵仅27999元!不到大金一半价格
快科技2月27日消息,今晚米家首款中央空调——米家中央空调Pro正式发布,共8款型号。其中,大六匹(1拖6)价格29999元
2025-02-27 21:06:00
支持实时听译、55dB降噪!小米Buds 5 Pro耳机图赏
快科技2月27日消息,今晚,小米最强TWS耳机——小米Buds 5 Pro发布,售价1299元起,号称4000元以内音质最好的TWS耳机
2025-02-27 21:06:00
久洗不发黄!米家洗烘套装Pro蓝氧洗 热泵烘发布:5199.2元
快科技2月27日消息,今日晚间,米家洗烘套装Pro蓝氧洗 热泵烘正式发布,原价6499元,支持国补优惠,实付到手价仅需5199
2025-02-27 21:06:00