• 我的订阅
  • 头条热搜
没有这些,别妄谈做 ChatGPT 了
...在用行动来表明战斗力,比如前些天复旦大学推出的 MOSS 模型,一经开放试用,便冲上热搜。一时间眼花缭乱,让人生疑。有钱就能训出模型?以美团大佬带资入组为代表,很多创业者和投资人盯上了 ChatGPT,作为一个 NLPer,我...……更多
小模型正在成为AI界的新宠
大模型的发展已经进入了万亿级参数时代。DeepMind 联合创始人穆斯塔法・苏莱曼(Mustafa Suleyman)预测, 仅在未来三年内,大模型规模以惊人的速度继续扩张,将增长 1000 倍。一方面,模型的参数量与其能够处理和学习的复杂性...……更多
摩尔线程GPU千卡集群完成师者AI 70亿参数教育大模型训练测试
快科技6月14日消息,摩尔线程与全学科教育AI大模型“师者AI”联合宣布,双方已完成大模型训练测试。师者AI基于摩尔线程夸娥(KUAE)千卡智算集群,完成了其70亿参数大模型的高强度训练测试。整个训练过程用时一周,训练...……更多
国内最大智算中心正式投用:每秒690亿亿次浮点运算 可训练万亿参数大模型
...所有AI加速卡打造成1个集群,用以支持千万亿级参数的大模型进行训练。这个集群智算中心通过先进的智算网络技术把上万块GPU芯片像“积木”一样拼接在一起,大幅提升GPU节点间的通信效率,将数据训练完成时间缩短20%,从而...……更多
优刻得首个「国产千卡智算集群」落地,支持智源千亿大模型训练
...算集群规模,才能一路突破围追堵截,进一步促进国产大模型产业生态繁荣。作为中立、安全的云计算服务厂商,优刻得持续发力人工智能智算领域,与国内主流AI芯片厂商深度合作,共同搭建的「国产千卡智算集群」现已上线...……更多
摩尔线程kuae千卡集群正式落地
12月19日消息,摩尔线程今日宣布,首个全国产千卡千亿模型训练平台——摩尔线程KUAE智算中心揭幕仪式在北京成功举办,宣告国内首个以国产全功能GPU为底座的大规模算力集群正式落地,大模型智算加速卡MTTS4000也同步发布。...……更多
国产GPU万卡集群终于来了!摩尔线程CEO张建中:做难而正确的事
...张建中抛出一句掷地有声的断言。为什么必须是万卡?大模型行业变化很快,客户希望两周内结束战斗,最迟也得在1个月内训练完。假设训练一个5000亿参数模型,有15TB数据,如果只有1000P算力,3年都训不完;如果将时间锁到两...……更多
Yandex推出开源大语言模型训练工具,称可节省高达20%的图形处理器资源
...球科技公司Yandex推出了YaFSDP,这是一种用于训练大型语言模型(LLM)的开源方法。据介绍,YaFSDP是目前在大型语言模型训练中增强图形处理器(GPU)通信并减少内存使用量的公开可用的最有效工具,与FSDP相比,根据架构和参数数量...……更多
从0到1:国产化千卡集群的一小步,AI算力主动权的一大步
...。供求关系紧张是产生算力焦虑的根源所在。一方面,大模型训练与推理需求呈几何级数爆发——自2022年以来,人工智能算力需求每3~4个月就翻一番,每年训练AI模型所需算力增幅高达10倍,而生成式AI使上升曲线进一步陡峭,...……更多
超30个国产大模型混战:华为百度阿里腾讯,谁能成为“中国的OpenAI”?
...上万张GPU训练算力,并成立对标OpenAI的X.AI公司以开发大模型。ChatGPT引爆的AI大模型,正在成为全球科技巨头竞相追逐的新战场。国外有微软、谷歌、亚马逊,国内更是遍地开花。“大模型发布月”名不虚传,刚刚过去的一周基...……更多
国产GPU为底座,摩尔线程首个千卡智算中心落地
...2月19日,观察者网了解到,摩尔线程首个全国产千卡千亿模型训练平台——摩尔线程KUAE智算中心揭幕仪式在北京举办,这宣告国内首个以国产全功能GPU为底座的大规模算力集群正式落地。与此同时,摩尔线程联合国内众多合作...……更多
大模型观察|从训练到落地金融业,大模型“升级之路”面临哪些挑战?
迎着技术风口,2024年将是AI大模型应用的浪潮年。业界认为,大模型将对金融业产生长远的、深刻的影响。1月28日,针对大模型在各业务场景的应用成效、对大模型算力的开发和提升,多机构向北京商报记者透露了自研大模型...……更多
芯片战场丨瞄准大模型 摩尔线程首个千卡智算中心落地
为满足大模型的“暴力”计算需求,国内GPU企业正加码算力基础设施建设。12月19日,摩尔线程首个全国产千卡千亿模型训练平台——摩尔线程KUAE智算中心落地。据其介绍,这是国内首个以国产全功能GPU为底座的大规模算力集群...……更多
腾讯自研大模型助力长三角打造世界级产业集群
...团副总裁、政企业务总裁李强表示,腾讯不仅通过自研大模型服务千行百业,也拥有坚实的AI基础设施服务,为中国大模型产业繁荣发展提供技术支撑。去年9月,腾讯全链路自研的腾讯混元大模型正式亮相。根据沙利文的权威报...……更多
昆仑万维宣布开源2千亿稀疏大模型Skywork-MoE
...转自:中国新闻网6月3日,昆仑万维宣布开源2千亿稀疏大模型Skywork-MoE,性能强劲,同时推理成本更低。Skywork-MoE基于之前昆仑万维开源的Skywork-13B模型中间checkpoint扩展而来,是首个完整将MoE Upcycling技术应用并落地的开源千亿MoE...……更多
连续无故障训练15天!摩尔线程发布夸娥智算集群KUAE 1.2
...上多维升级,更高效、稳定,对生态系统更友好,可为大模型训练提供更坚实可靠的算力支撑。夸娥1.2主要升级点:▼MFU提升10% 最高可达55%在新版本中,使用千卡集群训练千亿模型,MFU(模型算力利用率)提升10%。稠密模型集群训...……更多
当大模型Scaling Law继续,万卡集群算力释放在百舸找到一条通途
...一世纪什么最贵?人才!」而随着人工智能行业进入到大模型时代,这一问题的答案已然变成了「算力」。随着模型规模急剧扩张,参数已经飙升到了千亿甚至万亿级,业界开启了千模大战,AI 算力需求不可避免迎来爆炸式增长...……更多
重磅!TeleAI 完成首个全国产化万卡万参大模型训练
...功完成国内首个基于全国产化万卡集群训练的万亿参数大模型(万卡万参),并正式对外开源首个基于全国产化万卡集群和国产深度学习框架训练的千亿参数大模型——星辰语义大模型 TeleChat2-115B。这是由中国电信集团 CTO、首...……更多
兔年拜年爆火新玩法:三秒变成年画娃娃
...。年画娃娃的核心技术是生成式AI,使用了多个前沿的AI模型。用两个字生成春联,这是自然语言生成大模型,里面有上百亿参数,经过了复杂的预训练。输入照片就能变身年画娃娃,同时调用了多个视觉AI模型,它们能够根据上...……更多
全球最强开源大模型Llama 3发布:使用15T数据预训练,最大模型参数将超4000亿
就在刚刚,Meta 发布了其最先进开源大型语言模型的下一代产品——Llama 3。据介绍,Llama 3 在 24K GPU 集群上训练,使用了 15T 的数据,提供了 8B 和 70B 的预训练和指令微调版本,可以支持广泛的应用。同时,Llama 3 在广泛的行业...……更多
李开复AI公司首发大模型,阿里云领投 | 36氪独家
...复成立的AI公司“零一万物”发布了首款开源中英双语大模型“Yi”。与此同时,36氪获悉,零一万物已完成新一轮融资,由阿里云领投。目前,零一万物估值已超10亿美元,跻身独角兽行列。此前,“Yi”于11月2日已经在Hugging Fac...……更多
首个国产单池万卡液冷算力集群投入运营,满足万亿级大模型训练需求
...展正在进入“深水区”。随着生成式AI的迭代和发展,大模型规模以惊人的速度扩展,万亿参数级别几乎成为通用大模型的标配,由此带来的是算力需求的急剧增长。作为践行《新型数据中心“算力浦江”行动计划(2022-2024年)...……更多
从云栖大会,看阿里的科技本色
...火热的背景下,此次云栖大会上,阿里巴巴宣布了自研大模型的最新进展——千亿级参数规模的通义千问 2.0 正式发布。阿里巴巴宣布,通义千问 2.0 在 10 个权威测评中全面超越 GPT-3.5 和 Llama2。阿里还是国内唯一将自研大模型开...……更多
摩尔线程与360达成战略合作,将共同打造“360智脑大模型一体机”
...双方此次合作旨在聚焦数字安全、信息与数字化服务及大模型等领域的创新应用,共同构建一个更加强大、可靠的人工智能生态系统,为各行各业提供先进的技术支持和服务。双方还将携手打造“360 智脑大模型一体机”,加速...……更多
马斯克宣布训练“世界上最强大的人工智能” !万卡集群背后的算力竞赛迅猛升级
...张卡的训练集群,研发MegaScale生产系统,用于训练大语言模型;科大讯飞2023年建成了首个支持大模型训练的超万卡集群算力平台“飞星一号”。7月1日,腾讯宣布其自研星脉高性能计算网络全面升级,升级后的星脉网络2.0搭载全...……更多
国内首个以国产全功能GPU为底座的大规模算力集群正式落地
...摩尔线程官方发布通告称,摩尔线程首个全国产千卡千亿模型训练平台,摩尔线程KUAE智算中心揭幕仪式成功举办。此举也代表着,国内首个以国产全功能GPU为底座的大规模算力集群正式落地。摩尔线程CEO张建中表示,摩尔线程...……更多
LLM训练通信量减少10000倍!全新分布式优化器,整合世间算力训练强大AI
...了1000到10000倍!如果可以使用世界上所有的算力来训练AI模型,会怎么样?近日,凭借发布了开源的Hermes 3(基于Llama 3.1)而引起广泛关注的Nous Research,再次宣布了一项重大突破——DisTrO(分布式互联网训练)。通过使用与架构...……更多
大模型涌现前,巨头涌入AI广告
...稿)》公开征求意见。同日,阿里发布“通义千问”AI大模型,在此之前,百度、华为、腾讯、昆仑万维等科技巨头在大模型方面也有布局动作。从巨头入场到监管推进,生成式AI在国内的发展脚步不断加快,这也将从更多层面...……更多
GPU训Llama 3.1疯狂崩溃,竟有大厂用CPU服务器跑千亿参数大模型?
【新智元导读】是时候用CPU通用服务器跑千亿参数大模型了!马斯克19天建成由10万块H100串联的世界最大超算,已全力投入Grok 3的训练中。与此同时,外媒爆料称,OpenAI和微软联手打造的下一个超算集群,将由10万块GB200组成。...……更多
商汤生成式AI业务飙涨256%,成为中国大模型、智算服务市场占有率领头羊
...动做收缩调整。商汤在财报中指出,受惠于中国市场对大模型和智算服务的强劲需求、“日日新SenseNova”大模型能力的飞跃式提升以及推理成本的快速下降,带动模型调用量增长迅速。报告期内,“绝影”智能汽车业务的表现也...……更多
更多关于科技的资讯:
全球最大SSD Solidigm D5-P5336 61.44TB疯狂涨价:已超5万元
去年7月,Solidigm发布了旗舰企业级SSD D5-P5336,最高容量达61.44TB,创造行业新纪录,采用192层QLC闪存
2024-10-19 20:21:00
黄色巨龙贴地飞驰!中国高铁飙到385公里/时
快科技10月19日消息,10月18日,南宁至珠海高速铁路南宁至玉林段(简称南珠高铁南玉段)迎来了最高测试速度等级的提速试验
2024-10-19 20:21:00
杨笠吐槽男生痴迷电子设备 博主:让男人快乐的最便宜东西了
快科技10月19日消息,今天杨笠吐槽男生痴迷电子设备的视频又被翻了出来。视频中,杨笠以幽默的方式表达了男生对电子产品的热情
2024-10-19 21:21:00
惨!四川乐山一摩托车高速飙车与轿车相撞 女生被甩出100多米
10月19日消息,据国内媒体报道称,四川乐山乐沙大道发生一起车祸,一辆摩托车与一辆轿车相撞,有人伤亡。从现场网友反馈的情况看
2024-10-19 21:51:00
技嘉首发雷电5扩展卡:2个接口 可连10台设备
快科技10月19日消息,Intel去年9月就正式发布了雷电5,但在最新的酷睿Ultra 200系列平台上仍然没有原生集成
2024-10-19 22:51:00
北京三号C星星座顺利过审:数飞机的本事绝了
快科技10月19日消息,近日,北京三号C星星座在轨测试总结评审会在北京召开。童庆禧院士为组长,自然资源部遥感领域专家、中国航天科技集团五院和五院航天东方红卫星有限公司相关专家作为评委的评审组经过现场质询和讨论
2024-10-19 23:21:00
得了绝症的玉米变成顶级食材 价格翻百倍:为何不专门培育
下面根玉米被真菌感染了,它长出了这种黑色的瘤状物,看起来很糟糕,但这根玉米现在成为了一种昂贵的美食。当玉米田的温度和湿度都很高的时候
2024-10-19 23:51:00
iqoo13正面照解禁:全球首发oled圆偏振光护眼
即将在本月底发布的iQOO13正面照解禁了,大家快来看新旗舰!iQOO13iQOO13iQOO13可以看到,iQOO13正面搭载的是一块直屏
2024-10-20 00:03:00
索尼计划11月底发布全新全画幅e卡口微单相机
来自外媒的消息,根据可靠人士爆料,索尼计划在11月底举办一场新品发布会活动,在本次发布会上会有一个全新的全画幅E卡口微单相机
2024-10-20 00:22:00
当贝smart1投影仪上手体验
10月18日消息,当贝最近推出了一款全新的便携式投影仪——当贝Smart1。轻巧设计,携带便捷当贝Smart1投影仪以其奶茶杯大小的体积和1
2024-10-20 00:54:00
雷军分享小米在智能汽车领域最新的进展
10月18日消息,昨日在北京召开的世界智能网联汽车大会上,小米创始人雷军分享了小米在智能汽车领域最新的进展。雷军表示,作为汽车行业的新入者
2024-10-20 00:55:00
努比亚z70ultra开始预热:屏下方案升级
10月18日消息,近日努比亚Z70Ultra已经开始预热,继续延续真全面屏形态,正面无任何挖孔。值得注意的是,这次的屏下方案大幅升级
2024-10-20 00:59:00
阳光新能源家庭源电站发布会在京召开
眼下,新能源行业已从“规模优先”转变到“效益和协同优先”的高质量发展阶段。10月18日,阳光新能源在北京召开“以‘不变’应万变——电站创新技术发布会”
2024-10-20 01:00:00
海信百吋大屏电视亮相电博会
10月18日,2024中国国际消费电子博览会在青岛拉开序幕,本届电博会以“绿色领航数链未来”为主题,国内外300多家企业集中展示了当今消费电子领域的新技术
2024-10-20 01:04:00
新一届高通骁龙峰会定档,骁龙8elite即将登场
新一届高通骁龙峰会已经定档,将于10月22日至24日召开,在夏威夷的海风之下,全新一代的骁龙8系旗舰即将登场。官方slogan为“好
2024-10-20 01:04:00