• 我的订阅
  • 头条热搜
amd旗舰aigpu加速器mi300x对比英伟达h100
...0的1.3倍FP16TFLOPS精度是H100的1.3倍在1v1比较中,训练Llama270B模型速度比H100快20%在1v1比较中,训练FlashAttention2模型速度比H100快20%在8v8Server比较中,训练Llama270B模型速度比H100快40%在8v8Server比较中……更多
大模型新趋势之MoE:现状、挑战及研究方向
2024年,全球主流企业加快推出MoE大模型,1-5月发布千亿以上大模型均采用MoE优化架构,且数量超过近三年总和。MoE大模型架构凭借平衡大模型训推成本和计算效率等优势,更适合处理大规模数据和复杂任务,已成谷歌、OpenAI、...……更多
Llama3.1根本卖不动!业内人士:开源模型成本反而更高
Meta的开源大模型Llama 3在市场上遇冷,进一步加剧了大模型开源与闭源之争的关注热度。据外媒The Information报道,Meta的开源大模型Llama 3一直难以在全球最大云厂商——亚马逊的AWS上获得关注,AWS的企业客户更倾向于使用Anthropic...……更多
新鲜早科技丨英伟达将华为列为竞争对手;华为将发布通信大模型;台积电日本厂正式投产
...减少对美技术依赖。(澎湃新闻)2、 华为将发布通信大模型。MWC前夜,在华为举办的论坛上,华为公司高级副总裁、ICT销售与服务总裁李鹏介绍,“2024年是5G-A商用元年,结合云和AI技术的发展,运营商商业增长的潜力巨大。”...……更多
...英伟达在中国市场面临更大的竞争压力。 在今年全球大模型算力军备竞赛中,英伟达无疑是最炙手可热的军火商——算力、算法和数据构成了AI时代的三要素,算力又是电力般的基础设施,有多少枚GPU,有多少算力,成为外界...……更多
o1突发内幕曝光?谷歌更早揭示原理 大模型光有软件不存在护城河
发布不到1周,OpenAI最强模型o1的护城河已经没有了。有人发现,谷歌DeepMind一篇发表在8月的论文,揭示原理和o1的工作方式几乎一致。o1突发内幕曝光?谷歌更早揭示原理,大模型光有软件不存在护城河这项研究表明,增加测试...……更多
微软GenAI开发被曝遭遇瓶颈,转攻AI安全推出「抗幻觉神器」
...工智能业务上的战略转向。 前途未卜的合成数据与蒸馏模型今年的早些时候,微软似乎在对先前内部的一个名为「蒸馏」项目加倍投注。这个项目的内容大致为先使用OpenAI的模型生成大量数据,然后再利用这些数据来训练类似C...……更多
大模型价格战“卷”向何方?|深度
...你降价,我免费。在经过一年多的“百模大战”后,AI大模型从5月初几乎毫无预兆地掀起了“降价潮”,阿里、百度、腾讯等纷纷加入战团。大厂“钱多、卡多、算力足”无惧价格战,以惯有的免费模式先聚集用户与开发者。中...……更多
英特尔gaudi2加速卡比nv计算卡更出色
...AI领域,最受关注的就是ChatGPT,以及引起巨大震撼的Sora模型,此外基于StableDiffusion打造的AI生图也是各大厂商目前所重点宣传的。而作为AI背后的算力硬件支持,英伟达的计算卡可以说备受追捧,供不应求,英伟达也是赚的盆满...……更多
...在内部成立了“逆熵AI工作室”。本月早些时候,通用大模型初创项目MiniMax还传来正在进行新一轮大规模融资的消息,报道称,此前,Mini-Max已完成3轮融资,投资方就包括米哈游。 对于在AI方面的计划等问题,北京商报记者联...……更多
大模型厂商急寻PlanB:英伟达改良版芯片已调试 华为等国产算力供应不足
...无相关回应。仍可以在国内销售的AMD MI 210则被认为在大模型微调阶段具有相当竞争力。“最近算力涨价太多,我们确实感到很吃力。”一家大模型创业公司人士告诉《IT时报》记者,他们迫切希望有Plan B方案。最好的Plan B当然是...……更多
英伟达发布80亿参数的ai模型
...伟达(NVIDIA)宣布,其已成功研发并发布了一款全新的AI模型,该模型拥有高达80亿的参数规模,具备精度高、计算效率高等优点,可在GPU加速的数据中心、云和工作站上运行。据介绍,这款新发布的AI模型是基于英伟达在深度学...……更多
李彦宏:百度AI构架有优势,性能较低的国产芯片仍可高效运作!
...响。百度过去主要使用英伟达的高性能GPU来对其自研的AI模型进行训练和执行推理任务。然而,美国在2022年10月首次出台针对AI芯片的出口限制政策,使得英伟达、AMD等厂商的高性能AI芯片的对华出口受限,虽然之后英伟达推出了...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
...打响以来,国内AI服务器产业可谓冰火两重天。一边,大模型浪潮带来了AI服务器需求暴增。互联网云大厂、AI大模型企业以及行业公司需纷纷砸钱投入。不仅中国电信这样的ICT龙头近期定下超80亿元的AI算力服务器采购项⽬,就...……更多
英伟达SC24六大技术亮点,不止加速超算500强
...数据集则补足了“原料”。研究人员需要专门的生物分子模型和数据集来大规模地收集洞察,以便更快地设计治疗方案。开源BioNeMo框架提供了一系列加速计算工具,为生物分子研究提供指数级扩展的AI模型,也为生物制药领域带...……更多
「谍战」开启!基建狂魔马斯克122天交付10万卡超算,对手大恐慌派间谍飞机侦查
...制造厂,改造成了一个数据中心,里面装有全球最大的AI模型训练算力集群之一。马斯克如此快速地为xAI建成了这台AI超算,直接引发了OpenAI等对手领导层的焦虑和困惑。那么,飞机上的神秘乘客是谁呢?The Information得到的消息...……更多
美国芯片内战
...的骁龙芯片,让更多设备商离不开它。类似的,AIGC 和大模型的需求爆发意味着,计算厂商和 AI 初创公司未来几年都需要大量采购英伟达 GPU。英伟达有了可靠的现金流,可以支持自研 CPU,在汽车和电脑市场更进一步。一旦离开...……更多
英伟达最强芯片之后,“卖铲子”生意更抢手了
...布推出采用Hopper架构的新一代加速计算平台,在这一轮大模型浪潮中“一卡难求”的H100,正是首款基于Hopper架构的GPU。Blackwell芯片被命名为B200,计划于今年晚些时候上市。黄仁勋介绍,B200的体积比上一代AI芯片Hopper大了一倍,...……更多
“全球最强”AI芯片惊艳亮相,半导体行业迎机构密集调研
...人”。该公司推出的高端服务器GPU对于训练和部署大型AI模型至关重要,微软和Meta等公司已经花费了数十亿美元购买这些芯片。去年,英伟达以80%的市场占有率几乎垄断了AI芯片市场,业内评价其为“几乎没有竞争对手”。而今...……更多
突发!英伟达高性能AI芯片几被禁 国产算力的春天真来了
...可以对标英伟达A100。彼时有媒体透露,用于讯飞星火大模型训练的是华为最新昇腾芯片910B。时隔两月,《IT时报》记者从多个信源获悉,基于华为昇腾910B芯片的全套国产智算集群,正在国内多个智算中心、大模型厂商、电信运...……更多
谷歌DeepMind推Imagen2;ChatGPT Plus恢复订阅;OpenAI提出用小模型监督大模型 | 本周硅谷发生了什么?
...览本周AI领域涌现多项重要进展。Runway宣布开展通用世界模型研发,旨在通过研究通用世界模型改进其视频生成系统,使其更好地模拟现实世界的互动。谷歌Deepmind推出Imagen 2,一款高质量、逼真的人工智能图像生成器。Mistral AI...……更多
苹果开源7B模型,训练过程数据集一口气全给了,网友:很不像苹果
苹果最新杀入开源大模型战场,而且比其他公司更开放。推出7B模型,不仅效果与Llama 3 8B相当,而且一次性开源了全部训练过程和资源。要知道,不久前Nature杂志编辑Elizabeth Gibney还撰文批评:许多声称开源的AI模型,实际上在...……更多
英伟达特供芯片卖不动了?黄仁勋穿上东北花袄“示好”,中国大厂难掩AI野心
...内外芯片算力的差距已在不断缩小,这给予了国内头部大模型厂商转投国产芯片的底气,也为英伟达敲响了警钟。 H20“遇冷”真相2023年10月,为了绕过限制并满足中国大陆市场需求,英伟达着手推出三款基于其AI芯片H100的“降...……更多
通信效率超98%!壁仞科技实现中国首个三种异构芯片混训技术
...案HGCT,业界首次支持3种及以上异构GPU混合训练同一个大模型,用一套统一方案支持多种不同型号、不同厂商的GPU,而且一行代码适配多种框架。壁仞HGCT的异构协同通信效率大于98%、端到端训练效率90-95%,从而突破了大模型异构...……更多
微软豪赌AI,能让ChatGPT等AIGC工具普及给大众?
...过对OpenAI的大笔投资,实现跨步前进。OpenAI致力于开发AI模型,这些模型不仅可以帮助人们设定电子邮件的格式,还可以分析Excel电子表格,生成AI图片帮助丰富PowerPoint演示文稿,甚至在Outlook中撰写完整的电子邮件。而这些还只...……更多
AI制药加速落地 多家巨头抢滩
...I可以提高药物研发效率,加速药物筛选。不过,通过AI大模型完全模拟对算力的要求极高,足量的训练数据仍然是一大瓶颈。多家公司入局当地时间5月8日,谷歌DeepMind及姊妹公司Isomorphic Labs旗下的AI药物研发模型AlphaFold官宣重磅...……更多
联想拿出能跑大模型的AI PC,老黄、苏妈捧场
...望为用户提供个人助理,让每个人都能拥有属于自己的大模型。面对企业用户,联想发布了企业级 AI Twin,它未来可以集成一系列的企业级AI应用,成为企业或组织内部的“大管家”,可以自行调取企业数据,生成判断和建议。...……更多
一行代码训练成本再降30%,AI大模型混合精度训练再升级
...独特的数值表示方式,能够在保持一定精度的同时,在大模型训练中提高训练速度、节省内存占用,最终降低训练成本。AI大模型开发系统Colossal-AI的混合精度训练再度升级,支持主流的BF16(O2) + FP8(O1)的新一代混合精度训练方案...……更多
李彦宏断言有点早 开源大模型不弱鸡
...022年11月ChatGPT问世,这一现象级产品迅速点燃了市场的大模型热情。新老科技企业纷纷杀入,誓要抓住移动互联网以来最大的一次产业红利。当行业如火如荼发展一门心思搞技术之时,又出现了“路线之争”:闭源路线:以国外...……更多
英伟达联手Zilliz发布全球首个GPU加速向量数据库
...展人工智能+的行动。3、国内首个千亿参数多模态金融大模型——“财跃F1金融大模型”23日在2024全球开发者先锋大会上正式发布。财跃星辰由上海报业集团旗下界面财联社与国内头部通用大模型公司阶跃星辰联合创办,前微软...……更多
更多关于科技的资讯:
持续加速行业绿色发展,SHEIN仓储物流园再增4家“零废工厂”认证
SHEIN在仓储物流环节的绿色减碳行动持续获得权威机构的认证。日前,国际独立第三方检测、检验和认证机构德国莱茵TÜV大中华区(以下简称“TÜV莱茵”)
2024-12-23 13:41:00
消费者又喝出异物,瑞幸慢下来但惯性大
图源:瑞幸官博文|李振兴日前,安徽合肥陈先生在网上称,在购买的瑞幸咖啡里喝出了昆虫(疑似蟑螂)异物。经过陈先生的投诉,瑞幸客服方面给出的处理结果是
2024-12-23 13:46:00
英诺赛科上市前再获2000万美元知名公司入股,投资者信心强劲
《港湾商业观察》王璐12月19日,矽力杰股份有限公司(SilergyCorp.)(以下简称,矽力杰)发布公告,拟以2000万美元投资英诺赛科
2024-12-23 13:47:00
\
共计163项优秀实践作品斩获雇主品牌创意大奖殊荣由领先的雇主品牌研究机构——雇主品牌研究所主办的"2024雇主品牌创意大赛"圆满落幕
2024-12-23 13:51:00
就在今天!日产和本田据传将开启合并谈判 或是近四年业内最大整合
上周,日本第二大汽车制造商本田和第三大汽车制造商日产可能合并的消息震惊了全球汽车行业。据两名知情人士透露,预计本田和日产将于本周一宣布开始业务整合谈判
2024-12-23 14:03:00
京东公布2024年终奖发放计划:迈向20薪!
快科技12月23日消息,据媒体报道,京东集团发布了2024年年终奖发放计划通知,O序列员工将于1月26日(腊月二十七)收到年终奖
2024-12-23 14:03:00
日媒感慨中国电动汽车/智驾遥遥领先:本田、日产、三菱合并也没戏
快科技12月23日消息,据国外媒体报道称,本田(Honda)和日产(Nissan)今天启动协商后,计划将于2025年6月敲定合并协议
2024-12-23 14:03:00
键德测试测量|低温探针台的主要特性
低温探针台是一种重要的实验仪器,可用来测试芯片、晶圆片和封装器件,应用领域包括半导体、MEMS、超导、铁电子学、材料科学等
2024-12-23 14:16:00
键德大功率探针台|探针台的发展趋势分析
探针台是一种广泛应用于科学研究、工业生产和教育实验中的重要设备。它在多个领域中发挥着至关重要的作用,如材料科学、电子学
2024-12-23 14:20:00
安踏发布ANTAZERO UPCYCLE 循环再造系列 行业首场可持续运动风尚大秀燃动上海武康路
上海2024年12月20日/美通社/ --2024年12月20日,安踏在上海武康路举办行业首场可持续运动风尚大秀,并发布全新ANTAZERO UPCYCLE 安踏循环再造系列产品
2024-12-23 14:21:00
上海银行助力“黑科技”解决丘陵植保难题
在广西百色芒果园里,苏州极目机器人研发的一架植保无人机正腾空而起,沿着设定的路线、高度,将雾状药剂均匀洒落,为果树披上了一层茁壮成长的“保护衣”
2024-12-23 14:21:00
喜悦之源,纯净之选:新悦纯牧JOYHANA举办\
在洋溢着欢庆与温馨氛围的岁末之际,新西兰品牌新悦纯牧JOYHANA精心打造"GO JOY!GO HANA"主题分享会,结合对中国烘焙食品行业现状与未来趋势的深刻剖析
2024-12-23 14:21:00
键德测试测量|国产全自动探针台与进口全自动探针台的区别
探针台从操作方式上来区分有:手动,半自动,全自动。其中全自动探针台是一种用于检测各种机械零件和测量工件的精密测量设备。它包括探针
2024-12-23 14:24:00
智橙动力总部启用 园区机器人产业添新军
12月20日,苏州工业园区科技领军人才企业智橙动力(苏州)科技有限公司在苏州阳澄湖半岛旅游度假区正式开业。据悉,智橙动力坚持“科技向善
2024-12-23 14:30:00
□娄欣叶近日,《中国微短剧行业发展白皮书(2024)》正式发布,今年中国微短剧市场规模预计将达到504.4亿元,同比增长高达34
2024-12-23 14:30:00