• 我的订阅
  • 头条热搜
专家模型不要专家并行!微软开源MoE新路径
...日,来自微软的研究人员开源了使用全新方法训练的MoE大模型,不走寻常路,且编码和数学表现出色。继Phi家族之后,微软又开源了新的混合专家大模型——GRIN MoE。与Phi-3.5同样的个头(16 * 3.8B),却采用了截然不同的训练方法...……更多
科技巨头的AI野心:从云、芯片到应用,控制价值链所有环节
...的AI芯片,并希望拥有AI驱动的应用程序。云服务平台为AI模型训练和部署提供了强大的基础设施。在这一领域,科技巨头已占据了稳固优势。根据市场分析公司Canalys今年第一季度的报告,亚马逊网络服务公司(AWS)、微软云计...……更多
全球卷AI?城头变幻大王旗
...发展本地AI,并根据本国公民的数据,用母语训练大语言模型。 一些国家还试图保护自己的本土文化和国家安全。它们感到之前自己在手机和云计算革命中一直只是陪跑者。这种努力正给英伟达公司带来意外之财,对帮助建设...……更多
英伟达h100gpu再创多项新纪录
...推出了新的测试项目,专门针对微调(Fine-tuning)大语言模型和图神经网络(GNN),而英伟达H100创下了多项纪录。Fine-tuning是指在预训练模型的基础上,通过在特定任务上进行额外的训练来调整模型的参数,以使其更好地适应该...……更多
史上最快AI芯片「Sohu」,速度10倍于B200,哈佛辍学生打造
...辑:泽南、杜伟生成式 AI 推理性价比是 GPU 的 140 倍。大模型时代,全球都缺算力,买铲子的英伟达市值被炒上了天。现在,终于有一家公司带着自己的 AI 芯片来叫板了。今天凌晨,科技圈迎来了一个重要新闻。美国芯片创业公...……更多
谷歌和微软两位“印度老乡”CEO,正面硬刚
12月6日夜间,谷歌发布了其最新一代的AI大模型Gemini。谷歌的印度籍CEO Sundar Pichai亲自为这项发布站台,在公开信中将Gemini描述为:“我们迄今为止最强大、最通用的模型,它在许多领先的基准测试中都展现出了最先进的性能。...……更多
AI芯片战事升级!英伟达筑高围墙,市值猛追苹果
...代的GPU“王者”是H100,于2022年发布,也就是去年这波大模型浪潮中众多AI公司争抢的芯片之一。B200的整体性能相较H100得到大幅提升,其AI性能为每秒20千万亿次浮点运算,H100为每秒4千万亿次浮点运算,约是其5倍,推理性能最...……更多
马斯克:终止与甲骨文的谈判,xAI将自行建造超级计算机
...伟达芯片,被称为“超算工厂”,其旨在训练其下一代AI模型Grok3.0。“决定在内部开发的原因是,只有比其他任何AI公司更快才能构建我们最根本的竞争力,这是赶上(竞争对手)的唯一方法。”马斯克这样写道。尽管谈判告吹...……更多
amd旗舰aigpu加速器mi300x对比英伟达h100
...0的1.3倍FP16TFLOPS精度是H100的1.3倍在1v1比较中,训练Llama270B模型速度比H100快20%在1v1比较中,训练FlashAttention2模型速度比H100快20%在8v8Server比较中,训练Llama270B模型速度比H100快40%在8v8Server比较中……更多
大模型新趋势之MoE:现状、挑战及研究方向
2024年,全球主流企业加快推出MoE大模型,1-5月发布千亿以上大模型均采用MoE优化架构,且数量超过近三年总和。MoE大模型架构凭借平衡大模型训推成本和计算效率等优势,更适合处理大规模数据和复杂任务,已成谷歌、OpenAI、...……更多
Llama3.1根本卖不动!业内人士:开源模型成本反而更高
Meta的开源大模型Llama 3在市场上遇冷,进一步加剧了大模型开源与闭源之争的关注热度。据外媒The Information报道,Meta的开源大模型Llama 3一直难以在全球最大云厂商——亚马逊的AWS上获得关注,AWS的企业客户更倾向于使用Anthropic...……更多
微软GenAI开发被曝遭遇瓶颈,转攻AI安全推出「抗幻觉神器」
...工智能业务上的战略转向。 前途未卜的合成数据与蒸馏模型今年的早些时候,微软似乎在对先前内部的一个名为「蒸馏」项目加倍投注。这个项目的内容大致为先使用OpenAI的模型生成大量数据,然后再利用这些数据来训练类似C...……更多
o1突发内幕曝光?谷歌更早揭示原理 大模型光有软件不存在护城河
发布不到1周,OpenAI最强模型o1的护城河已经没有了。有人发现,谷歌DeepMind一篇发表在8月的论文,揭示原理和o1的工作方式几乎一致。o1突发内幕曝光?谷歌更早揭示原理,大模型光有软件不存在护城河这项研究表明,增加测试...……更多
新鲜早科技丨英伟达将华为列为竞争对手;华为将发布通信大模型;台积电日本厂正式投产
...减少对美技术依赖。(澎湃新闻)2、 华为将发布通信大模型。MWC前夜,在华为举办的论坛上,华为公司高级副总裁、ICT销售与服务总裁李鹏介绍,“2024年是5G-A商用元年,结合云和AI技术的发展,运营商商业增长的潜力巨大。”...……更多
...英伟达在中国市场面临更大的竞争压力。 在今年全球大模型算力军备竞赛中,英伟达无疑是最炙手可热的军火商——算力、算法和数据构成了AI时代的三要素,算力又是电力般的基础设施,有多少枚GPU,有多少算力,成为外界...……更多
大模型价格战“卷”向何方?|深度
...你降价,我免费。在经过一年多的“百模大战”后,AI大模型从5月初几乎毫无预兆地掀起了“降价潮”,阿里、百度、腾讯等纷纷加入战团。大厂“钱多、卡多、算力足”无惧价格战,以惯有的免费模式先聚集用户与开发者。中...……更多
英特尔gaudi2加速卡比nv计算卡更出色
...AI领域,最受关注的就是ChatGPT,以及引起巨大震撼的Sora模型,此外基于StableDiffusion打造的AI生图也是各大厂商目前所重点宣传的。而作为AI背后的算力硬件支持,英伟达的计算卡可以说备受追捧,供不应求,英伟达也是赚的盆满...……更多
...在内部成立了“逆熵AI工作室”。本月早些时候,通用大模型初创项目MiniMax还传来正在进行新一轮大规模融资的消息,报道称,此前,Mini-Max已完成3轮融资,投资方就包括米哈游。 对于在AI方面的计划等问题,北京商报记者联...……更多
大模型厂商急寻PlanB:英伟达改良版芯片已调试 华为等国产算力供应不足
...无相关回应。仍可以在国内销售的AMD MI 210则被认为在大模型微调阶段具有相当竞争力。“最近算力涨价太多,我们确实感到很吃力。”一家大模型创业公司人士告诉《IT时报》记者,他们迫切希望有Plan B方案。最好的Plan B当然是...……更多
李彦宏:百度AI构架有优势,性能较低的国产芯片仍可高效运作!
...响。百度过去主要使用英伟达的高性能GPU来对其自研的AI模型进行训练和执行推理任务。然而,美国在2022年10月首次出台针对AI芯片的出口限制政策,使得英伟达、AMD等厂商的高性能AI芯片的对华出口受限,虽然之后英伟达推出了...……更多
英伟达发布80亿参数的ai模型
...伟达(NVIDIA)宣布,其已成功研发并发布了一款全新的AI模型,该模型拥有高达80亿的参数规模,具备精度高、计算效率高等优点,可在GPU加速的数据中心、云和工作站上运行。据介绍,这款新发布的AI模型是基于英伟达在深度学...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
...打响以来,国内AI服务器产业可谓冰火两重天。一边,大模型浪潮带来了AI服务器需求暴增。互联网云大厂、AI大模型企业以及行业公司需纷纷砸钱投入。不仅中国电信这样的ICT龙头近期定下超80亿元的AI算力服务器采购项⽬,就...……更多
「谍战」开启!基建狂魔马斯克122天交付10万卡超算,对手大恐慌派间谍飞机侦查
...制造厂,改造成了一个数据中心,里面装有全球最大的AI模型训练算力集群之一。马斯克如此快速地为xAI建成了这台AI超算,直接引发了OpenAI等对手领导层的焦虑和困惑。那么,飞机上的神秘乘客是谁呢?The Information得到的消息...……更多
英伟达SC24六大技术亮点,不止加速超算500强
...数据集则补足了“原料”。研究人员需要专门的生物分子模型和数据集来大规模地收集洞察,以便更快地设计治疗方案。开源BioNeMo框架提供了一系列加速计算工具,为生物分子研究提供指数级扩展的AI模型,也为生物制药领域带...……更多
美国芯片内战
...的骁龙芯片,让更多设备商离不开它。类似的,AIGC 和大模型的需求爆发意味着,计算厂商和 AI 初创公司未来几年都需要大量采购英伟达 GPU。英伟达有了可靠的现金流,可以支持自研 CPU,在汽车和电脑市场更进一步。一旦离开...……更多
“全球最强”AI芯片惊艳亮相,半导体行业迎机构密集调研
...人”。该公司推出的高端服务器GPU对于训练和部署大型AI模型至关重要,微软和Meta等公司已经花费了数十亿美元购买这些芯片。去年,英伟达以80%的市场占有率几乎垄断了AI芯片市场,业内评价其为“几乎没有竞争对手”。而今...……更多
英伟达最强芯片之后,“卖铲子”生意更抢手了
...布推出采用Hopper架构的新一代加速计算平台,在这一轮大模型浪潮中“一卡难求”的H100,正是首款基于Hopper架构的GPU。Blackwell芯片被命名为B200,计划于今年晚些时候上市。黄仁勋介绍,B200的体积比上一代AI芯片Hopper大了一倍,...……更多
谷歌DeepMind推Imagen2;ChatGPT Plus恢复订阅;OpenAI提出用小模型监督大模型 | 本周硅谷发生了什么?
...览本周AI领域涌现多项重要进展。Runway宣布开展通用世界模型研发,旨在通过研究通用世界模型改进其视频生成系统,使其更好地模拟现实世界的互动。谷歌Deepmind推出Imagen 2,一款高质量、逼真的人工智能图像生成器。Mistral AI...……更多
突发!英伟达高性能AI芯片几被禁 国产算力的春天真来了
...可以对标英伟达A100。彼时有媒体透露,用于讯飞星火大模型训练的是华为最新昇腾芯片910B。时隔两月,《IT时报》记者从多个信源获悉,基于华为昇腾910B芯片的全套国产智算集群,正在国内多个智算中心、大模型厂商、电信运...……更多
苹果开源7B模型,训练过程数据集一口气全给了,网友:很不像苹果
苹果最新杀入开源大模型战场,而且比其他公司更开放。推出7B模型,不仅效果与Llama 3 8B相当,而且一次性开源了全部训练过程和资源。要知道,不久前Nature杂志编辑Elizabeth Gibney还撰文批评:许多声称开源的AI模型,实际上在...……更多
更多关于科技的资讯:
2025消博会时装周将于4月13日启幕 目前已启动全球招募活动
南海网2月11日消息(记者 王子遥)记者从2025消博会时装周组委会获悉,2025消博会时装周将于今年4月13日启幕,目前全球招募活动已正式开启
2025-02-11 18:27:00
十大行动促消费!“2025欢乐元宵·购物嘉年华”活动启动
齐鲁晚报•齐鲁壹点 尚青龙百年老字号青岛啤酒带来只有酿酒师才能喝到的新鲜原浆,21天保质期的水晶纯生;李村脂渣、高家糖球
2025-02-11 22:15:00
3案例入选工信部数字应用场景典型案例河北新闻网讯(刘一格、王育民)近日,工业和信息化部公布2024年“数字三品”应用场景典型案例
2025-02-11 19:38:00
SOT能否以云算力服务商,突围算力挖矿赛道,引领加密数字潮流
[2025年2月5日,马来西亚吉隆坡]全球算力竞争白热化,SOT是否具备突围能力?这个问题是全球各界关注的焦点。2024年BTC第四次减半以来
2025-02-11 19:59:00
“Al背景下文艺创作研讨会”在宁举行
AI技术迅猛发展,给文艺创作带来了前所未有的变革和机遇。2月11日下午,由江苏省当代艺术创作研究会主办的“Al背景下文艺创作研讨会”在宁举行
2025-02-11 20:13:00
东南网2月11日报道(福建日报记者 徐士媛 通讯员 温连光)6日,新春伊始,龙岩市举行2025年全市民营企业家新春恳谈会暨“迎新春 开门红”招商项目集中签约活动
2025-02-11 20:17:00
RTX 4090工程卡首次公开:残暴四个16针接口 供电2400W!
快科技2月11日消息,chiphell论坛网友“maxreni”从神秘渠道搞到了一大批NVIDIA显卡的工程样卡,涵盖GTX 10
2025-02-11 20:18:00
比亚迪智驾下饺子 7万的车也有NOA 王传福:要像安全带一样标配
智驾一夜变天了。昨晚,比亚迪召开智能化战略发布会,介绍了自己关于智驾方面的规划,一句话总结就是——智驾无差别上车。价格不再是区分智驾的隔离带
2025-02-11 20:18:00
余承东之后 长城魏建军发声:智能驾驶不是一场秀 实践出真知!
快科技2月11消息,今日晚间,长城汽车董事长魏建军发微博称:“智能驾驶不是一场秀,实践出真知。”疑似回应近期友商全系普及智驾
2025-02-11 20:18:00
万亿宁王要在香港上市了!宁德时代向港交所递交招股书
快科技2月11日消息,据港交所文件,宁德时代正式向香港联交所递交发行境外上市外资股(H股)并在香港联交所主板挂牌上市的申请
2025-02-11 20:18:00
离谱!新车还没来得及上牌 两个轮胎就被人用砖头拐跑了
快科技2月11日消息,日前,河北秦皇岛,有网友发布视频称,自己新买的车还没上牌,副驾侧两个车轮就被人拐跑了。视频中,这辆黑色的一汽丰田SUV停在路边
2025-02-11 20:18:00
李彦宏:持续投入训练下一代大模型 确保处于AI最前沿
快科技2月11日消息,今天在阿联酋迪拜举办的World Governments Summit 2025峰会上,百度创始人李彦宏表示
2025-02-11 20:48:00
《哪吒2》石矶娘娘配音演员澄清:不是行政人员 已离职
快科技2月11日消息,电影《哪吒之魔童闹海》持续热映,其演职人员也备受瞩目。近日,“石矶娘娘配音竟是公司行政”这一话题冲上热搜
2025-02-11 20:48:00
中新经纬2月11日电 题:DeepSeek加速AI大时代,哪些领域将迎来新增长点?作者 肖峰 天风证券研究所分析师 DeepSeek大模型的崛起
2025-02-11 21:12:00
洪泽农商银行开展系列迎新春惠民服务
江南时报讯 新春佳节,洪泽农商银行推出一系列惠民服务。活动期间,洪泽农商银行开展“进乡镇、进社区、进广场”金融知识讲座
2025-02-11 21:19:00