• 我的订阅
  • 头条热搜
谷歌发布gemma2大语言模型,共有两种大小
...布新闻稿,面向全球研究人员和开发人员发布Gemma2大语言模型,共有90亿参数(9B)和270亿参数(27B)两种大小。Gemma2大语言模型相比较第一代,推理性能更高、效率更高,并在安全性方面取得了重大进步。谷歌在新闻稿中表示...……更多
微软、英伟达纷纷押注小模型,大模型不香了?
...发展的道路上,科技巨头们曾经竞相开发规模庞大的语言模型,但如今出现了一种新趋势:小型语言模型(SLM)正逐渐崭露头角,挑战着过去“越大越好”的观念。视觉中国当地时间8月21日,微软和英伟达相继发布了最新的小型...……更多
定价15000!老黄重磅发布RTX 5090:世界最小AI超级计算机也来了
...I超级计算机——Project Digits。有多强悍? 2000亿参数的大模型,直接在你办公桌上(自己的桌面系统)就能跑!如果把两台Project Digits一块“食用”,那么还可以跑4050亿参数的大模型。据了解,每个Project DIGITS配备了128GB统一、...……更多
PyTorch官宣:告别CUDA,GPU推理迎来Triton加速新时代
...0%的Triton内核Pytorch最近发表了一篇技术博客,他们以两个模型——Llama3-8B和IBM的Granite-8B Code为例,100%使用Triton内核实现了FP16推理。Granite-8B Code是由IBM开发的一种仅限解码器的代码模型,专为代码生成任务设计。仓库地址:……更多
英伟达地表最强,黄教主被称作AI界“霉霉”
...多款重磅明星产品,目前市面上能叫得上名字得人工智能模型几乎都是在该架构上进行训练,行业内“一芯难求”的局面迟迟得不到缓解。而今年,按照英伟达每两年更新一次GPU架构的节奏,大家都对英伟达新一代计算平台翘首...……更多
晶圆级AI芯片WSE-3性能公布:80亿参数模型上每秒生成1800个Token
...上一代WSE-2的两倍,可用于训练业内一些最大的人工智能模型。在近日的Hot Chips 2024大会上,Cerebras Systems详细介绍了这款芯片在AI推理方面的性能。根据官方资料显示,WSE-3依然是采用了一整张12英寸晶圆来制作,基于台积电5nm制...……更多
碾压所有对手?谷歌发布轻量化开源大模型,笔记本电脑就可跑
开源大模型赛道迎来重磅新品。当地时间2月21日,谷歌宣布正式推出全新的开源大语言模型(LLM)“Gemma”, 旨在帮助开发人员和研究人员负责任地构建人工智能。据介绍,Gemma大模型与谷歌规模最大、能力最强的人工智能模型...……更多
英伟达新版旗舰AI芯片售价炒到4万美金 “算力垄断”难被打破
GPT等大型语言模型带动的芯片需求飙升趋势依然没有平息的迹象。英伟达的最新版旗舰AI芯片H100近日在网上的售价已经被炒到4万多美金,反映了科技行业对训练和部署人工智能软件的需求仍未被满足。受AI芯片需求的提振,英...……更多
多模态竞技场对标90B Llama 3.2!Pixtral 12B技术报告全公开
...杀入江湖的Mistral AI,在9月份甩出了自家的首款多模态大模型Pixtral 12B,如今,报告之期已至,技术细节全公开。作为欧洲的OpenAI,Mistral最近压力不小。端侧小模型端不出来,对比评测的结果又遭到质疑。上个月震撼登场的自家...……更多
挑战英伟达!AMD推出能运行更大模型的AI芯片 也能写诗
...并在会上推出的AI处理器MI300系列。其中,特别为大语言模型优化的MI300X将于今年晚些时候开始向部分客户发货。AMD CEO苏姿丰先介绍MI300A,这是全球首款针对AI和高性能计算(HPC)的加速处理器(APU)加速器。在13个小芯片中遍布...……更多
前谷歌工程师创业造AI芯片!产品明年问世,已拿到1.8亿融资
...MatX正在挑战英伟达在AI芯片领域的霸主地位,其为大语言模型训练而设计的AI芯片将于明年问世。这家公司的官网显示,使用MatX芯片,训练70B大模型的延迟将小于10ms/token。该公司还预言,使用其芯片训练,能够让世界上最好的...……更多
逐浪大模型,国产GPU的机遇和挑战 | 钛媒体深度
...层面的火爆只是这次AI浪潮中的一个头浪,ChatGPT背后的大模型技术,让人们看到了更多的可能性。所谓大模型,是指具有非常大参数数量的人工神经网络模型。公开数据显示,到2020年时ChatGPT所使用的预训练大大语言模型参数GPT...……更多
苹果开源7B模型,训练过程数据集一口气全给了,网友:很不像苹果
苹果最新杀入开源大模型战场,而且比其他公司更开放。推出7B模型,不仅效果与Llama 3 8B相当,而且一次性开源了全部训练过程和资源。要知道,不久前Nature杂志编辑Elizabeth Gibney还撰文批评:许多声称开源的AI模型,实际上在...……更多
英伟达发布mistral-nemoai大语言模型
...国初创公司MistralAI,今天发布了全新的Mistral-NeMoAI大语言模型,拥有120亿个参数,上下文窗口(AI模型一次能够处理的最大Token数量)为12.8万个token。VentureBeat与Midjourney合作制作Mistral-NeMoAI大模型主要面向企业环境,让企……更多
英伟达开源NVLM 1.0屠榜多模态!纯文本性能不降反升
【新智元导读】NVLM 1.0系列多模态大型语言模型在视觉语言任务上达到了与GPT-4o和其他开源模型相媲美的水平,其在纯文本性能甚至超过了LLM骨干模型,特别是在文本数学和编码基准测试中,平均准确率提高了4.3个百分点。文本...……更多
加速AI落地企业!微软解读Copilot技术栈,云端混合大小模型是关键
...试用推广、团队扩张。 一、Copilot平台推出Agent能力,小模型满足端侧需求在Scaling Laws下,AI技术的能力大约每六个月就会翻倍增长。陶然谈道,如何让技术成果对齐行业、企业的实际业务需求,加速技术能力的落地转化,成为...……更多
烧数亿美元、耗上万颗英伟达 GPU,微软揭秘构建 ChatGPT 背后超级计算机往事 !
整理 | 苏宓出品 | CSDN(ID:CSDNnews)都说 ChatGPT 这种大模型研发是大公司之间的博弈,不仅仅是因为其要消耗的算力巨大,也是因为需要有强大的资金支撑。那么,加入这场战局,究竟要花费多少钱?此前,据 Techcrunch 报道,有...……更多
英伟达llama-3.1-minitron4bai模型发布
...,英伟达公司联合Meta公司发布了最新的Llama-3.1-Minitron4BAI模型,主要通过结构化权重剪枝、知识提炼等尖端技术,成功蒸馏(Distill)出40亿参数的“小而强”模型。图源:英伟达Llama-3.1-Minitron4B模型在Llama-3.1-Minitron8B基础上……更多
4090笔记本0.37秒直出大片!英伟达联手MIT清华祭出Sana架构,性能秒杀FLUX
...合成高分辨率、高质量,且具有强文本-图像对其能力的模型。而且,它还能高效生成高达4096×4096像素的图像。项目主页:https://nvlabs.github.io/Sana/论文地址:https://arxiv.org/abs/2410.10629Sana的核心设计包含了以下几个要素:深……更多
英伟达发布80亿参数的ai模型
...伟达(NVIDIA)宣布,其已成功研发并发布了一款全新的AI模型,该模型拥有高达80亿的参数规模,具备精度高、计算效率高等优点,可在GPU加速的数据中心、云和工作站上运行。据介绍,这款新发布的AI模型是基于英伟达在深度学...……更多
英伟达:CPU已落伍 用GPU训练大语言模型成本可降低96%
...上的演讲,该公司宣称其 GPU 可以大幅降低训练大型语言模型(LLM)的成本和耗能。英伟达首席执行官黄仁勋在演讲中,向 CPU 行业发起了挑战,他认为生成式人工智能和加速计算是未来计算的方向。他宣布传统的摩尔定律已经...……更多
老黄祭出史上最强 AI 芯片B200!30倍性能提升,AI 迎来新摩尔定律时代|钛媒体AGI
...)Blackwell,是英伟达A100/H100系列AI GPU的继任者。在大语言模型推理工作负载方面,Blackwell的性能相比H100 GPU提升了30倍,能耗却降低了25倍。亚马逊、谷歌、微软和甲骨文将是首批合作伙伴。此外,黄仁勋还在GTC大会推出了新一款...……更多
GPU受限,国内AI大模型能否交出自己的答卷?
这个4月,成为国产大模型混战期。继百度之后,阿里、华为、京东、360等大模型也陆续浮出水面,大模型军备竞赛正式开启。4月7日,阿里云宣布自研大模型“通义千问”开始邀请企业用户测试体验。4月8日,华为云人工智能领...……更多
...暂未回应。值得一提的是,此前许多外界人士认为 通过模型蒸馏技术,DeepSeek可能在训练过程中使用了 ChatGPT 等模型的输出数据作为训练材料,而这些数据中的「知识」被迁移到 DeepSeek 自己的模型中。事实上,这种做法在 AI 领...……更多
支持1024帧、准确率近100%,英伟达「LongVILA」开始发力长视频
现在,长上下文视觉语言模型(VLM)有了新的全栈解决方案 ——LongVILA,它集系统、模型训练与数据集开发于一体。现阶段,将模型的多模态理解与长上下文能力相结合是非常重要的,支持更多模态的基础模型可以接受更灵活...……更多
英伟达深夜炸场,世界最强AI芯片H200震撼发布,性能飙升90%
...两款芯片还是互相兼容的。这意味着,使用H100训练/推理模型的企业,可以无缝更换成最新的H200。全世界的AI公司都陷入算力荒,英伟达的GPU已经千金难求。英伟达此前也表示,两年一发布的架构节奏将转变为一年一发布。 就...……更多
微软拟推出人工智能芯片,训练大模型语言
...出人工智能芯片,为负责理解和生成类人语言的大型语言模型(LLM)提供动力。报道称,了解相关项目的人士透露,微软自2019年开始开发内部代号为“雅典娜”(Athena)的芯片。并已向一小部分微软与OpenAI员工提供这款芯片,...……更多
AI“卖铲人”英伟达,为何业绩再爆发?
...智能在2023迎来爆发,生成式AI以ChatGPT为代表掀起全球大模型浪潮,全球各行业的算力需求激增。英伟达GPU作为主流AI训练解决方案使其成为最大受益者,实现量价双收。英伟达财报也揭示了未来发展战略的三大方向:一是以数据...……更多
英伟达尖端图像处理半导体h200开始供货
...英伟达方面公布的性能评测结果,以Meta公司旗下大语言模型Llama2处理速度为例,H2000相比于H100,生成式AI导出答案的处理速度最高提高了45%。市场调研机构Omdia曾表示,2022年英伟达在AI半导体市场约占8成的份额,与此同时AMD等...……更多
微软难以摆脱英伟达 |焦点分析
...市场至少90%的份额。AI芯片是AI时代石油一般的存在。大模型公司想更快推出模型和AI应用,就必须大量购入英伟达的芯片。而英伟达的产能有限,按照上一年计划制定的供给,远不能满足蓬勃的市场需求,抢不到芯片的云厂商、...……更多
更多关于科技的资讯:
原佳星摘要:互联网行业的迅速发展使数据成为企业核心资源,统计学专业的重要性随之提升。企业在产品运营、用户分析和商业预测中高度依赖统计能力
2025-12-09 05:45:00
近年来,商品过度包装问题引发社会广泛关注。部分商家为提升商品附加值,通过增加包装层数、扩大空隙率、使用高成本材料等方式制造“包装溢价”
2025-12-09 07:18:00
在杭州,两位潜心科研的博士后,不约而同地将目光投向了地球上空数百公里处的低轨卫星。来自西安电子科技大学杭州研究院的孙冉冉博士
2025-12-09 07:49:00
我省交通行业首个自主创新研发的交通数智大模型太行交通数智大模型发布河北日报讯(曹智、谭磊)12月6日,河北交投集团发布太行交通数智大模型
2025-12-09 08:00:00
“小丰”又一次在走位中撞到了同伴。在杭州市滨江区大丰科创中心的实验室里,这个站在C位的人形机器人突然停顿——它的“大脑”
2025-12-09 08:19:00
浙江日报讯 (记者 应磊 通讯员 崔宁 洪映映) 外形酷似“机械战警”,行动稳健有力,即便遭遇人为干扰也“不动如山”。近日
2025-12-09 08:20:00
产业炬光灯聚焦新诺北斗:坚持自主创新 为船舶装上“智慧大脑”
厦门网讯(厦门日报记者 林露虹)茫茫大海上,船舶的行踪与航向,由船载北斗终端精准“掌舵”。位于火炬高新区的新诺北斗航科信息技术(厦门)股份有限公司(以下简称“新诺北斗”)
2025-12-09 08:57:00
厦门跨境电商出海加速 多家厦企亮相2025亚马逊全球开店跨境峰会
2025亚马逊全球开店跨境峰会。(主办方 供图)提供亚马逊出海服务的厦门企业AMZ123服务台前围满咨询的客商。(受访企业 供图) 厦门网讯 (厦门日报记者 沈彦彦 通讯员 周晓雅) “每年的亚马逊全球开店峰会
2025-12-09 08:57:00
长白时评评论员 久泰平“方向盘装饰贴”竟成“夺命杀器”!凌晨1点28分,一车辆在高架行驶时,主驾驶位空无一人,王某某竟在副驾驶酣睡
2025-12-09 11:09:00
根据工业和信息化部的数据,近年来我国互联网数据中心(IDC)产业规模年均增速达30%左右。然而,高速增长累积的高能耗问题也逐渐暴露
2025-12-09 14:21:00
第十一届全国大学生物理实验竞赛:西工大荣获三个“国赛一等奖”
近日,第十一届全国大学生物理实验竞赛(创新)决赛成绩公布,西北工业大学三支代表队进入决赛,均荣获国赛一等奖,获奖数量与质量位居全国高校前列
2025-12-09 14:29:00
西安建大学子创新研发“膜法湿法磷酸净化技术” 获全国特等奖
近日,西安建筑科技大学“膜达”环境与市政工程学院学生科创团队凭借自主研发的“膜法湿法磷酸净化技术”,在第十九届“挑战杯”全国大学生课外学术科技作品竞赛“揭榜挂帅”擂台赛中荣获特等奖
2025-12-09 14:30:00
重要提醒:杭州小红车租借有新变化!大家务必转知
2025年12月31日起,杭州小红车“绑卡租车”功能(即“绑卡免押金”服务)将正式停止服务,已开通“绑卡租车”功能的用户也将无法使用
2025-12-09 14:57:00
优路教育荣膺腾讯教育“2025年度职业教育领航品牌”
近日,2025腾讯新闻教育·新回响年会在北京圆满落幕。本届年会以“智变之时”为主题,汇聚了众多教育行业专家、学者及头部教育机构代表
2025-12-09 15:05:00
二元魂×金鹰卡通破界联动,AI+IP重构Z世代家庭陪伴新场景
2025年12月3日,AI潮玩创新品牌二元魂与湖南广播电视台旗下金鹰卡通卫视在长沙正式签署战略合作协议。双方将聚焦国民级亲子IP“麦咭”
2025-12-09 15:33:00