• 我的订阅
  • 头条热搜
AI计算爆发!吴泳铭力挺GPU计算,CPU真要沦为配角了?
...对算力的恐怖需求,这个需求不仅体现在训练、优化AI大模型上,更是随着用户数量的增长飙升。生成式AI可以说是人类少有的,从出现到普及耗时最短的前沿科技,现如今每一个接入互联网的人,都可以通过访问通义千问等网...……更多
苹果的封闭生态为大模型打开!发布开源多模态大模型、每天为 AI 烧百万美元,零碎的 Android 生态打得过吗?
...构成威胁,Arm 和台积电将获胜。”有网友说到苹果在大模型发展上的状况。也有网友认为,苹果在大模型上的发力将为其在未来的手机市场竞争中带来优势。他们认为,开源模型加上移动设备的本地数据,即本地化的原生 LLM,...……更多
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
...求主要分为训练与推理两大阶段,训练可以理解为打磨大模型智能水平的过程,而推理则是在大模型应用过程中计算的过程。对于这两者的算力需求,一些机构提出了各自的估算方式,它们可以用一个公式来简单概况:每参数每...……更多
英伟达生成式AI超级电脑发布:AI性能提高1.7倍 仅249美元
...增强生成(Retrieval-Augmented Generation, RAG)技术的大型语言模型(LLM)聊天机器人,还是打造视觉AI代理,亦或是部署基于AI的机器人,Jetson Orin Nano Super都能以更低的成本提供卓越的运算性能,成为开发者的理想之选。值得一提的...……更多
英伟达推新一代芯片H200:内存、带宽大升级
...的细节显示,新的H200芯片是当前用于训练最先进大语言模型H100芯片的升级产品(基于Hopper架构),集成了141GB的内存,且是HBM3e内存的芯片。借助HBM3e,英伟达H200以每秒4.8TB的速度提供141GB的内存,与A100相比,容量几乎是其两倍...……更多
撞墙还是新起点?自回归模型在图像领域展现出Scaling潜力
...e Information 的一篇文章。这篇文章透露,OpenAI 下一代旗舰模型的质量提升幅度不及前两款旗舰模型之间的质量提升,因为高质量文本和其他数据的供应量正在减少,原本的 Scaling Law(用更多的数据训练更大的模型)可能无以为继...……更多
英伟达副总裁:中国拥有众多汽车制造商 积极推动创新
...件公司Cerence合作,共同开发适用于车载计算的大型语言模型人工智能系统。同时,英伟达透露,中国电脑制造商联想也在与其合作部署大型语言模型。另外,Soundhound将运用英伟达技术开发车载语音命令系统,使车主能通过语音...……更多
AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
...消息,美国人工智能初创公司Groq最新推出的面向云端大模型的推理芯片引发了业内的广泛关注。其最具特色之处在于,采用了全新的Tensor Streaming Architecture (TSA) 架构,以及拥有超高带宽的SRAM,从而使得其对于大模型的推理速度...……更多
北大字节VAR最佳论文、厦大清华亚军,NeurIPS 2024最佳论文出炉
...可扩展图像),论文一作为田柯宇(此前因涉攻击内部大模型,被字节起诉)。参见机器之心报道《GPT 超越扩散、视觉生成 Scaling Law 时刻!北大 & 字节提出 VAR 范式》。机器之心获悉,从 2023 年开始,字节商业化技术团队就...……更多
OpenAI开启调查:GPT-4o及4o-mini模型性能下降
...据报道,OpenAI发布事故报告指出,当前遭遇GPT-4o和4o-mini模型性能下降问题,目前正在进行调查,并将尽快发布最新消息。近期,科研人员创新性地推出了一项名为LONGPROC的基准测试工具,该工具专为评估模型在处理长上下文中的...……更多
CMU清华教LLM练成数学高手,LeanSTaR训练模型边思考边证明,登顶新SOTA
...学生怎么办?CMU清华团队提出了Lean-STaR训练框架,在语言模型进行推理的每一步中都植入CoT,提升了模型的定理证明能力,成为miniF2F上的新SOTA。如果想训练LLM证明定理的能力,你会怎么做?既然模型可以通过海量语料学会生成...……更多
英伟达 Jim Fan 预测未来 2-3 年机器人领域迎来“GPT-3 时刻”
...李飞飞教授。他的研究领域十分广泛,包括了多模态基础模型、强化学习以及计算机视觉,曾实习于谷歌云 AI、OpenAI、百度硅谷人工智能实验室等知名组织。Jim Fan 目前在英伟达公司领导 AI 相关研究,其团队正致力于开发“Projec...……更多
DeepSeek开源惠四方(科技名家笔谈)
...州深度求索人工智能基础技术研究有限公司推出AI语言大模型DeepSeek,受到用户热烈欢迎。2025年1月20日,DeepSeek-R1发布上线,7天内用户超过1亿。ChatGPT从发布到达到相同的用户规模用时两个月。GitHub是全球最大的代码托管网站,Gi...……更多
英伟达抛出年度AI杀器:史上最强芯片,还有机器人大模型
... GPU中包含2080亿个晶体管,可以支持多达10万亿个参数的AI模型。黄仁勋展示Blackwell除了芯片本身之外,这一架构还采用了第五代NVLink高速互联、第二代Transformer引擎,多方位全面升级。据黄仁勋介绍,这一全新的芯片将在2024年晚...……更多
CES 2024前瞻:红绿蓝“三巨头”相约来“挤牙膏”?
...数据,相比于前代7040系列,锐龙8040系列在Llama 2大语言模型和视觉模型方面,性能可提升最多40%。这次的新品共有9个SKU,可以分为8045HS(35-54W)、8040HS(20-30W)和8040U(15-30W)三大类,进一步细分了一下,对于笔记本厂商来说,可以根...……更多
与英伟达正面交锋!AMD“终极武器”今夜来袭
...00有足够的竞争力。据AMD今年6月公布的数据,专为大语言模型优化的产品MI300X,其内存达到了192GB,内存带宽为5.2TB/s,InfinityFabric带宽为896GB/s,晶体管达到1530亿个。另外,MI300X提供的HBM(高带宽内存)密度是英伟达H100的2.4倍,H...……更多
1-bit大模型还能再突破!新一代BitNet架构启用4位激活值
...et系列的原班人马推出了新一代架构:BitNet a4.8,为1 bit大模型启用了4位激活值,支持3 bit KV cache,效率再突破。量化到1 bit的LLM还能再突破?这次,他们对激活值下手了!近日,BitNet系列的原班人马推出了新一代架构:BitNet a4.8...……更多
\
...图:英伟达AI产品更新路线图就性能的升级对比,H200在大模型Llama和GPT-3.5的输出速度分别是H100的1.9倍和1.6倍,在高性能计算方面的速度达到双核x86 CPU的110倍。而到了GB200,与H100相比,可以将LLM推理工作的性能提高30倍,并将成...……更多
美媒:无论有没有芯片,中国都在推进人工智能发展
...芯片。报道称,一大批中国AI初创企业正在通过为大语言模型编写更高效的代码,提高人工智能效率,以解决没有先进芯片的问题;还有一些公司则注重于构建更小、更专业的模型,或是采用耗能耗时更少的训练方法。文章援引...……更多
李彦宏:百度AI构架有优势,性能较低的国产芯片仍可高效运作!
...响。百度过去主要使用英伟达的高性能GPU来对其自研的AI模型进行训练和执行推理任务。然而,美国在2022年10月首次出台针对AI芯片的出口限制政策,使得英伟达、AMD等厂商的高性能AI芯片的对华出口受限,虽然之后英伟达推出了...……更多
突发!英伟达高性能AI芯片几被禁 国产算力的春天真来了
...可以对标英伟达A100。彼时有媒体透露,用于讯飞星火大模型训练的是华为最新昇腾芯片910B。时隔两月,《IT时报》记者从多个信源获悉,基于华为昇腾910B芯片的全套国产智算集群,正在国内多个智算中心、大模型厂商、电信运...……更多
黄仁勋首度回应DeepSeek冲击:英伟达暴跌系投资者误解 未来算力仍至关重要
今年1月,中国人工智能初创公司DeepSeek发布的开源推理模型R1在海外引起巨大反响,并引发美股“AI宠儿”英伟达单日市值一度蒸发近6000亿美元。而近日,英伟达首席执行官黄仁勋首度对此事做出了公开回应。他称,DeepSeep-R1推...……更多
Whisper 模型处理测试:英伟达 RTX 4090 比苹果 M3 Max 慢 86 秒
...比了英伟达的 RTX 4090 显卡。Wehrens 使用 OpenAI 的语音识别模型 Whisper 进行测试,主要测量转录 10 分钟音频文件所需时间。测试结果显示 M1 Pro 处理音频时间需要 216 秒,英伟达 RTX 4090 显卡处理时间需要 186 秒。而具有 76 个 GP……更多
英伟达携手达慕思大学开发“生成式人工智能教学工具包”
...颁发能力证书。最新课程的重点是:介绍适用于大型语言模型(LLMs)的自然语言处理(NLP)基础知识。该课程还将使用英伟达云平台对生成式预训练变换器(GPT)模型进行云驱动培训,然后再扩展到涵盖图像和视频生成的扩散...……更多
google宣布为gemma系列增加一系列新成员
...年一度的I/O2024开发者大会上宣布为其开放(但非开源)模型系列Gemma增加一系列新成员。其中最引人注目的是Gemma2,它是Google下一代Gemma模型,将于6月份推出,拥有270亿个参数模型。PaliGemma是一种预训练的Gemma变体,Google将其描...……更多
不光鸡生蛋、蛋也能生鸡?英伟达正测试用生成式AI来帮助研发芯片
...需要大量算力的支持,而英伟达的尖端AI芯片则是大语言模型(LLM)开发的首选,几乎垄断了全球算力。那么,如果说尖端AI芯片这只“鸡”,诞生下了生成式AI这只火爆全球的“蛋”。未来这只愈发成熟的“蛋”,是否也有可能...……更多
...会”(1#AIConferenceforDevelopers)演讲。黄仁勋介绍了运行AI模型的新一代芯片和软件。在本次GTC大会上,英伟达推出了ProjectGR00T人型机器人项目——人型机器人基础模型。英伟达表示,基于GR00T人型机器人基础模型,可以实现通过...……更多
英伟达SC24六大技术亮点,不止加速超算500强
...数据集则补足了“原料”。研究人员需要专门的生物分子模型和数据集来大规模地收集洞察,以便更快地设计治疗方案。开源BioNeMo框架提供了一系列加速计算工具,为生物分子研究提供指数级扩展的AI模型,也为生物制药领域带...……更多
遗憾不?百度早研究过Scaling Law,Anthropic CEO灵感都来自百度
...Scaling Law 的相关研究,并且通过实证研究验证了深度学习模型的泛化误差和模型大小随着训练集规模的增长而呈现出可预测的幂律 scaling 关系。只是,他们当时用的是 LSTM,而非 Transformer,也没有将相关发现命名为「Scaling Law」...……更多
87.8%准确率赶超GPT-4o登顶!谷歌DeepMind发布自动评估模型FLAMe
【新智元导读】谷歌DeepMind推出LLM自动评估模型FLAMe系列,FLAMe-RM-24B模型在RewardBench上表现卓越,以87.8%准确率领先GPT-4o。大语言模型都卷起来了,模型越做越大,token越来越多,输出越来越长。那么问题来了,如何有效地评估大...……更多
更多关于科技的资讯:
浙江日报义乌12月3日电 (记者 拜喆喆 何贤君 共享联盟·义乌 吴峰宇) 3日,义乌今年第1亿个跨境电商进口订单完成打包
2025-12-04 08:41:00
中国科大新实验终结爱因斯坦与玻尔世纪之辩
大皖新闻讯 大皖新闻记者从中国科学技术大学获悉,该校潘建伟、陆朝阳、陈明城教授等组成的研究团队,利用光镊囚禁的量子基态单原子
2025-12-04 11:03:00
中新经纬12月4日电 “北京市场监管”微信号4日消息,为应对AI合成技术滥用风险,规范电商直播行业秩序,近日,北京市消费者协会(以下简称“北京消协”)联合京东
2025-12-04 11:06:00
用一张照片告别2025:富士胶片X-SPACE三城点亮\
2025年11月起,富士胶片影像共享空间X-SPACE于上海、南京、杭州三地先后启动年末特别企划——"影像之树"作品征集与交流活动
2025-12-04 11:49:00
《2026年中国礼品行业展望白皮书》发布“差异化”和“质价比”等关键词
2025年10月20-23日,第33届深圳礼品家居展于深圳国际会展中心举办,展会同期进行的2025中国礼业高峰论坛上,展会主办方励展华博第三次携手国际知名咨询公司凯度重磅首发《2026年中国礼品行业展望白皮书》
2025-12-04 11:55:00
中国网12月4日讯 据国家体育总局网站消息,体育总局日前印发《关于进一步推进篮球改革发展的意见》。其中提出,有序促进职业篮球开放
2025-12-04 12:16:00
长白时评评论员 刘颂寒12月1日,电视剧《家业》和制片方华策影视发文,谴责部分短剧投机取巧,擅自截取《家业》宣传物料中的创意元素“跟拍”
2025-12-04 13:48:00
近年来,智能制造产业园引导企业顺应数字化浪潮,积极落实智改数转,推动科技创新与产业创新深度融合。以南汽集团为核心的汽车产业
2025-12-04 11:20:00
储热赋能双碳 智慧引领供热 泰山集团高电压直入式电储能技术破解能源转型难题
鲁网12月4日讯在“双碳”目标深入推进、能源结构加速转型的时代背景下,电网峰谷差拉大、清洁供热需求迫切、弃风弃光资源浪费等问题成为制约绿色发展的关键瓶颈
2025-12-04 09:57:00
上海街头的数字生活指南,是城市数字品牌与公共艺术的对话
在上海,街头悄然出现的“数字城市指示牌”成为了市民与游客驻足讨论的热点。这些立体的、新颖的指示牌,是“智云上海”这个城市信息化名片的立体呈现
2025-12-04 08:17:00
摘要:随着生成式人工智能技术在各行业的广泛应用,模型输出结果的不确定性问题日益受到关注。为提高模型在关键领域的可靠性,对输出不确定性进行量化分析成为重要方向
2025-12-04 06:17:00
杭州博士后用AI让机器懂协作、更安全杭州日报讯 让机器从执行命令的“孤岛”,成为懂得协作的群体?让机器人安全走进人类生活
2025-12-04 06:38:00
12月3日从紫林醋业获悉,紫林醋业部分主导产品通过欧盟有机认证(EU Organic Certification),获准使用欧盟统一有机标识“欧洲叶标”(Euro-Leaf)
2025-12-04 07:31:00
中新经纬12月3日电 12月3日,豆包手机助手在官方微信号就“侵犯用户隐私”等问题进行回应,称不存在任何黑客行为。具体来看
2025-12-04 07:42:00
支付宝AI4SDL研发安全体系斩获首届“AI领航杯”星光金奖
12月1日-3日,由中国互联网协会主办的2025“人工智能+”产业生态大会在北京举办。开幕式上,首届“AI领航杯”“人工智能+”应用与技能大赛总决赛举行了隆重的颁奖仪式
2025-12-04 07:47:00