• 我的订阅
  • 头条热搜
腾讯云升级 AI 全家桶,混元对标 GPT-4o
...相较前代,混元 Turbo 性能大幅提升:训练效率提高 108%,推理效率提升 100%,推理成本降低 50%,目前,混元 Turbo 已在腾讯云上线,提供多个版本供企业和开发者使用。同时,在大会上,腾讯云还发布了 AI infra 品牌「腾讯云智算...……更多
Transformer推理天花板被谷歌打破?DeepMind首席科学家亮出84页PPT,却遭LeCun反对
...科学家Denny Zhou拿出一篇ICLR 2024论文称:CoT可以让Transformer推理无极限。但随即他就遭到了田渊栋和LeCun等的质疑。最终,CoT会是通往AGI的正确路径吗?随着OpenAI o1的爆火,最近CoT也成了圈内热议的高频词。靠着CoT的强力加持,o1...……更多
IDC最新报告:2024中国AI基础设施市场份额,阿里云第一
...;在生成式AI基础设施领域,阿里云取得模型训练和模型推理市场的双项冠军。AI IaaS 是以GPU等AI专用芯片为算力支撑的基础设施,包括以大模型为核心的生成式AI IaaS(GenAI IaaS)和传统的非生成式AI IaaS。随着大模型加速发展,生...……更多
...能设备或家庭服务器上,使用存储在本地的个人数据进行推理和学习的人工智能基础模型。它不仅可以像公共大模型那样通过对话提供答案、创作内容,而且更精准、贴切,甚至根据用户的思维模式预测任务,并自主寻找解决方...……更多
大模型降价背后,国产大模型的竞争逻辑变了
...市场拱手让人。另一方面,随着大模型产业的快速发展,推理成本飞速下降,也成为终端降价的基础。据百度官方透露,相比一年前,文心大模型的算法训练效率提升到了原来的5.1倍,周均训练有效率达到98.8%,推理性能提升了1...……更多
马斯克官宣Grok-2测试版!xAI将继续拥抱开源路线吗?
...据具体询问的内容,模型只会激活不同的专家子模块进行推理,在吞吐量一定的情况下,可以更快地完成推理、给出回答。这让Grok-1拥有了更快的生成速度和更低的推理成本,简而言之就是更好的使用体验和性价比。根据xAI公布...……更多
AMD发布最强AI芯片,对标英伟达Blackwell,2025年上市
...于 AMD CDNA 3 架构构建,旨在为涵盖基础模型训练、微调和推理等要求苛刻的 AI 任务提供性能和效率。AMD Instinct MI325X 加速器提供了业界领先的内存容量和带宽,256GB HBM3E 支持 6.0TB/s,比英伟达 H200 提供了高 1.8 倍的容量和 1.3 倍……更多
ChatGPT o1满血版上线!实测中它竟然败给了国产AI?
...特曼用一个简单的柱状图给出了对比:可以看到o1在数学推理和编程领域的表现要明显优于o1-preview,提升幅度在50%左右,而在科研领域的测试里,o1相对于o1-preview的表现就提升有限了。图源:OpenAI考虑到o1模型不需要额外加钱就...……更多
又慢又贵?OpenAI推理模型“草莓”来了,GPT-5还有多远
...9月12日,人工智能(AI)巨头OpenAI发布代号“草莓”的AI推理模型OpenAI o1系列,包括OpenAI o1-preview以及小版本的o1-mini。据OpenAI介绍, o1会花更多时间思考问题,然后再做出反应,就像人一样。通过训练学会了完善自己的思考过程...……更多
推理成本直降99%!百川智能「1+3」矩阵揭秘,两张4090玩转旗舰新模型
...」。模型升级:Baichuan4-Turbo两张4090即可部署,Baichuan4-Air推理成本下降99%接下来,如何将Baichuan4-Turbo、Baichuan4-Air应用在实际场景中?从名字中不难看出,它们都是Baichuan 4系列基础模型的升级。对于企业来说,在不同场景阶段……更多
黄仁勋:市场对DeepSeek的理解完全错误,算力需求依...
...日,在GTC大会的分析师会议上,黄仁勋再次强调,市场对推理模型DeepSeek-R1的理解“完全错误”,对算力的需求依然很高。此外,黄仁勋还谈到,公司没有受邀参与收购英特尔股权。在前一天的主题演讲中,黄仁勋宣布基于Blackwe...……更多
腾讯开源最大MoE大语言模型!3D大模型同时支持文/图生成,晒混元模型及应用全家桶
...型,MoE模型在相同成本下效果更优,在相同规模下训练/推理成本更低,而且容量大,可训练更多数据。当前MoE的挑战有训练稳定性差、专家负载不均衡等。 一些应对方案包括:1)Scaling Law探索,设计基于中小模型簇的MoE Scaling ...……更多
刘庆峰透露“星火X1”7月份再升级
...创新点:“第一,国内首发基于快慢思考的统一模型训练推理方法;第二,提出结合评语模型和细粒度反馈的强化学习技术;第三,研发国产平台强化学习算法包,实现了全国产化算力深度推理模型训练效率优化。”刘庆峰表示...……更多
阿里云佘俊泉:创新涌现,边缘云场景的探索与机遇|GDCC智算
...成本优化,后者则注重实时互动体验。此外,虽然边缘AI推理当前的规模不大,但随着AIGC以及LLM技术全面应用到千行百业,边缘云在这个方向上有巨大潜力,在未来5-10年内将产生更多创新业务场景。针对上述场景化需求,阿里...……更多
安兔兔评测pc版正式发布,欢迎大家下载体验
...行效率进行评估,小到简单的数学运算,大到复杂的逻辑推理和大语言模型问答等多个方面,更加全面地展现CPU在不同AI应用中的表现。由于CPU属于计算机的核心部件,所以在AI处理中起着至关重要的作用。GPU测试部分,与CPU的...……更多
小模型越级挑战14倍参数大模型,谷歌Test-Time端新的Scaling Law
...发布的新模型草莓所用的方法。研究团队探究了在大模型推理时进行计算优化的方法,根据给定的prompt难度,动态地分配测试时(Test-Time)的计算资源。结果发现这种方法在一些情况下比单纯扩展模型参数更经济有效。换句话说...……更多
神仙打架!谷歌新款大模型Gemini 和GPT-4谁能笑到最后?丨科技观察
...。谷歌表示,现有的人工智能模型通常只处理一种类型的推理,如图片或文本,而 Gemini 的设计是“多模式”的。这意味着它接受包括多种媒体类型的输入,组合文本、图像、音频、视频和编程代码。未来,谷歌还计划将 Gemini添...……更多
o1核心作者分享:激励AI自我学习,比试图教会AI每一项任务更重要
...绍下Hyung Won Chung,从公布的o1背后人员名单来看,他属于推理研究的基础贡献者。资料显示,他是MIT博士(方向为可再生能源和能源系统),去年2月加入OpenAI担任研究科学家。加入OpenAI之前,他在Google Brain负责大语言模型的预训...……更多
...司利用自主研发的训练框架和量化算法显著提升了训练和推理速度,并优化了模型精度与推理吞吐量;在智能安全保障上,公司采用RLHF方案对齐安全认知,创新的热修复技术确保了大模型的安全性,提供安全、可靠的用户体验...……更多
《永劫无间》手游首次将具有18亿参数的大语言模型引入终端侧
...可以大幅提升腾讯混元大模型在终端侧的运行效率,端侧推理实现首个token生成时延达到150ms,解码速率达到超过 30tokens/秒。腾讯混元大模型已为腾讯内部超过700个业务场景和C端应用提供底层技术支持,在骁龙8至尊版芯片上部...……更多
OpenAI迄今最大、最贵模型!GPT-4.5正式发布
...题方面发挥更大作用,并且模型的幻觉现象更少,但数学推理能力仍逊于o3-mini等推理模型。GPT-4.5是OpenAI最后一个“非思维链模型”,通过扩大预训练和后训练规模,提升了非监督学习能力,未来将作为推理模型的基础。不过目...……更多
从0到1:国产化千卡集群的一小步,AI算力主动权的一大步
...紧张是产生算力焦虑的根源所在。一方面,大模型训练与推理需求呈几何级数爆发——自2022年以来,人工智能算力需求每3~4个月就翻一番,每年训练AI模型所需算力增幅高达10倍,而生成式AI使上升曲线进一步陡峭,未来大模型...……更多
英伟达公布未来三年芯片路线图,AI工厂有了操作系统;黄仁勋:算力会继续增长,机器人时代已来
...着黄仁勋演讲开始有所走高,但收盘仍跌超3%。代理AI和推理将推动算力增长,数据中心支出将达到1万亿美元 在演讲开始,黄仁勋对比了基于Blackwell架构的GeForce 5090芯片和RTX4090的进步。“它体积缩小了30%,能效散热提升30%,性...……更多
智慧家庭重磅文件,征求意见稿来了!事关千亿市场、8大应用场景
...技术要求、工程建设和其他6个部分。关键技术标准分为推理与表达、人机交互、互联互通和安全防护和其他5个部分。应用场景标准包含智慧养护、智慧家务、智慧安防、智慧能源、智慧健康、智慧影音、智慧车家和其他8个部分...……更多
chatgpt低成本复现流程开源
...。相比原生PyTorch,单机训练速度最高可提升7.73倍,单卡推理速度提升1.42倍,仅需一行代码即可调用。对于微调任务,可最多提升单卡的微调模型容量3.7倍,同时保持高速运行,同样仅需一行代码。要知道,ChatGPT火是真的火,...……更多
超星未来梁爽:软硬件协同优化,赋能AI 2.0新时代
...任务,这一基础模型应该具备感知万物、知晓常识和理解推理的能力,智能驾驶、机器人的基础模型本质上是同一类基础模型。 端到端与大模型上车进行时 智能汽车是迈向通用机器人的必要阶段 近年来,智驾系统正在从传统...……更多
加速替代CUDA!摩尔线程开源vLLM-MUSA 加速国产GPU AI
...科技11月5日消息,近日,摩尔线程上线了大语言模型高速推理框架开源项目vLLM的MUSA移植版本,为开发者提供基于摩尔线程全功能GPU进行开源项目MUSA移植的范例。摩尔线程表示,正努力围绕自主研发的统一系统架构GPU、MUSA软件...……更多
一代更比一代强,AI 时代的至强如何为云服务保驾护航?
...,五代至强® 在相同功耗下的平均性能提升了 21%,而 AI 推理和训练性能的提升更是高达 42% 和 29%。一系列技术创新,使第五代至强® 可扩展处理器成为 AI 时代云厂商的基础设施关键角色。目前,已经有多家客户在实际业务中部...……更多
蚂蚁自研知识增强大模型服务框架KAG,可显著提升知识推理准确率
...地,也一定要对时间、数字和逻辑敏感,无论让它做多跳推理,还是逻辑规则数字计算,而这些恰好是大语言模型所不擅长的,包括前一段时间热议的 9.9 和 9.12 比大小的例子。基于此,我们认为在垂直领域落地的时候,大语言...……更多
国内首个通过主任医师评测的大模型,已在夸克AI搜索上线
...度越高、领先优势越明显的性能曲线,展现出在复杂医学推理任务中的突破。这揭示了在医学领域研发垂类模型的巨大潜力。夸克健康大模型以通义千问为基础,走出了一条面向垂直场景的深度工程化路线。“我们不是在训练AI...……更多
更多关于科技的资讯:
一缕发丝织就“头上帝国”丨链接世界的河南力量
编者按:从中原大地到全球市场,一批来自河南的新服务新供给品牌企业正加速“出海”,以优质产品为全球消费者提供更多选择。12月12日起
2025-12-19 14:36:00
在国家持续推进税收现代化、优化营商环境的大背景下,企业合规经营与诚信纳税已成为衡量其可持续发展能力的重要标尺。新疆瑞源乳业有限公司作为巴州地区乳制品行业的领军企业
2025-12-19 14:47:00
浙江新昌:一家县属国企的低空经济腾飞记
在2025年公路交通行业数据要素应用创新大赛中,“基于异构低空飞行器协同的智慧巡检与低空运营解决方案”项目,荣获全国三等奖
2025-12-19 14:47:00
在数字化转型与精益管理深度融合的当下,电子商城作为企业物资采购、资源配置的核心载体,其运营效率与服务质量直接影响企业整体运营成本与发展活力
2025-12-19 14:47:00
浙江飞流科技创新模式成就“飞”速度
12月1日,河南省辉县市,河南共城智通低空经济有限公司正式开业,今年8月,该公司以“品牌加盟”形式获得浙江飞流科技有限公司(以下简称“飞流科技”)在河南省新乡市的品牌授权
2025-12-19 14:47:00
全省唯一入选,就在常州高新区新桥街道!
近日,工信部发布《再制造机电产品典型应用案例》公示名单,常州市新北区新桥街道企业常州越新传动系统有限公司(以下简称“越新传动”)的“再制造风电增速齿轮箱及其应用——以华奥新能源
2025-12-19 14:48:00
常州高新区企业向全球“行业第一”发起冲击!
从打桩到投产仅13个月、20万平方米超级工厂高速运转、首款量产产品订单已排至明年……在常州高新区,江苏睿恩新能源科技有限公司正以惊人速度
2025-12-19 14:48:00
从“流量”到“留量”的深水区航行——对话臣良商贸副总王景涛,解码八年增长三倍的“慢”哲学
鲁网12月19日讯(记者 吴美琳)在德州商贸流通领域,“臣良商贸”是一个颇有分量的名字。这不仅因为它与古贝春携手二十六载的风雨同舟
2025-12-19 15:00:00
拨打运营商热线转接4次才接通人工,电商维权遭遇AI客服循环套话,金融咨询“答非所问”却难寻人工入口……本应是提升服务效率的AI客服
2025-12-19 15:22:00
又是首个出海,海尔三筒洗衣机亮相马来西亚
12月17日,海尔智家第七届全球粉丝节在马来西亚正式启幕,这场连接全球粉丝的品牌盛典,打造了为期五天的沉浸式快闪体验空间
2025-12-19 16:08:00
第十次荣获“五星钻石奖”!青岛银行隐藏着什么获奖秘籍?
12月17日,本年度全球服务领域最高荣誉——2025年(第十九届)“五星钻石奖”(Five Star Diamond Brand)在香港举行的“世界经理人峰会”上隆重揭晓
2025-12-19 16:12:00
青岛球迷狂喜!大力神杯首降,海信冰箱将携锁鲜黑科技赴约
鲁网12月19日讯时隔多年,象征足球最高荣誉的大力神杯将再度造访中国!12月21日,这座全球球迷魂牵梦萦的奖杯将在青岛进行24小时免费公展
2025-12-19 16:13:00
今年以来,魏县联社始终坚守“立足县域、服务三农”的初心使命,锚定县域经济发展需求,聚焦服务提质增效核心目标,通过健全服务体系
2025-12-19 17:02:00
鲁网12月19日讯近年来,中国银行临沂分行紧跟临沂市委市政府战略规划,锚定商贸物流西部新城建设和商城出海战略任务,积极做出支持地方经济社会发展的金融贡献
2025-12-19 17:23:00
罗庄农商银行:科技金融为新质生产力“蓄势赋能”
鲁网12月19日讯新质生产力的培育和发展要立足实体经济根基,罗庄农商银行坚守服务实体经济本职,通过深入开展“千企万户大走访”
2025-12-19 17:23:00