• 我的订阅
  • 头条热搜
DeepSeek降本秘诀曝光:2招极致压榨推理部署,算力全留给内部AGI研究
...后其实大有文章。SemiAnalysis指出,DeepSeek为了把成本压到极致,在服务质量上还是做了大量妥协。用户在DeepSeek官方平台上使用模型,经常要等上好几秒才能看到第一个字蹦出来,可以用首token延迟(First token latency)这个指标来...……更多
京东云发布八大领先智算产品,助力企业火速用上大模型
...京东云城市大会在深圳顺利举行。会上,京东云发布八大极致性价比的智算产品,五种全场景大模型部署模式,同时推出“开发训练+场景应用”双引擎一站式平台,助力企业实现DeepSeek等大模型开箱即用、智能体深度开发与应用...……更多
大模型步入推理Scaling时代,SambaNova如何挑战英伟达的霸主地位
...数据传输的大规模计算任务的 HBM。其架构可以自动做到极致的算子融合,达到 90% 以上的 HBM 利用率,使得 RDU 对 GPU 有了 2-4 倍的性能优势。当前的 AI 推理平台中,SambaNova 是唯一能在 Llama 3.1 405B 上提供每秒超过 100 个 Token 推理……更多
超擎数智重磅发布擎天、锋锐、元景系列AI服务器,打造人工智能新质生产力强劲引擎
...350W;DDR5技术+PCIe Gen5最新技术支撑;PCIe直通配置低时延打造极致性能;前后 IO维护兼容设计,具备广泛的适用性,满足多场景应用的高性能需求。灵活的拓扑方案:CPU-GPU支持直通及 Switch方案,最大支持 10张双宽 GPU卡;CPU-Switch可选 X32或 X1……更多
昆仑万维重磅发布天工AI高级搜索功能,做最懂金融投资、科研学术的AI搜索
...检索技术的升级。在数据上,天工AI投入了巨大精力追求极致:高质量、权威、实时、专业的金融数据收录,中英文最全学术数据接入。天工AI引入了海量(超过10亿)的专业型数据,包括网页、PDF(比如研报、财报、海内外权威...……更多
京东率先推出行业首批高商业可用数字人,618向商家免费开放
...尺寸大模型,满足多样化的产业需求:3B和10B模型可提供极致响应效率;81B主力模型可兼顾效果和性能。最新推出的750B超大规模模型,则兼具“深度思考”和“非深度思考”双通道能力,能满足各行业对“即时响应”和“深度推...……更多
阿里通义实验室黄斐:开源进入千问时代,即将发布的推理模型会更好用
...开源模型系列,将“很快”放出基于最新模型Qwen2.5-Max的推理模型。2月21日,全球开发者大会(GDC)在上海开幕,在阿里云魔搭社区主办的论坛上,据阿里巴巴通义实验室科学家黄斐介绍,到目前为止,整个通义千问(Qwen)系列...……更多
对话北大赵东岩:为啥DeepSeek幻觉率这么高?用户如何避免被AI“欺骗”?
...达14.3%,显著高于DeepSeek-V3的3.9%,也远远超过行业的其他推理模型,比如OpenAI-o1的测试结果是2.4%。这种AI大模型生成内容与真实数据不符,或偏离用户指令的现象,会极大影响用户的使用体验。在医疗、法律、金融等对准确性要...……更多
致敬浪潮“她”力量丨成功秘诀?不过是把“我能行”,用代码写了千万遍
...”薛娇说。QASC挑战赛是美国艾伦研究所推出的一项常识推理阅读理解任务,它的挑战性在于不仅要求机器能够理解和检索知识,还要求机器将检索到的知识进行组合推理,最终给出合理的答案。“最开始的测试中,我们的模型...……更多
不断创新、协同发展,康佳的秘诀是什么?
...突出成果背后,体现了康佳集团在科研领域对前沿技术的极致追求。除了在前沿科技领域的发力布局之外,康佳还聚焦消费电子领域,形成半导体+消费电子两大主业协同发展。康佳通过并购“新飞”品牌,加强了白电品牌基础...……更多
姚期智院士大模型新研究:思维图DoT,用数学理论确保AI逻辑一致
姚期智院士领衔,推出大模型新推理框架,CoT“王冠”戴不住了。提出思维图(DiagramofThought),让大模型思考更像人类。团队更是为这种推理过程提供了数学基础,通过拓扑斯理论(Topos Theory)正式化(formalize)DoT,确保其逻...……更多
AI出图更快、更懂你心意,高美感文生图模型修炼了哪些技术秘籍?
...的想法设计;第二个是如何生成更具美感的图像来提供更极致的用户体验;第三个是如何更快速地出图来满足超大规模的服务调用。 在图文匹配方面,豆包团队从数据入手,对海量图文数据做精细化筛选和过滤,最终入库了千...……更多
百度智能云两大基础设施再升级!打造AI时代最开放的智能基础设施
...载均衡。针对MOE模型,百舸做到了大规模多机专家并行的极致优化,可以大幅降低MOE模型推理的通信开销。最后,百舸对核心链路上的每一个细节做了系统级的工程优化,大幅提升GPU的有效利用率。从百度内部实践来看,百舸...……更多
罗格斯大学团队提出思想链概念,提高大模型的算数推理能力
...概念,提高了大语言模型(LLM,large language models)在复杂推理任务上的性能,例如算术推理、常识推理和符号推理等。图 | 金明宇(来源:金明宇)CoT 的原理是通过提供推理过程的示例,来教会模型处理推理,详细说明导致最...……更多
专注于推理的OpenAI“草莓”模型两周内发布?是人工智能下一重大突破
...“秋季发布”(9月至11月)要更早。上述报道称,专注于推理能力的人工智能“草莓”发布前后还有一些亟待解决的问题,但看似“仓促上马”似乎说明OpenAI感受到了大语言模型驱动产品领域的激烈竞争压力,希望通过近几个月...……更多
突破时间序列组合推理难题!南加大发布一站式多步推理框架TS-Reasoner
【新智元导读】TS-Reasoner是一个创新的多步推理框架,结合了大型语言模型的上下文学习和推理能力,通过程序化多步推理、模块化设计、自定义模块生成和多领域数据集评估,有效提高了复杂时间序列任务的推理能力和准确性...……更多
OpenAI新功能 “深度研究” 登场,人类终极考试的表现超过DeepSeek R1
...过专门优化,适配网页浏览和数据分析场景。它能够运用推理能力,在互联网上搜索、解读和分析海量的文本、图像和PDF文件,并能根据所遇到的信息灵活调整研究方向。 值得注意的是,在对这个智能体的能力评测中,OpenAI特...……更多
成本不到150元!26分钟训出个推理模型 媲美o1和R1
成本不到150元,训练出一个媲美DeepSeek-R1和OpenAI o1的推理模型?!这不是洋葱新闻,而是AI教母李飞飞、斯坦福大学、华盛顿大学、艾伦人工智能实验室等携手推出的最新杰作:s1。在数学和编程能力的评测集上,s1的表现比肩Dee...……更多
ai终端产业创新论坛在沪举行
...体验。他说,“AI有一个重要的事情,就是让用户获得到极致的体验提升。开发范式统一、整体的规范统一,可以让用户便捷获得AI应用,我们非常期待”。京东集团副总裁尚鑫说:“技术方面,我们期望通过建立生态系统来确...……更多
清华团队提出大模型“密度定律”;足球领域首个视觉语言基础模型
...交视觉-语言-动作建模框架RevThink:使用逆向思维增强 LLM 推理想要第一时间获取每日最新大模型热门论文? 点击阅读原文,查看「2024必读大模型论文」合集,以及申请加入「大模型技术分享群」。SwiftEdit:50 倍速文本引导图像...……更多
OpenAI o1强推理能提升安全性?长对话诱导干翻o1
最近,以 OpenAI o1 为代表的 AI 大模型的推理能力得到了极大提升,在代码、数学的评估上取得了令人惊讶的效果。OpenAI 声称,推理可以让模型更好的遵守安全政策,是提升模型安全的新路径。然而,推理能力的提升真的能解决...……更多
推理性能直逼o1,DeepSeek再次出手,重点:即将开源
...出手了,这次又是重磅炸弹。昨晚,DeepSeek 上线了全新的推理模型 DeepSeek-R1-Lite-Preview,直接冲击 OpenAI o1 保持了两个多月的大模型霸主地位。在美国数学竞赛(AMC)中难度等级最高的 AIME 以及全球顶级编程竞赛(codeforces)等权...……更多
“智算融合 共创未来”——开普云AI战略暨新产品发布会召开
...构算子等一系列深度优化,极大提升推理算力效率,释放极致推理算力性能。 边缘一体机:结合实际应用需求,边缘一体机支持内置不同模型,满足多元化场景需要;支持私有化部署,无需服务器,实现超高性价比;支持云端...……更多
首发!优刻得云平台上新DeepSeek-V3-0324模型
...力! 技术突破:三大维度重构AI开发范式 1.极简架构,极致效率 6850亿参数MoE架构:采用动态路由优化技术,激活参数仅370亿,通过"偏差项"机制和节点受限路由策略,实现跨节点通信开销降低37%,推理速度提升128K超长上下文...……更多
比GPU性价比高百倍!Cerebras推出新AI推理服务,号称“全球最快”
...28日消息,AI芯片独角兽Cerebras Systems于8月27日宣布推出AI推理服务Cerebras Inference,号称“全球最快”。该服务已经在云端上线。据官网介绍,该推理服务在保证精度的同时,速度比英伟达的服务快20倍;其处理器内存带宽是英伟达...……更多
...算平台通过自研推理加速引擎,实现DeepSeek-R1系列模型的极致性能释放;实测昇腾国产算力显示推理性能与主流高端GPU持平,为用户提供了兼顾高效与自主可控的算力选择。 ……更多
手机上能跑的「GPT-4V」来啦!多图、视频理解首次上端!面壁小钢炮开源史上最强端侧多模态
...「眼睛」,不仅看得清晰,还能有样学样、模仿学习。 极致高效,最高多模态像素密度: 类比知识密度,小钢炮2.6取得了两倍于GPT-4o的单 token 编码像素密度(token density),在端侧方寸之地,一路将大模型「能效比」挖到极限。...……更多
一代更比一代强,AI 时代的至强如何为云服务保驾护航?
...,五代至强® 在相同功耗下的平均性能提升了 21%,而 AI 推理和训练性能的提升更是高达 42% 和 29%。一系列技术创新,使第五代至强® 可扩展处理器成为 AI 时代云厂商的基础设施关键角色。目前,已经有多家客户在实际业务中部...……更多
GPT-4omini为啥登顶竞技场?OpenAI刷分秘诀被扒,奥特曼早有暗示
...部分用户给出的问题都比较日常,不是那种复杂的数学、推理、编程问题。这意味着这些问题基本上都在大模型们的射程范围内,大家都能回答上来。在这种情况下,通过不拒绝或者更漂亮的格式呈现,确实可以更好俘获裁判们...……更多
联想王传东:2027年AI PC将成为市场主流
...库、隐私数据的本地推理机制、设备管家服务为用户带来极致的安全体验。根据IDC最新预测,AIPC新机的装配比例将在未来几年中快速攀升,将于2027年达到81%,成为PC市场主流。在AIPC的大潮到来之前,微软正在准备发布"突破性"...……更多
更多关于科技的资讯:
鲁网10月27日讯10月24日,记者在青岛市崂山区委宣传部召开的媒体见面会上获悉,近年来,青岛市崂山区以前瞻布局推动虚拟现实产业高质量发展
2025-10-27 16:24:00
京东11.11直播技术全面升级,立影3D技术、JoyAI大模型重构沉浸式购物体验
随着京东 11.11 大促的火热进行,京东直播再度升级技术布局,以 “立影 3D 技术”“JoyAI大模型”等创新技术
2025-10-27 15:39:00
电机能效提升领域再添标杆!25 项产品 / 技术入选全国节能降碳示范名单
为深入贯彻国家 “双碳” 战略,加快电机领域节能降碳技术创新与成果转化,中国电子节能技术协会此前启动 “全国节能降碳示范产品 / 技术推荐” 征集工作
2025-10-27 15:42:00
吉刻现场|硬核登场!吉林选手角逐第三届全国博士后创新创业大赛
10月26日,第三届全国博士后创新创业大赛在福建泉州(晋江)开幕。本届大赛,吉林省派出23个项目团队组成的参赛队伍角逐三个大赛道
2025-10-27 14:09:00
厦心医院实现手术\
厦门网讯(厦门日报记者 楚燕 通讯员 许良友 付磊 刘云芳)10月23日,一项载入医学史册的创新手术在厦门大学附属心血管病医院(以下简称“厦心医院”)圆满完成
2025-10-27 08:11:00
新闻纵深·解码钢铁大模型|邯钢构建六大领域全链条智能大模型:“聪明大脑”带来极致能效
邯钢构建六大领域全链条智能大模型“聪明大脑”带来极致能效编者按当钢铁遇上人工智能,一场“智变”正悄然发生。为生动展现人工智能为钢铁产业生产
2025-10-27 08:12:00
第十一届NJSD软件开发者会议在软件谷举行江苏规模最大,1400名软件工程师在宁“聚会”南报网讯(记者于洁尘通讯员林园园)70多位业界“大咖”登台演讲
2025-10-27 08:20:00
南报网讯(通讯员郑瑞于品华杨刚记者徐宁)近日,南化公司自主研发的橡胶防老剂中间产品RT培司(4-氨基二苯胺)除盐技术取得突破
2025-10-27 08:21:00
南报网讯(通讯员杨淏涵记者张希)日前,南京林业大学与乐惠国际南京基地签署《校企全面合作协议》《产业研究院共建协议》,全面开启校企战略合作
2025-10-27 08:22:00
高效,是都市青年的通行证:InstaShake以“一杯营养”重塑健康生活方式 —— 新锐品牌以“零添加、无预制、纯手工”的坚守,为上海都市人群注入鲜活能量
在生活节奏不断加速的上海,追求健康与追求效率似乎成为一道单选题。然而,新锐健康饮品品牌InstaShake正以其独特的“零添加
2025-10-27 08:39:00
济宁银行锚定金融“五篇大文章” 多维发力赋能区域经济高质量发展
鲁网10月27日讯近年来,济宁银行围绕做好金融“五篇大文章”,深入洞察科技企业、中小微企业以及重点产业链金融需求,以产品创新破解融资难题
2025-10-27 11:07:00
汪昌莲据《经济日报》报道,“两三元就能买品牌饼干薯片”“上百种散装零食任意挑选”……从县城到乡镇,在街角与量贩零食店不期而遇已成逛街“标配”
2025-10-27 11:10:00
受冷空气影响,气温先降后升,27日早晨气温较低。26日夜间到27日白天晴间多云,北风转南风2~3级,最低气温市区4℃左右
2025-10-27 11:28:00
2025青岛虚拟现实创新大会将启,雷神科技聚焦信创生态构建
鲁网10月27日讯虚实无界,智享未来。2025青岛虚拟现实创新大会即将在崂山区拉开帷幕。2017年以来,由崂山区成功承办的虚拟现实创新大会
2025-10-27 11:48:00
长白时评评论员 唐小兰近日,北京一市民反映有陌生男子在她家中无人时,通过指纹解锁智能门锁多次进入她家。当事人焦女士告诉新京报记者
2025-10-27 13:38:00