• 我的订阅
  • 头条热搜
Meta推出新版自研AI芯片:性能较上代提高三倍,降低对英伟达依赖
...了自主研发芯片MTIA的最新版本。MTIA是Meta专门为AI训练和推理工作设计的定制芯片系列。和去年五月官宣的Meta第一代AI推理加速器MTIA v1相比,最新版本芯片在性能上有显著提升,专为Meta旗下社交软件的排名和推荐系统而设计。...……更多
模型即服务,卓世科技MaaS平台 2.0 正式上线
...。本次新上线了包括:模型训练新基座,支持模型训练、推理、量化、评测等功能。 卓世科技MaaS平台是一款基于知识增强大模型的一站式行业模型训练开发平台。面向开发者和企业提供从基础算力服务、数据服务、模型训练服...……更多
数字员工、超级个体、具身智能,AI Agent未来发展十大研究方向
...侧大模型加速部署,或将成为未来交互新入口。AI在数学推理、新药研发、材料发现、蛋白质合成等领域大显身手, "AI科学家"有望加速问世。这三个报告,一方面预测了AI Agent的未来发展趋势,另一方面也同时提及了多模态大模...……更多
真香!智谱大模型,有了首个免费的API
...同时,GLM-4 支持了更长的上下文、更强的多模态、更快的推理速度,以及更多并发请求,大大降低了推理成本。在此基础上发展出的 GLM-4-Flash,则带来了一系列技术优势:数据预训练:引入大语言模型进入数据筛选流程,使用 10...……更多
【多彩新论】更好释放央地协作叠加效应
央企是我国国民经济的重要支柱和组成部分。回溯历史,从“三线建设”时期到改革开放后,央企与贵州渊源深厚、合作密切,央企已成为推动贵州经济社会高质量发展的重要力量。一直以来,贵州主动作为,积极推进央地协...……更多
苹果开源7B模型,训练过程数据集一口气全给了,网友:很不像苹果
...CLM-Baseline取得了更高的平均分,且在ARC(小学生科学问题推理)、HellaSwag(常识推理)、MMLU等任务上表现更好。 “小”模型成新趋势回到开头,“小”模型最近已成新趋势。先是HuggingFace推出了小模型家族“SmolLM”,其中包含1...……更多
【多彩新论】吹响到西部去的“集结号”
在巍峨高山,在高原湖畔,爱与奉献的青春之歌荡涤人心。今年3月31日至5月中下旬,2024年大学生志愿服务西部计划报名通道开启。作为又一个新十年的全新开端,2024年大学生志愿服务西部计划的实施,正被赋予更加丰富而深...……更多
硬件在人工智能基础教育中的角色: 机遇和挑战
...阶段也需要考虑硬件依赖,如何将模型部署在硬件上进行推理。整个流程充满了不确定性,使用难度较大。 因此,在实际应用中,经典流程可以简化为两部分,一部分是与模型相关的(蓝色)、另一部分是可以利用到模型的...……更多
挑战Scaling Law,Meta发布移动端350M小模型MobileLLM,性能比肩7B LLaMA-v2
...做个假设,如果把GPT-4(大约有1万亿参数)以50tokens/s的推理速度部署在生活中,你需要什么样的硬件?答案是1亿个H100 GPU。别说是移动设备了,家里都放不下。那如果降低标准,用LLaMA-v2 7B这样的模型,再加上8-bit量化呢?简单...……更多
用AI自动设计智能体,数学提分25.9%,远超手工设计
...在成为通用智能体的强有力支持,被越来越多的用于多种推理和规划任务。然而,在解决问题时,需要的智能体通常是具有多个组件的复合智能体系统,而不是单片模型查询 。此外,为了使智能体能够解决复杂的现实世界任务...……更多
文化是旅游的魅力所在。在共建世界级旅游目的地的新征程上,如何用好用活自然珍宝和文化瑰宝,进而打造形成别开生面的世界级旅游吸引物?破题之钥就在于坚定旅游产业化发展路径,因地制宜下好文旅深度融合一盘精妙...……更多
中国首个音乐SOTA模型「天工音乐大模型」今日公测
...全球最大的开源MoE大模型。「天工3.0」在语义理解、逻辑推理、通用性、泛化性、不确定性知识、学习能力等领域拥有突破性的性能提升,数学/推理/代码/文创能力提升超过30%。 (天工3.0模型参数超越Grok-1,成全球最大开源MoE...……更多
【多彩新论】贵州美食又“出圈”
民以食为天。最近,一篇《火遍北上广,贵州菜今年真的没对手了》的新闻颇受关注,文章开头这样写道:今年夏天,贵州的超绝“松弛感”爆火,成为暑期档第一避暑大省。在全国范围内,贵州菜却快速“出走”,成为人气...……更多
李彦宏发布文心大模型4.0工具版,推理成本降到1%
...练效率提升到了原来的5.1倍,周均训练有效率达到98.8%,推理性能提升了105倍,推理的成本降到了原来的1%。“也就是说,客户原来一天调用1万次,同样成本之下,现在一天可以调用100万次。”此外,李彦宏在演讲中分享了百度...……更多
腾讯推出 Hunyuan-Large 开源大模型
...2B-Instruct和Hunyuan-A52B-Instruct-FP8。并发布了技术报告和训练推理操作手册,详细介绍了模型能力和训练与推理的操作。其中模型技术优势如下:高质量合成数据:通过合成数据增强训练,Hunyuan-Large能够学习到更丰富的表示,处理...……更多
安兔兔评测pc版正式发布,欢迎大家下载体验
...行效率进行评估,小到简单的数学运算,大到复杂的逻辑推理和大语言模型问答等多个方面,更加全面地展现CPU在不同AI应用中的表现。由于CPU属于计算机的核心部件,所以在AI处理中起着至关重要的作用。GPU测试部分,与CPU的...……更多
大模型重构生命科学!最大基础模型面世,解锁DNA超长序列
...,从跨模态预训练、到下游任务的微调都可以完成。而在推理端,他们为该领域量身定制地打造了生物与AI融合的计算引擎。这个值得说道说道。因为在我们日常大模型语境中,可能只需要针对AI模型本身进行推理优化,就能在...……更多
腾讯开源最大MoE大语言模型!3D大模型同时支持文/图生成,晒混元模型及应用全家桶
...型,MoE模型在相同成本下效果更优,在相同规模下训练/推理成本更低,而且容量大,可训练更多数据。当前MoE的挑战有训练稳定性差、专家负载不均衡等。 一些应对方案包括:1)Scaling Law探索,设计基于中小模型簇的MoE Scaling ...……更多
AMD发布最强AI芯片,对标英伟达Blackwell,2025年上市
...于 AMD CDNA 3 架构构建,旨在为涵盖基础模型训练、微调和推理等要求苛刻的 AI 任务提供性能和效率。AMD Instinct MI325X 加速器提供了业界领先的内存容量和带宽,256GB HBM3E 支持 6.0TB/s,比英伟达 H200 提供了高 1.8 倍的容量和 1.3 倍……更多
Bengio团队提出多模态新基准,直指Claude 3.5和GPT-4o弱点
...型开发的关键指导之一便是如何让机器像人类一样思考和推理。诸如注意力机制和思维链(Chain-of-Thought)等技术正是由此产生的灵感。然而,可能很多人并没有意识到,很多对人类来说很简单的认知任务也往往伴随着非常复杂...……更多
...语言模型之外的其他技术。例如,解决数学问题需要逻辑推理,而目前大多数AI模型都不擅长逻辑推理。鉴于此,谷歌深度思维公司开发出AlphaGeometr,将语言模型与符号引擎(使用符号和逻辑规则进行推理)相结合,构建出一种神...……更多
苹果让大模型学会偷懒:更快吐出第一个token,准确度还保住了
...小的 8B 版本可能也依然会有明显延迟。为了提升模型的推理效率,研究者想出了多种多样的方法,但其中很多都会让模型牺牲一些准确度。近日,苹果和 Meta AI 的一个研究团队提出了一种新方法,可在保证准确度不明显下降的...……更多
四月AI芯片三连发,英伟达:无惧竞争!
...接竞争。在AI模型算力中,Gaudi3AI芯片的模型训练速度、推理速度都更出色,分别提升了40%和50%,平均性能提升达到了50%,能效更是提高了40%。更重要的是,Gaudi3AI芯片的成本比H100更低,妥妥的性能更强,价格更低。▲IntelGaudi3VSN...……更多
英伟达深夜炸场,世界最强AI芯片H200震撼发布,性能飙升90%
...,这两款芯片还是互相兼容的。这意味着,使用H100训练/推理模型的企业,可以无缝更换成最新的H200。全世界的AI公司都陷入算力荒,英伟达的GPU已经千金难求。英伟达此前也表示,两年一发布的架构节奏将转变为一年一发布。 ...……更多
推理成本直降99%!百川智能「1+3」矩阵揭秘,两张4090玩转旗舰新模型
...」。模型升级:Baichuan4-Turbo两张4090即可部署,Baichuan4-Air推理成本下降99%接下来,如何将Baichuan4-Turbo、Baichuan4-Air应用在实际场景中?从名字中不难看出,它们都是Baichuan 4系列基础模型的升级。对于企业来说,在不同场景阶段……更多
神仙打架!谷歌新款大模型Gemini 和GPT-4谁能笑到最后?丨科技观察
...。谷歌表示,现有的人工智能模型通常只处理一种类型的推理,如图片或文本,而 Gemini 的设计是“多模式”的。这意味着它接受包括多种媒体类型的输入,组合文本、图像、音频、视频和编程代码。未来,谷歌还计划将 Gemini添...……更多
腾讯发布最大开源MoE模型,3890亿参数免费可商用
...含四个主要任务:信息抽取、信息定位、定性分析和数值推理。不同于现有的长文本基准测试,”企鹅卷轴”有以下几个优势:数据多样性:”企鹅卷轴”包含了各种真实场景下的长文本,如财务报告、法律文档、学术论文等,...……更多
算力浪费超50%!百度AI计算部负责人拆解大模型时代的算力成本
...利用率目前,主流模型训练存在以下4个劣势。首先在线推理或计算任务当中,系统在峰值负载时的性能是平均负载时的3倍。这意味着系统在设计时预留了较多的算力以应对峰值。但AI集群的波峰和波谷其实较为明显,这也造成...……更多
清华开源混合精度推理系统MixQ:大模型近无损量化并提升推理吞吐
一键部署LLM混合精度推理,端到端吞吐比AWQ最大提升6倍!清华大学计算机系PACMAN实验室发布开源混合精度推理系统——MixQ。MixQ支持8比特和4比特混合精度推理,可实现近无损的量化部署并提升推理的吞吐。△图1 MixQ吞吐与已有...……更多
手机市场深陷泥沼,厂商如何破冰?
...4位量化技术,实现精度不掉点效果下更优的性能,通过推理引擎的加速,以及芯片硬件加速的方式,更是成为行业首个端侧应用的70亿参数的模型。基于来自端侧的70亿大模型参数,FindX7能够实现比其他手机更快速的大模型响应...……更多
更多关于财经的资讯:
南向与外资双流入助推港股交投热度 机构建议布局科技有色等3大主线
财联社9月23日讯(编辑 胡家荣)近日港股市场持续调整,对此招商证券指出,美联储降息"靴子落地"后,市场可能迎来震荡加剧
2025-09-23 14:21:00
让服务无微不“智”!新华保险升级“AI+”服务应用场景
今年8月,《国务院关于深入实施 “人工智能+”行动的意见》重磅发布,为各行业与人工智能深度融合指明方向。作为金融保险业的践行者
2025-09-23 21:31:00
建行贵州省分行以多维金融服务护航产业园高质量发展
低利率环境持续挤压传统盈利空间,探索内涵式增长、提升综合服务效能成为高质量发展的必由之路。建行贵州省分行深耕“跳出传统‘存贷利差’依赖”关键课题
2025-09-23 18:09:00
农行济南滨河支行:上门服务暖人心,特殊客户“零跑腿”办成事
“真是太感谢你们了,没想到这么快就上门帮我办好了银行卡,解决了我的大麻烦!”9月12日,在济南一家医院住院的市民王大娘对农行济南滨河支行的两名工作人员连声道谢
2025-09-23 15:52:00
河北唐廊高速公路公司登记成立,注册资本约18亿
近日,河北唐廊高速公路有限公司成立,法定代表人为智韶宇,注册资本约为17.96亿元,经营范围包含:休闲观光活动;交通安全
2025-09-23 13:48:00
超图软件成立数商技术公司,含AI相关业务
近日,上海图贤数商技术有限公司成立,法定代表人为卢长浩,经营范围包含:互联网数据服务;大数据服务;人工智能基础软件开发;人工智能应用软件开发;人工智能公共数据平台等。企查查股权穿
2025-09-23 13:48:00
正泰电器新设科技公司,含智能机器人业务
近日,浙江正泰云飞科技有限公司成立,法定代表人为卢凯,注册资本为1000万元,经营范围包含:智能机器人的研发;智能无人飞行器制造
2025-09-23 13:48:00
东华软件在西藏成立科技公司,注册资本2亿元
近日,西藏东华云都科技有限公司成立,法定代表人为陈玉峰,注册资本为2亿元,经营范围包含:物联网应用服务;互联网数据服务
2025-09-23 13:48:00
大族激光在东莞成立锂电科技公司
近日,东莞市大族锂电科技有限公司成立,法定代表人为王瑾,注册资本为3000万元,经营范围包含:电池制造;电池销售;储能技术服务
2025-09-23 13:48:00
警银联动织密网格!民生银行遵义二级分行筑牢社区金融安全屏障
在2025年金融宣传周及2025年国家网络安全宣传周期间,民生银行遵义二级分行联合遵义市上海路街道办事处、上海路派出所及荷花池社区
2025-09-23 13:51:00
中国民生银行毕节二级分行联合中国人民银行毕节市分行开展主题党日活动
为深入推进党建与业务深度融合,强化金融服务实体经济能力,9月17日,中国民生银行毕节二级分行各党支部与中国人民银行毕节市分行第一党支部
2025-09-23 13:52:00
中国民生银行遵义二级分行走进遵义新蒲老街开展存款保险宣传活动
2025年《存款保险条例》施行十周年之际,为切实保护存款人和银行机构合法权益,进一步提升存款保险公众认知度,9月12日
2025-09-23 13:52:00
宝石要精加工,反洗钱更要“精”加工——贵州银行黔东南分行开展警惕贵金属宝石交易洗钱陷阱宣传培训
为切实提升贵金属、宝石从业机构的风险防范意识与履职能力,贵州银行黔东南分行于近期精心组织辖内各支行,面向有业务往来的贵金属
2025-09-23 13:52:00
保障金融权益 助力美好生活 平安产险汤阴支公司开展金融知识进乡村活动
大河网讯 为认真贯彻落实《关于开展2025年金融教育宣传周活动的通知》要求,落实国家金融监管总局、中国人民银行、中国证监会联合开展的金融教育宣传周工作部署
2025-09-23 11:59:00
济南天桥农行积极为新入职员工上好“安全生产第一课”护航新员工职业发展
为进一步强化新入职员工安全生产意识,有效提升风险防范及应急处置能力。济南天桥农行因地制宜,精心开展新入职员工“安全生产第一课”教育
2025-09-23 10:12:00