• 我的订阅
  • 头条热搜
谷歌发布gemma2大语言模型,共有两种大小
...亿参数(27B)两种大小。Gemma2大语言模型相比较第一代,推理性能更高、效率更高,并在安全性方面取得了重大进步。谷歌在新闻稿中表示,Gemma2-27B模型的性能媲美两倍规模的主流模型,而且只需要一片英伟达H100ensorCoreGPU或TPU...……更多
林达华谈大模型发展之路:未来会有更高效的模型结构出现
...模型的上下文长度快速增长,超长上下文解锁新应用,但推理计算代价高昂,上下文本身对于信息不会进行压缩,不能直接捕捉其中的深层知识和规律。上海人工智能实验室领军科学家林达华。过去一年,人工智能领域风起云涌...……更多
摩尔线程GPU适配超图软件大模型:打造国产地理空间AI
...型系列产品,经双方严格测试,顺利完成产品兼容认证。适配调优后的软件在摩尔线程GPU上整体运行稳定,性能卓越,为用户提供更为安全、稳定、可靠的保障。超图软件成立于1997年,是聚焦地理信息软件、空间智能领域的基...……更多
芯片战场丨瞄准大模型 摩尔线程首个千卡智算中心落地
...体化的GPU智算系统整合能力的考验,GPU分布式计算系统的适配、算力集群的管理和高效推理引擎的应用等,都是提高算力中心可用性的重要因素。而国产智算中心的发展,更是依托于将各方需求和优势充分融合,产业聚力才能实...……更多
Meta祭出三篇最详尽Llama微调指南!千字长文,0基础小白必备
...彻彻底底。这不,Meta一连放出三篇技术文章,从大模型适配方法出发,介绍了:如何使用特定领域数据微调LLM,如何确定微调适配自己的用例,以及如何管理良好训练数据集的经验法则。接下来,直接进入正题。适配大模型预...……更多
摆脱Transformer依赖?这家AI初创公司推出国内首个非Attention机制大模型
...能效果——记忆能力提升3倍、速度提升7倍的同时,实现推理吞吐量的5倍提升。 至于为何另辟蹊径,寻求非Transformer的大模型路径,岩芯数智CEO刘凡平指出,以大规模著称的Transformer,在实际应用中的高算力和高成本,让不少中...……更多
字节跳动豆包大模型发布,火山引擎全栈AI服务助力企业智能化转型
...系列可精调,具备更强的理解、生成、逻辑等综合能力,适配问答、总结、创作、分类等丰富场景;豆包通用模型lite:字节跳动自研LLM模型轻量版,对比专业版提供更低token 成本、更低延迟,为企业提供灵活经济的模型选择;...……更多
国产大模型第一梯队玩家,为什么pick了CPU?
...占绝对大头的因素——算力。 现在提及大模型的训练和推理,很多人的第一反应或许就是想到了GPU。诚然GPU在高性能上占据着一定的优势,但它所存在“硬伤”也是比较明显,那便是供应不足、价格昂贵。何以破局?国产大模...……更多
工业互联智能创新中心在两江协同创新区成立
...入式数据采集器支持多种主流工业协议及数据模型的智能适配,能提供统一设备监控平台以及边端智能数据采集器,可大幅降低数据采集和分析的开发成本和维护成本。目前,该系统已在某汽车主机厂应用,使物流设备异常率降...……更多
百川智能发布baichuan3稳定语言模型
...处理和代码生成领域的强大实力。不仅如此,其在对逻辑推理能力及专业性要求极高的MCMLE、MedExam、CMExam等权威医疗评测上的中文效果同样超过了GPT-4,是中文医疗任务表现最佳的大模型。Baichuan3还突破“迭代式强化学习”技术...……更多
《永劫无间》手游首次将具有18亿参数的大语言模型引入终端侧
...别准确率提升20%。智谱高通与智谱合作,为骁龙8至尊版适配优化 GLM-4V端侧视觉大模型,支持丰富的多模态交互方式。GLM-4V端侧视觉大模型能够实现令人惊叹的处理能力,以超过 70tokens/秒的速度在终端侧高速运行。此外通过与骁...……更多
大模型到了该「验收」的时候
...的大模型合作中,双方能够只基于少量提示样本就完成了适配业务场景的风控模型定制,相比于传统的建模方式,模型KS性能提升超过20%,跨场景泛化性测试性能提升了高达53%。此外,还有研发提效、办公协同等等场景,不一而...……更多
联想王传东:AI PC重塑产业生态 新应用崛起
...施方面,联想在中国已完成绝大多数GPU技术的产品布局或适配,初步形成全栈AI服务器产品矩阵,并连同先进存储、数据网络、超融合、高性能计算以及正在开发的异构算力调度平台,能够为客户提供先进智算中心解决方案,同...……更多
腾讯版“GPT-4o”来了!混元Turbo首发并上线,效率翻倍价格砍半
...片。同时,腾讯云还推动办公应用与国产软硬件生态系统适配。以腾讯会议为例,腾讯会议能够在国产基础设施之上,支持SaaS和混合云部署模式,能够有效兼顾内、外部沟通的灵活需求。基础软件之外,腾讯的系列自研应用软...……更多
阿里云通义千问主力模型价格直降97%,大模型商业化拐点已至
...大模型性能逐渐提升,AI应用创新正进入密集探索期,但推理成本过高依然是制约大模型规模化应用的关键因素。云厂商的降价策略,不仅是对当前市场的一次重大推动,更是对未来商业智能化转型的一次深远布局。阿里云智能...……更多
摩尔线程与360达成战略合作,将共同打造“360智脑大模型一体机”
...具竞争力的方案。360 大模型产品也已经与摩尔线程完成适配,基于摩尔线程夸娥(KUAE)千卡智算集群,360 集团已成功完成了 70 亿和 700 亿参数的大模型分布式训练任务。摩尔线程方面称,测试结果显示全程软硬件即插即用,集...……更多
面壁智能的端侧大模型面壁MiniCPM正式亮相
...大的底层支撑,先是算力方面,凭借全流程高效infra10倍推理加速,能够将成本降低90%;其次在算法方面,面壁模型通过高效模型训练配置实现模型能力快速形成;数据处理方面,凭借现代化数据工厂形成从数据治理到多维评测...……更多
商汤绝影在行业内率先实现了原生多模态大模型的车端部署
...扩展并支持主流车载计算硬件,兼容多种主流操作系统,适配多个车载芯片的部署平台。商汤绝影称HyperPPL 针对车载多人场景进行优化,使得车内多人并发情况下,车端多模态大模型的模型推理效率相比单人没有明显降低。据IT...……更多
阿里云挥出“三板斧”:免费也要挣到钱
...完成了通义千问大模型小尺寸版本的端侧部署,该部署可适配天玑 8300 移动平台,可实现离线状态下即时且精准的多轮人机对话问答。联发科相关负责人告诉时代周报记者,双方未来还将打造面向应用开发者和终端设备厂商的生...……更多
2024惠普商用ai战略暨aipc新品发布会在京举行
...全链路工具能力。同时,基于和惠普Z系列工作站的全栈适配,一体机可提供主流大模型的一键上架和部署推理,此外,一体机还可预装标准的大模型场景应用,用户开箱即可使用。惠普Z系列药物计算AI一体机:惠普Z系列药物计...……更多
大模型降价背后,国产大模型的竞争逻辑变了
...市场拱手让人。另一方面,随着大模型产业的快速发展,推理成本飞速下降,也成为终端降价的基础。据百度官方透露,相比一年前,文心大模型的算法训练效率提升到了原来的5.1倍,周均训练有效率达到98.8%,推理性能提升了1...……更多
商汤升级“日日新5.0”大模型,对标GPT-4Turbo
...用混合专家架构,超10TB tokens训练,覆盖大量合成数据,推理时上下文窗口达200K左右。云、端、边全栈大模型产品矩阵中,用于终端设备的“商汤端侧大模型”可满足各类终端用户对大模型技术的应用需求。“日日新5.0”和GPT-4...……更多
智能体不够聪明怎么办?清华&蚂蚁团队:让它像学徒一样持续学习
...出的巨大潜力,而这种潜力的核心基石正是智能体的复杂推理能力。与当下广受关注的 OpenAI-o1 及其追随者略有不同,大多数实用的 AI Agent 往往需要在特定场景下发挥作用。这种情况类似于普通人类:虽然不是每个人都需要具备...……更多
下一个OpenAI+微软?Anthropic将使用数十万枚亚马逊自研芯片
...有详细说明,该集群CPU芯片、高端的AI训练芯片、入门AI推理芯片的占比情况。如果“雷尼尔计划”落地,这意味着Anthropic将用上全球规模最大的AI算力集群中的其中一个。目前,包括微软、Meta等拥有自研大模型的科技公司,AI训...……更多
清华领衔发布多模态评估MultiTrust:GPT-4可信度有几何?
...应的数据集不仅基于公开的文本或图像数据集进行改造和适配,还通过人工收集或算法合成构造了部分更为复杂和具有挑战性的数据。图5 MultiTrust任务列表与大语言模型(LLMs)的可信评价不同,MLLM的多模态特征带来了更多样、...……更多
...研芯片DeepEdge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Llama2等百亿级大模型运算,可广泛应用于AIoT边缘视频、移动机器人等场景。(小标题)已创新打造系列化芯片目前,全球边缘计算的市场价值呈...……更多
史上最快AI芯片「Sohu」,速度10倍于B200,哈佛辍学生打造
...歌、Meta、微软、OpenAI、Anthropic 等各家的模型,未来还会适配模型调整。由于 Sohu 仅能运行一种算法,因此可以删除绝大多数控制流逻辑,从而允许拥有更多数学块。也因此,Sohu 实现了 90% 以上的 FLOPS 利用率,而使用 TRT-LLM 的 G...……更多
掰开安卓手机 满屏都是三个字:大模型
...上做好准备。首先,需要先增强智能终端对不同大模型的适配能力,即使是架构算法存在差异也同样能装进手机。即使最新大模型体积超出预期,也要能确保在不影响性能的情况下,将之应用到智能终端。这里依旧以高通为例。...……更多
CITE2024,昇腾硬核实力打造极致体验,宝德斩获创新大奖
...术实力与卓越创新实力。 展会现场,融合主流大模型和适配昇腾算力打造的AI训推一体机PR410EI、昇腾智能边缘小站PI300T、鲲鹏服务器PR210KT、盘古台式机PT620W等宝德自强®系列终端产品以及丰富的解决方案轮番上阵,技术交流声...……更多
加速落地 京东云大模型已支持数百个场景
...、性能、效果三者取得一个比较好的平衡点。京东云自研推理引擎,协同大小模型,为大模型产业落地提供最佳实践,如通过利用推测解码,用小模型辅助大模型进行推理,加速大模型推理速度,降低成本。在大模型应用开发上...……更多
更多关于科技的资讯:
周鸿祎批PPT无用:华丽掩盖了空洞!黄仁勋、马斯克都不用
快科技12月27日消息,360集团董事长周鸿祎昨日发布视频,谈到了自己为何特别反感只会“管理”的管理层,其表示:“我特别反感只打嘴炮或者不干活的管理层
2024-12-27 10:08:00
理想全新车机界面曝光:全屏展示智驾轨迹 科幻感十足
快科技12月27日消息,近日,一位博主展示了理想汽车最新的智能驾驶轨迹展示界面,揭示了其车机系统实现端到端驾驶状态的能力
2024-12-27 10:08:00
年底换机购机攻略:还得是年轻人专属华为“nova 13香”
不知不觉2024年马上就要结束了,不少人想趁年底换个新手机,但可能会纠结要选哪款,建议有需求的朋友可以考虑一下华为nova 13系列
2024-12-27 10:08:00
蔚来版“Model Y杀手”:乐道L60上市100天累计交付超20000台
快科技12月27日消息,乐道品牌公布首款车型乐道L60最新数据,其已达成上市100天累计交付超20000台的阶段目标。作为全新的品牌
2024-12-27 10:08:00
本文转自:人民网人民网记者 王绍绍从全球首款自动驾驶物流无人机的大规模商用,到基于AI的个性化药物研发平台的成功构建,再到智能物联网技术在智慧城市中的广泛应用……近年来
2024-12-27 10:31:00
华为首款百万级豪华轿车 尊界S800极寒测试:不怒自威
快科技12月27日消息,鸿蒙智行首款售价超百万的豪华轿车尊界S800已经亮相并开启预售,今日,官方发布了该车的最新官图
2024-12-27 10:38:00
AI的尽头是能源!奥特曼的核能公司Oklo签署重大合作协议
快科技12月27日消息,山姆·阿尔特曼(Sam Altman)的核能公司Oklo宣布了一项重大合作进展,Oklo在12月18日与美国数据中心巨头Switch签署了初步的非约束性协议
2024-12-27 10:38:00
戴先任随着近年来生成式人工智能技术的快速发展以及新职业的落地,与之相关的技能、人才培训市场也日渐火爆。不少培训机构纷纷推出人工智能相关课程
2024-12-27 10:38:00
2024年最后一款大作!网易国产武侠游戏《燕云十六声》PC今日正式公测
快科技12月27日消息,今日,2024年最后一款大作——网易旗下国产武侠游戏《燕云十六声》PC正式公测。官表示,过去几次测试中
2024-12-27 10:38:00
OPPO Find N5春季登场:首款骁龙8至尊版大折叠屏
快科技12月27日消息,OPPO周意保发文预热OPPO Find N5折叠屏,他表示,接下来Find系列的节奏会稳定下来
2024-12-27 10:38:00
索尼不明白《猎人克莱文》有什么不好
索尼影业首席执行官托尼不理解近期上映的《猎人克莱文》为何会失败,该片创下托尼职业生涯最糟糕首映票房。《猎人克莱文》本月14号在北美及中国大陆首映
2024-12-27 10:38:00
未来人类预告18寸巨无霸游戏本:192GB内存、奇特双网口
快科技12月27日消息,未来人类(TerransForce)官方宣布,即将推出一款18寸的巨型游戏本,会配备4K屏幕、192GB内存
2024-12-27 10:38:00
电梯加装背后的成本——项目审计费用知多少
当老旧小区迎来新生,电梯加装成为热议话题,你是否好奇这一改造项目的背后,除了电梯本身的费用,还有哪些隐藏的成本?今天,我们就来聊聊电梯加装中不可或缺的一环——项目审计费用
2024-12-27 10:40:00
齐鲁晚报·齐鲁壹点 于民星数字化时代,人工智能浪潮席卷全球,重塑各个行业格局,成为推动时代进步的重要引擎。工信部成立人工智能标准化技术委员会
2024-12-27 10:44:00
济南市家电圈大事件:海尔聪明风空调震撼发布!
鲁网12月27日讯在这个寒风凛冽的冬日里,济南市家电圈迎来了一场前所未有的盛事!2024年12月25日,所有家电商的精英们纷纷齐聚喜来登酒店
2024-12-27 10:44:00