• 我的订阅
  • 头条热搜
面壁智能发布2B模型:适配主流手机,推理成本仅为GPT-4的1/360 | 最前线
...发布了训练数据规模近1T、参数规模仅2B的模型:聚焦于适配端侧硬件的端侧大模型MiniCPM-2B。为什么瞄准端侧场景?李大海给出的理由,仍然是旺盛的市场需求,和云端协同的部署趋势。自2023年下半年起,三星、华为、小米、特...……更多
...高推理成本、高资源占用这“三高”,以及算力层的硬件适配,一直是困扰模型落地的最后一公里。尤其在AI+消费级硬件成为行业趋势的当下,如何让大模型在有限算力的终端设备上跑起来,也成为不少终端厂商亟需解决的难题...……更多
“智算融合 共创未来”——开普云AI战略暨新产品发布会召开
...制条件,提高视频内容生成的一致性和可控性; 5.算力适配通用化,在模型推理运行方面,针对重点行业客户应用,与多家国内外算力厂商的产品适配,形成了算力模型一体化产品; 6.模型进步持续化,为保障技术的持续领先...……更多
...完成底层芯片到上层操作系统及应用开发的软硬一体深度适配;能够在较低的功耗下运行且适合电池供电的移动设备;有电子围栏技术感知周围的场景。端侧模型也需要链接智能音箱、安全监控、自动化家居控制系统等,提供更...……更多
...初期聚焦于SpiritX智算操作系统的自主研发。该系统不仅适配国内主流GPU(图形处理器)厂商,通过调度算法优化、算子优化、集群网络优化提升国产GPU在大模型训练与推理场景中的性能,还能够适配国内外主流开源、商用大模...……更多
国产GPU为底座,摩尔线程首个千卡智算中心落地
...一体化大模型解决方案,积极与广泛的生态伙伴开展兼容适配及技术调优等工作,共同推动国产大模型生态的全面繁荣。在最后的圆桌对话环节,摩尔线程副总裁董龙飞与中能建绿色数字科技(中卫)有限公司董事长墙虎、智谱...……更多
商汤科技sensetime推出“云端边”全栈大模型体系
...话时表示:“商汤的云边端全栈组合,可以很好地赋能和适配小米物联网生态。我们希望与商汤共同为我们的用户打造更具智能化的产品体验。”左为小米集团小爱总经理王刚,右为商汤科技联合创始人、首席科学家王晓刚此外...……更多
跨越算力鸿沟丨星凡科技2024AI算力集群产品发布会圆满成功
...三重使能平台,帮助大模型开发者解决国产芯片性能低、适配难,开发成本高、难度大等一揽子问题。1.神机AIOS致力于打造国内首个算力中心运营全场景AGI,通过Agent自然语言交互智能帮助开发者极简极低打造行业大模型,减少...……更多
GPU受限,国内AI大模型能否交出自己的答卷?
...芯片尚需生态支撑事实上,比起硬件性能上的差异,软件适配与兼容让国内客户接受更难。当大模型和应用层面的竞争拉响,从商业角度思考,采用国产AI芯片参战并不是好的选择。从硬件性能上,使用国产AI芯片计算会比采用...……更多
PC迎来AI时刻,英特尔、微软、联想等纷纷布局,产品价格将迎上涨
...一代的8倍,可在PC上实现高能效的AI加速和本地推理,并适配超过10款国产大模型。英特尔的老对手AMD则抢先一步,上周发布Ryzen 8040系列处理器。该处理器集成了升级的专用AI引擎NPU,算力为16TOPS,AI性能相比上一代提升60%,支持...……更多
...算效率和算力开销两大问题成为新的行业焦点。对大模型推理成本的优化,可通过很多技术手段实现。首先是模型本身,模型结构、训练方法都可以持续改进,包括业界很关注的MoE(混合专家模型),就是优化推理成本很好的解决...……更多
百川智能、阿里云等进入开源大模型领域,开启商业化前奏
...用于自身业务优化并对外开放合作。 大模型分为训练和推理两个过程,前者将大模型训练成型,后者即为应用。由于训练大模型需极大算力,开发成本高昂,业界多有关于不需“重复造轮”的讨论。例如,入场做大模型后,百...……更多
联想王传东:2027年AI PC将成为市场主流
...下也能使用;第三,更低的大模型使用成本,以本地免费推理为主、以云端公共推理为辅,一次性购买AIPC即可享受全生命周期的本地免费推理服务;第四,可信、安全的个人数据和隐私保障,个性化本地知识库、隐私数据的本...……更多
突破遥感基础模型关键技术!我国科研人员研发出遥感智能训推一体机
...多个边缘场景低成本灵活部署。在自主创新方面,一体机适配了昇腾AI环境与昇思MindSpore框架,实现了软硬一体的自主创新。“空天·灵犀”遥感智能训推一体机搭载的高精度、高时效轻量化基础模型,能够在自然资源、交通住...……更多
空天信息+人工智能 中国科研团队成功研发遥感智能训推一体机
...。在自主创新方面,“空天·灵犀”遥感智能训推一体机适配昇腾人工智能环境与昇思人工智能计算框架(MindSpore),实现软硬一体。中国科学院空天院赛博智能团队透露,未来,基于昇腾人工智能的“空天·灵犀”遥感智能训推一...……更多
对话云天励飞董事长陈宁:2030年人类将实现AGI,推理芯片将是蓝海市场|钛媒体AGI
...芯片DeepEdge10 Max创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载10亿级SAM、百亿级Llama2等大模型运算,可广泛应用于AIoT边缘视频、移动机器人等场景。据介绍,“深目”AI模盒内置的自研多模态大模型“云天天书”,包含...……更多
“整活”保险业务,AI大模型哪家强?
...,保险业也不例外。号称神通广大的AI大模型能否完美“适配”保险行业?10月10日发布的《人工智能大模型保险行业应用评测报告》(以下简称《报告》)便揭晓了答案。根据《报告》,10个主流大模型在知识问答领域表现普遍...……更多
林达华谈大模型发展之路:未来会有更高效的模型结构出现
...模型的上下文长度快速增长,超长上下文解锁新应用,但推理计算代价高昂,上下文本身对于信息不会进行压缩,不能直接捕捉其中的深层知识和规律。上海人工智能实验室领军科学家林达华。过去一年,人工智能领域风起云涌...……更多
芯片战场丨瞄准大模型 摩尔线程首个千卡智算中心落地
...体化的GPU智算系统整合能力的考验,GPU分布式计算系统的适配、算力集群的管理和高效推理引擎的应用等,都是提高算力中心可用性的重要因素。而国产智算中心的发展,更是依托于将各方需求和优势充分融合,产业聚力才能实...……更多
摆脱Transformer依赖?这家AI初创公司推出国内首个非Attention机制大模型
...能效果——记忆能力提升3倍、速度提升7倍的同时,实现推理吞吐量的5倍提升。 至于为何另辟蹊径,寻求非Transformer的大模型路径,岩芯数智CEO刘凡平指出,以大规模著称的Transformer,在实际应用中的高算力和高成本,让不少中...……更多
字节跳动豆包大模型发布,火山引擎全栈AI服务助力企业智能化转型
...系列可精调,具备更强的理解、生成、逻辑等综合能力,适配问答、总结、创作、分类等丰富场景;豆包通用模型lite:字节跳动自研LLM模型轻量版,对比专业版提供更低token 成本、更低延迟,为企业提供灵活经济的模型选择;...……更多
工业互联智能创新中心在两江协同创新区成立
...入式数据采集器支持多种主流工业协议及数据模型的智能适配,能提供统一设备监控平台以及边端智能数据采集器,可大幅降低数据采集和分析的开发成本和维护成本。目前,该系统已在某汽车主机厂应用,使物流设备异常率降...……更多
百川智能发布baichuan3稳定语言模型
...处理和代码生成领域的强大实力。不仅如此,其在对逻辑推理能力及专业性要求极高的MCMLE、MedExam、CMExam等权威医疗评测上的中文效果同样超过了GPT-4,是中文医疗任务表现最佳的大模型。Baichuan3还突破“迭代式强化学习”技术...……更多
阿里云通义千问主力模型价格直降97%,大模型商业化拐点已至
...大模型性能逐渐提升,AI应用创新正进入密集探索期,但推理成本过高依然是制约大模型规模化应用的关键因素。云厂商的降价策略,不仅是对当前市场的一次重大推动,更是对未来商业智能化转型的一次深远布局。阿里云智能...……更多
联想王传东:AI PC重塑产业生态 新应用崛起
...施方面,联想在中国已完成绝大多数GPU技术的产品布局或适配,初步形成全栈AI服务器产品矩阵,并连同先进存储、数据网络、超融合、高性能计算以及正在开发的异构算力调度平台,能够为客户提供先进智算中心解决方案,同...……更多
面壁智能的端侧大模型面壁MiniCPM正式亮相
...大的底层支撑,先是算力方面,凭借全流程高效infra10倍推理加速,能够将成本降低90%;其次在算法方面,面壁模型通过高效模型训练配置实现模型能力快速形成;数据处理方面,凭借现代化数据工厂形成从数据治理到多维评测...……更多
天数智芯发布通用 GPU 推理产品智铠 100
...‘铠’来”全新通用 GPU 产品线上发布会,推出通用 GPU 推理产品“智铠 100”及其 AI 应用案例。天数智芯总裁盖鲁江表示,智铠 100 是继天垓 100 后天数智芯正式向市场推出的第二款产品,标志着天数智芯成为国内唯一拥有云边...……更多
2022-12-21 01:02天数,推理,产品
2024惠普商用ai战略暨aipc新品发布会在京举行
...全链路工具能力。同时,基于和惠普Z系列工作站的全栈适配,一体机可提供主流大模型的一键上架和部署推理,此外,一体机还可预装标准的大模型场景应用,用户开箱即可使用。惠普Z系列药物计算AI一体机:惠普Z系列药物计...……更多
大模型降价背后,国产大模型的竞争逻辑变了
...市场拱手让人。另一方面,随着大模型产业的快速发展,推理成本飞速下降,也成为终端降价的基础。据百度官方透露,相比一年前,文心大模型的算法训练效率提升到了原来的5.1倍,周均训练有效率达到98.8%,推理性能提升了1...……更多
对话深势科技:合成数据是科学领域大模型非常重要的数据来源 | 年度AI对话
...也可以融合所有数据做一个大模型,再针对不同的场景做适配数字时氪:目前的模型是否需要根据制药、材料等使用场景进行定向研发?深势科技:刚刚提到的几种行业,背后的数据都可以抽象成同一类,建模的时候都可以看作...……更多
更多关于科技的资讯:
《剑星》全球销量破百万 有意推出PC端版本
据媒体报道,《剑星》厂商Shift Up在当地时间6月25日举行的IPO发布会上正式宣布, 本作全球销量正式突破100万份
2024-06-25 16:36:00
浙大录取通知书亮相:借鉴《四库全书》装帧 还藏了盏“灯”
快科技6月25日消息,浙江大学官方晒出了2024年本科录取通知书,一起来围观下。今年的本科录取通知书以长画卷的形式铺开录取通知书
2024-06-25 16:21:00
8999元 联想YOGA Air 14c AI元启翻转本发布:新一代天工铰链
快科技6月25日消息,联想YOGA Air 14c AI元启翻转本今日正式发布,首发8999元。据悉,新款笔记本搭载酷睿Ultra 7 155H处理器
2024-06-25 16:21:00
5月SUV销量完整版榜单公布:自主品牌前十占六、问界M9一枝独秀
快科技6月25日消息,近日,中汽数研发布了“2024年5月SUV销量完整版”榜单,前十名中自主品牌占据了六名,其中均价55万的问界M9更是一枝独秀
2024-06-25 16:21:00
装保网2023年终总结,不断更新创新发展模式洞悉市场变化!
时光荏苒,新岁将至回首2023努力有迹可循成长稳扎稳打这一年充满希望追逐梦想装保网稳中有进依靠全体装保人的努力以及商家业主的支持和信赖书写了企业发展的新篇章关键词01
2024-06-25 16:15:00
女子不知浙江高速拖车免费 事故后网上找拖车被骗650元
快科技6月25日消息,据国内媒体报道,一女车主在浙江高速上发生道路交通事故后,不知道浙江高速拖车免费,被骗走了650元拖车费
2024-06-25 16:36:00
装保网靠不靠谱?出单即签单,装企不用再卷价格也能爆单咨询!
装保网是客户在互联网上寻求家装服务的优选平台。在装修用户以及合作装修公司最关注的方面,表现都的很出色。首先对装修用户的保障方面
2024-06-25 16:17:00
800V技术上车!极氪CX1E伪装车曝光:年内首发
快科技6月25日消息,最近,一组极氪CX1E的谍照在社交平台上曝光,这款SUV基于与极氪007相同的平台,预计会搭载800伏高压技术
2024-06-25 16:36:00
与奥运同行、与五环同辉——云奥数字运动会启动仪式在京举行
2024年6月23日中国广电体育赛事频道战略合作暨云奥数字运动会启动仪式在北京国家奥林匹克体育中心盛大召开。此次活动以“与奥运同行
2024-06-25 16:24:00
喜报丨装保网荣获“国家高新技术企业”认定!
不久前,全国高新技术企业认定管理工作领导小组办公室发布了《对厦门市认定机构2023年认定报备的第一批高新技术企业拟进行备案的公示》
2024-06-25 16:33:00
麦克风哪个品牌音质最好,领夹麦克风十大品牌排行榜
随着科技的不断进步,无线领夹麦克风在各类场合都展现出强大实力。无论是直播、采访还是教学,无线领夹麦克风都成为媒体人创作的重要工具
2024-06-25 16:27:00
曾毓群回应卷王称呼:宁德时代最不做的就是价格竞争
快科技6月25日消息,在今天的夏季达沃斯论坛上,宁德时代董事长曾毓群对外界给予的“卷王”称呼进行了回应。曾毓群表示:“不存在什么叫卷王
2024-06-25 16:36:00
曲面屏+大电池只要1399元!moto S50 Neo图赏
快科技6月25日消息,今天下午,moto S50 Neo正式发布,起售价只要1399元。现在这款手机已经来到我们评测室
2024-06-25 16:36:00
中国移动联合国际运营商启动“牵手计划”新合作
6月25日,在2024年世界移动通信大会(MWC上海)期间,中国移动举办了以“牵手与共,智赴未来”为主题的“牵手计划”(hi-HProgram)全球合作伙伴大会
2024-06-25 16:45:00
OnePark海外版亮相MWC上海全球合作伙伴大会 开启海外园区发展新里程
6月25日,2024年世界移动通信大会·上海(MWC上海)中国移动牵手计划全球运营商合作伙伴大会在上海隆重开幕。本次大会以“凝心聚力
2024-06-25 17:15:00