• 我的订阅
  • 头条热搜
面壁智能发布2B模型:适配主流手机,推理成本仅为GPT-4的1/360 | 最前线
...发布了训练数据规模近1T、参数规模仅2B的模型:聚焦于适配端侧硬件的端侧大模型MiniCPM-2B。为什么瞄准端侧场景?李大海给出的理由,仍然是旺盛的市场需求,和云端协同的部署趋势。自2023年下半年起,三星、华为、小米、特...……更多
国产GPU为底座,摩尔线程首个千卡智算中心落地
...一体化大模型解决方案,积极与广泛的生态伙伴开展兼容适配及技术调优等工作,共同推动国产大模型生态的全面繁荣。在最后的圆桌对话环节,摩尔线程副总裁董龙飞与中能建绿色数字科技(中卫)有限公司董事长墙虎、智谱...……更多
PC迎来AI时刻,英特尔、微软、联想等纷纷布局,产品价格将迎上涨
...一代的8倍,可在PC上实现高能效的AI加速和本地推理,并适配超过10款国产大模型。英特尔的老对手AMD则抢先一步,上周发布Ryzen 8040系列处理器。该处理器集成了升级的专用AI引擎NPU,算力为16TOPS,AI性能相比上一代提升60%,支持...……更多
百川智能、阿里云等进入开源大模型领域,开启商业化前奏
...用于自身业务优化并对外开放合作。 大模型分为训练和推理两个过程,前者将大模型训练成型,后者即为应用。由于训练大模型需极大算力,开发成本高昂,业界多有关于不需“重复造轮”的讨论。例如,入场做大模型后,百...……更多
联想王传东:2027年AI PC将成为市场主流
...下也能使用;第三,更低的大模型使用成本,以本地免费推理为主、以云端公共推理为辅,一次性购买AIPC即可享受全生命周期的本地免费推理服务;第四,可信、安全的个人数据和隐私保障,个性化本地知识库、隐私数据的本...……更多
突破遥感基础模型关键技术!我国科研人员研发出遥感智能训推一体机
...多个边缘场景低成本灵活部署。在自主创新方面,一体机适配了昇腾AI环境与昇思MindSpore框架,实现了软硬一体的自主创新。“空天·灵犀”遥感智能训推一体机搭载的高精度、高时效轻量化基础模型,能够在自然资源、交通住...……更多
空天信息+人工智能 中国科研团队成功研发遥感智能训推一体机
...。在自主创新方面,“空天·灵犀”遥感智能训推一体机适配昇腾人工智能环境与昇思人工智能计算框架(MindSpore),实现软硬一体。中国科学院空天院赛博智能团队透露,未来,基于昇腾人工智能的“空天·灵犀”遥感智能训推一...……更多
“整活”保险业务,AI大模型哪家强?
...,保险业也不例外。号称神通广大的AI大模型能否完美“适配”保险行业?10月10日发布的《人工智能大模型保险行业应用评测报告》(以下简称《报告》)便揭晓了答案。根据《报告》,10个主流大模型在知识问答领域表现普遍...……更多
林达华谈大模型发展之路:未来会有更高效的模型结构出现
...模型的上下文长度快速增长,超长上下文解锁新应用,但推理计算代价高昂,上下文本身对于信息不会进行压缩,不能直接捕捉其中的深层知识和规律。上海人工智能实验室领军科学家林达华。过去一年,人工智能领域风起云涌...……更多
芯片战场丨瞄准大模型 摩尔线程首个千卡智算中心落地
...体化的GPU智算系统整合能力的考验,GPU分布式计算系统的适配、算力集群的管理和高效推理引擎的应用等,都是提高算力中心可用性的重要因素。而国产智算中心的发展,更是依托于将各方需求和优势充分融合,产业聚力才能实...……更多
摆脱Transformer依赖?这家AI初创公司推出国内首个非Attention机制大模型
...能效果——记忆能力提升3倍、速度提升7倍的同时,实现推理吞吐量的5倍提升。 至于为何另辟蹊径,寻求非Transformer的大模型路径,岩芯数智CEO刘凡平指出,以大规模著称的Transformer,在实际应用中的高算力和高成本,让不少中...……更多
百川智能发布baichuan3稳定语言模型
...处理和代码生成领域的强大实力。不仅如此,其在对逻辑推理能力及专业性要求极高的MCMLE、MedExam、CMExam等权威医疗评测上的中文效果同样超过了GPT-4,是中文医疗任务表现最佳的大模型。Baichuan3还突破“迭代式强化学习”技术...……更多
联想王传东:AI PC重塑产业生态 新应用崛起
...施方面,联想在中国已完成绝大多数GPU技术的产品布局或适配,初步形成全栈AI服务器产品矩阵,并连同先进存储、数据网络、超融合、高性能计算以及正在开发的异构算力调度平台,能够为客户提供先进智算中心解决方案,同...……更多
面壁智能的端侧大模型面壁MiniCPM正式亮相
...大的底层支撑,先是算力方面,凭借全流程高效infra10倍推理加速,能够将成本降低90%;其次在算法方面,面壁模型通过高效模型训练配置实现模型能力快速形成;数据处理方面,凭借现代化数据工厂形成从数据治理到多维评测...……更多
...研芯片DeepEdge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Llama2等百亿级大模型运算,可广泛应用于AIoT边缘视频、移动机器人等场景。(小标题)已创新打造系列化芯片目前,全球边缘计算的市场价值呈...……更多
掰开安卓手机 满屏都是三个字:大模型
...上做好准备。首先,需要先增强智能终端对不同大模型的适配能力,即使是架构算法存在差异也同样能装进手机。即使最新大模型体积超出预期,也要能确保在不影响性能的情况下,将之应用到智能终端。这里依旧以高通为例。...……更多
...终端CPU芯片,即使是发布多年的老款机器也能流畅运行,推理成本仅为国际同行的百分之一。据悉,面壁智能核心技术团队源于清华NLP实验室,是在国内较早开展大模型研究的团队之一,是2020年12月“悟道”大模型首发的主力团...……更多
AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
...美国人工智能初创公司Groq最新推出的面向云端大模型的推理芯片引发了业内的广泛关注。其最具特色之处在于,采用了全新的Tensor Streaming Architecture (TSA) 架构,以及拥有超高带宽的SRAM,从而使得其对于大模型的推理速度提高了1...……更多
中国也有Sora同款训练架构公司,清华班底,智谱也投了 | 36氪首发
...去年团队花了近一个月的时间做完了华为昇腾训练架构的适配,芯片的国产替代帮助节省了不少成本。目前,生数科技采取的是To B和To C两条腿走路的商业化模式:对B端提供MaaS服务,对C端提供多模态生成应用。目前,生数科技...……更多
智启新元年:PC成为AI落地首选终端
...了具备高性能计算能力的通用加速芯片,是大模型训练、推理的主要算力来源;云计算的发展和普及,则使软硬件充分解耦,大模型开发者可以以相对低的成本调用大规模的算力、存储和网络资源,开发进程大大加快;同时,Tra...……更多
昇思MindSpore 2.3全新发布
...专项技术支持和市场联合推广,支持更多伙伴从昇思迁移适配走向原生开发;昇思开源社区实习活动,通过代码实践,让开发者真正的实践成长。颁发昇思MindSpore杰出贡献导师和开发者作为Gitee-国内第一大开源代码托管平台,开...……更多
大模型推理乘上RISC-V快车?国内AI芯片创企推大模型系列一体机
...格以外,还由于其具备良好的可编程性,可以更加快速地适配各类不同参数的大模型,针对新衍生的不同模型结构、算子实现快速优化升级。除此以外,为了适应大模型推理的需求,希姆计算还从系统层面进行提升,通过服务器...……更多
让AI无处不在 高通全面开启终端侧生成式AI大门
...效提升了40%。Hexagon NPU集成了硬件加速单元、微型区块推理单元、性能加强的张量/标量/矢量单元,同时所有单元共享2倍带宽的大容量共享内存。 这意味着用户在搭载第三代骁龙8的设备上可以按照自己的需要自由生成类似于...……更多
当AI大模型卷向服务机器人,会有哪些新故事?|硬氪分析
...莫拉维克悖论提出,和传统假设不同,计算机要实现例如推理等人类所具备的高阶智慧、仅需少量的计算能力,而若要直觉、感知等能力,却需要巨大的运算能力。 简单来说,电脑可以在和人类围棋对弈中轻松取胜,但如果让...……更多
...将算网能力与大模型算法相结合,实现算力、算法的高效适配,提供多要素融合、跨能力融通、弹性按需的一体化服务,灵活支撑“图-文-音”等全模态应用,高效适配行业场景、服务CHBG全向客户。一方面,在通用模型基础能力...……更多
PC正在经历AI时代 下一代Windows 12将是AI PC的完美载体
...态下也能使用;第三,降低大模型使用成本,在本地免费推理为主,云端公共推理为辅的情况下,一次购买AI PC即可享受全生命周期的本地免费推理服务;第四,提供可信、安全的个人数据和隐私保障,包括个性化本地知识库、...……更多
汽车产业驶入“智能时代”,京东云要成为汽车供应链的“水电煤”
...驶等创新应用发展,要求数字基础设施也具备混合多云、适配AI等能力。其次,汽车行业也亟需供应链金融疏通资金“血管”,实现产业各环节和金融机构的协同,而数据驱动的中台成为解决方案。软件定义汽车时代,数字设施...……更多
本周硅谷发生了什么?|苹果Vision Pro正式开售;Neuralink完成人类脑机接口植入;字节Coze国内版上线;
...4的1/3602月1日,面壁智能发布端侧大模型MiniCPM-2B,聚焦于适配端侧硬件,该模型训练数据规模近1T、参数规模仅2B。成本较低是2B模型的优势之一,目前MiniCPM-2B在CPU(比GPU计算吞吐量低)上就能跑起来,相较于用GPU才能运行的大...……更多
...链上下游企业参与,推动人工智能技术与煤矿应用系统的适配,提升煤矿智能化水平,同时建立公开透明的价格机制降低建设成本,推动煤炭行业数智化转型。承载该平台的智算中心是支撑煤炭工业互联网应用商城、矿山AI大模...……更多
大模型应用疯狂加速,洗牌却在静悄悄进行了
...计,实现大模型稀疏化、低精度量化的技术突破,能高效适配昇腾AI,加速大模型的行业落地应用和迭代;与此同时,以昇腾AI为核心,软硬件协同优化,构建算力集中、协同优化、供给稳定、数据安全的大模型训练集群,这些...……更多
更多关于科技的资讯:
中国小女孩向马斯克报BUG成功:后者一个单词回应
快科技7月1日消息,近日,一位名叫茉莉的中国小女孩录制了一段视频隔空喊话马斯克,向其报了一个特斯拉的Bug,获得了马斯克的回复
2024-07-01 22:12:00
细菌鞭毛马达:最不寻常的生物结构 质子动力每分钟10万转
如果您问什么生物结构最不像自然进化的,那应该就是细菌的鞭毛马达。大部分细菌都可以在需要的时候长出鞭毛,然后通过旋转鞭毛来移动自己
2024-07-01 22:12:00
“学界牵手业界” 以赛为媒共育医疗人才供应链
南海网7月1日消息(记者 符彩云) 第九届全国大学生生物医学工程创新设计竞赛将于7月22日至26日在海南三亚崖州湾科技城举办
2024-07-01 23:30:00
汽车界的小米 零跑汽车6月交付20116台 创历史新高
快科技7月1日消息,今天零跑汽车公布了2024年6月销售数据,6月交付达20116台,创历史新高!同比增长52.3%, 环比增长10
2024-07-01 22:42:00
2024过半!新造车KPI达成率出炉:全指望下半年了
卷营销、卷价格,甚至卷老板,今年上半年车企在内卷的赛道风驰电掣,市场的惨烈程度,我们历历在目:比亚迪开年“电比油低”,五菱吉利等纷纷跟进降价
2024-07-01 22:42:00
一次加氢可行驶200多公里!国内首列氢能源智轨电车装配下线
快科技7月1日消息,据央视新闻报道,今天国内首列氢能源智轨电车在宜宾智轨产业园装配下线。氢能源智轨电车由中车株洲所自主研制
2024-07-01 22:12:00
韩妹《妮姬:胜利女神》COS图赏:身材优势尽显
《NIKKE:胜利女神》这款游戏中,桃乐丝、苏打和毒蛇是备受玩家喜爱的角色。近日,一位韩国Coser“siru_0207”分享了她的最新作品
2024-07-01 22:42:00
迪士尼《白雪公主》真人电影终于拍完:黑雪公主自豪
迪士尼《白雪公主》真人电影现已结束拍摄工作,近日瑞秋·泽格勒分享了这一消息。她表示:“《白雪公主》已杀青,我感到非常自豪和激动
2024-07-01 22:42:00
路特斯CEO称绝不会加入价格战:会增加用户持有焦虑和购买顾虑
快科技7月1日消息,日前路特斯集团CEO冯擎峰近日在微博明确表示,作为定位百万级豪华纯电汽车品牌,路特斯不会参与价格战
2024-07-01 23:12:00
对话领袖 | 廖顺喜先生:企业家精神与慈善公益的践行者
为赋能全球杰出企业品牌,深入探索服务需求,助力企业解决发展中的挑战与难题,特推出【对话领袖】专访系列,邀请优秀创业领袖
2024-07-01 22:55:00
火锅店必点菜品:小酥肉一年卖出100亿元
快科技7月1日消息,去火锅店你必点的菜品是什么?很多网友给的答案不一,比如牛羊卷、虾滑、毛肚、土豆片、豆腐等,但可能你想到不到的是
2024-07-01 23:12:00
创菱科技电暖桌:引领智能健康取暖新时代
位于贵州省毕节市七星关区小坝镇新鑫科技产业园的创菱科技实业有限公司,自成立以来,专注于电暖桌的研发、制造和销售,是一家致力于科技创新与品质卓越的领先企业
2024-07-01 22:46:00
伊刻活泉现泡茶亮相FBIF2024,以科技创新重塑茶饮新体验
6月25日至27日,备受瞩目的FBIF 2024食品饮料创新论坛及FBIF食品创新展在国家会展中心(上海)举行。本次展会汇聚了全球食品饮料行业的嘉宾展商
2024-07-01 23:03:00
半年销售额达6亿余元,昌乐县借电商平台打造珠宝销售的黄金时代
王佳潼潍坊报道“我们抖音运营中心落户昌乐主要是因为当地有庞大的货源。”抖音运营中心总经理薛婷说,昌乐县的珠宝电商产业基础非常好
2024-07-01 23:05:00
虽然如今的智能手机都有原生的骚扰屏蔽功能,第三方应用也不少,但运营商所采用的云端拦截技术依然有其独特的作用。7月1日,北京商报记者注意到
2024-07-02 00:14:00