• 我的订阅
  • 头条热搜
面壁智能发布2B模型:适配主流手机,推理成本仅为GPT-4的1/360 | 最前线
...在MMLU(多任务语言理解)、Knowledge(知识)、Reasoning(推理)、Comprehension(理解)等关键指标上均超越了Meta Llama 2的13B模型。这一个故事,在2024年2月1日的发布会上,也被AI模型层公司面壁智能的CEO李大海不断提起。对标Mistral..……更多
大模型“免费”送,厂商们图什么?
...,零一万物CEO李开复接受采访时表示:“未来整个行业的推理成本每年降低10倍是可以期待的,而且这个趋势是必然的。”未来,大模型的成本将呈阶梯状下探,但目前大模型的价格却断崖式下探,甚至部分企业免费送,降价幅...……更多
英特尔以全新软硬件助力千行百业释放AI潜能
...此外,据最新消息,GraniteRapids在运行80亿参数的Llama3模型推理时,延迟比第四代英特尔至强处理器表现出两倍的提升,并且能够以低于100毫秒的token延迟运行700亿参数的Llama3模型推理。 携手生态合作伙伴助力数智变革现如今,...……更多
...大模型的超低价格引发行业震动。据悉,豆包主力模型的推理输入价格只有0.0008元/千Tokens,比行业便宜99.3%。对此,谭待坦言,“降价是用技术优化成本来实现的。如果只是补贴,用亏损换收入是不可持续的,火山引擎不会走这...……更多
推理性能提升30倍!英伟达发布史上最强AI芯片,黄仁勋:将成最成功产品
...结合了两个B200 GPU和一个独立的Grace CPU,将能够使大模型推理工作负载的性能提升30倍,同时提高效率。相比于H100,它可以“将成本和能源消耗降至1/25”。这就意味着,以前训练一个拥有1.8万亿参数的模型需要8000个Hopper GPU 和15...……更多
神仙打架!谷歌新款大模型Gemini 和GPT-4谁能笑到最后?丨科技观察
...。谷歌表示,现有的人工智能模型通常只处理一种类型的推理,如图片或文本,而 Gemini 的设计是“多模式”的。这意味着它接受包括多种媒体类型的输入,组合文本、图像、音频、视频和编程代码。未来,谷歌还计划将 Gemini添...……更多
...桌上的一堆玩具中抓出一个已经灭绝的动物,它能够经过推理和识别过程,从所认识的老虎、狮子、鸟等若干种动物中,成功地抓出已经灭绝的动物恐龙。这是过去的机器人不能做到的。过去你告诉机器人抓什么东西它能抓得到...……更多
给机器人装上大模型大脑,「若愚科技」获超5000万天使轮融资|36氪首发
...赋予了类似人类三到六岁儿童水平的智慧,使得机器人在推理、决策、环境感知和规划方面的能力得到了质的飞跃。”孙腾说。瞄准给机器人装上多模态大脑这一方向,若愚科技打造的自己的基础模型,且采用了机器人数据进行...……更多
苹果公司公布“mm1”多模态大模型
...0亿、70亿、300亿三种参数规模,拥有图像识别和自然语言推理能力。IT之家注意到,苹果研究团队相关论文主要是利用MM1模型做实验,通过控制各种变量,找出影响模型效果的关键因素。研究表明,图像分辨率和图像标记数量对...……更多
英特尔高宇:推进混合AI算力端侧运行,拥抱AI PC新时代
...来之际,大模型将成为每一个人必不可少的助手,同时对推理的算力需求将超过训练的算力需求。算力集中于云端的模式变得不可持续,AI计算负载将逐渐由云端向边缘侧和端侧下沉。在搭建本地智能算力上,CPU+NPU+GPU 异构式架...……更多
25家游戏公司三季度赚32亿元:三七互娱最吸金,游族网络增速第一
...可编程的、具有高性能的NPU产品,同时应用于模型训练及推理。 多家公司海外收入进一步提升“出海”已成为国内游戏的必选题,三季度财报显示,多家游戏公司的海外收入进一步提升。世纪华通称,三季度海外游戏收入增长...……更多
AI角色创作平台「捏Ta」完成超千万元融资
...投资方包括源码资本和奇绩创坛等,所得资金将主要用于模型的进一步优化、多模态功能的增强以及社交玩法的开发。成立于2022年12月,捏Ta可被看做为以角色幻想故事智能创作为主的早期“小红书”。看见概念CEO胡修涵将捏Ta...……更多
中兴通讯引领算力时代:投资智能计算基础设施与大模型训练推理
...于算力领域,并致力于智能计算基础设施、大模型的训练推理算法以及工程优化的研究和开发。#中兴通讯绿色算力主力军#在算力领域,大模型的技术和应用已经成为一个趋势。大模型是一种基于深度学习技术的自然语言处理模...……更多
谷歌最新自然语言推理算法
谷歌发布全新反向推理算法LAMBADA,无惧搜索空间爆炸!自动推理绝对算是自然语言处理领域的一大难题,模型需要根据给定的前提和知识推导出有效且正确的结论。尽管近年来NLP领域借着大规模预训练语言模型在各种「自然语...……更多
戴尔以技术创新推动AI基础架构升级
...应用背后离不开底层基础设施的支持。以大模型的训练和推理为例,大模型的参数量已经从数十亿增加到几百亿、几万亿甚至更高,更大的模型带来了更大的AI算力需求。有数据显示,AI所消耗的算力平均每3至4个月就会增长一倍,而...……更多
谷歌 VS OpenAI:当搜索霸主和屠龙少年迈入同一条河流
...tra 的得分高达 90.0%,超过GPT-4的86.4%。同时,Gemini Ultra 在推理、数学、代码等方面的表现也都高过GPT-4。而作为首个「原生多模态」模型,在一系列多模态基准测试中,对标GPT-4V,Gemini Ultra 也展现出了先进的性能。图源:谷歌新...……更多
人工智能基础大模型“九天”广州发布
...计模型结构和参数配置,实现数据构建、预训练、微调、推理加速等全链路核心技术自主掌控。二是行业定向增强,训练数据规模超两万亿Tokens,融合通信、能源、钢铁、建筑、交通等8大行业专业知识,叠加专项训练和优化,...……更多
不要苛责中国大模型公司的盈利
...上下文,自动选择模型的多模态能力,同时实现了更快的推理速度和更多并发。GLMs的个性化智能体定制能力,则被认为是直接瞄准了GPTs。目前,国内敢说自己的大模型比肩GPT-4的,只有智谱AI和百度两家公司。虽然这两家公司从...……更多
搞医学影像,为什么都青睐于CPU?
...ACS/RIS产品中,就采用了基于CPU的方案运行三维可视化、AI推理等工作负载。在三维可视化加持下,融合影像分析等技术,让医务人员通过旋转、缩放、分割、图像增强等操作,从多角度清晰了解到医学影像中各结构之间的空间位...……更多
智谱AI CEO张鹏:大模型更聪明了 开发者门槛降低
...百页的上下文窗口长度,具备更强的多模态能力,更快的推理以及更高并发,还大大降低了推理成本。 “一直以来,普通用户甚至是开发者,需要用像魔法咒语一样的提示词,或者机器才能解读执行的代码,来调用大模型的各...……更多
苹果发布 OpenELM,基于开源训练和推理框架的高效语言模型
...,苹果在 Hugging Face 平台上发布了一个“具有开源训练和推理框架的高效语言模型”,名为 OpenELM。当然,这是一项开源语言模型,其源码及预训练的模型权重和训练配方可在苹果 Github 库中获取。IT之家将官方简介翻译如下:参...……更多
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
...让人印象深刻的是,英伟达在财报电话会议的一个观点:推理端的爆发,可能很多人还是低估了。据英伟达电话会议披露,公司全年数据中心里已经有40%的收入来自推理业务,超出了绝大部分人预期。而在这次财报电话会议里,...……更多
夹缝中的英伟达中国 | 深氪lite
...巨大下滑。公司新改良的PCIe L20(面向中国市场的用于AI推理特供版GPU,以下简称“L20”),在大模型训练市场销售艰难。黄仁勋访华后仅10天,市场上便立刻传出HGX H20(面向中国市场的用于AI训练特供版GPU,以下简称“H20”)的...……更多
Sora题材股继续分化:有公司称AI视频识别准确率90%,尚未有规模化收入
...商,特别是提供高性能计算服务以支持大规模模型训练和推理的公司、AI芯片制造商及解决方案提供商、内容生产平台(短视频、直播、在线教育等)、数字营销与广告服务商,“不仅要关注技术本身,还需要关注如何将先进技...……更多
临沂第四中学在兰山区高中化学优质课评选中喜获佳绩
...准确,整体节奏合理,从猜想和验证的角度引导学生完成推理任务,让“实验”促进“思维”的外显。在教学实践中,采取视频、实验演示、学生分组实验等多种教学方法,实现可视化教学,充分展示了信息技术与课堂教学深度...……更多
超低功耗类脑芯片问世,中国团队研发出毫瓦级Speck系统
...多小昆虫能够实时跟踪物体、躲避障碍物,甚至能够完成推理、决策等,相较之下,人类大脑的结构更为复杂、功能更加强大。人脑的一个重要功能是其能够根据需求动态分配资源,即可以实现“动态计算”,这种动态计算包含...……更多
超擎数智重磅发布擎天、锋锐、元景系列AI服务器,打造人工智能新质生产力强劲引擎
...擎天、锋锐、元景系列AI服务器产品,为大规模数据训练和推理提供强劲性能,帮助AI用户高效构建AI基础设施和应用环境,满足AI场景下的多元算力需求,为AI新质生产力提供强劲引擎。擎天系列L20 AI服务器,4U8卡PCle擎天系列L20 AI服务...……更多
AI时代已至,西部数据如何释放存储能量?
...革命,作为一种模拟人类智能的技术,AI可以通过学习、推理和自我修正等方式实现自主决策和行动,并在医疗保健、金融、交通、教育等领域发挥重要作用。根据IDC的预测,从2022到2026年,全球人工智能市场规模会实现18.6%的年...……更多
...术成本×产品市场契合度)。在大模型时代,模型训练和推理成本构成了几乎每个创业公司都必须要面对的增长陷阱。用户增长需要优质的应用,而优质应用离不开强大的基座模型,强大基座模型的背后往往是高昂的训练成本,...……更多
直追GPT-3.5,“欧洲版OpenAI”推出新模型,成立6个月估值20亿美元 | 最前线
...分全面超越GPT-3.5,更在多个跑分上超过了Llama2 70B,并且推理速度还是后者的6倍。△图源:Mistral AI 在生成同等质量的模型时,Mixtral8x7B的推理过程消耗的成本也明显低于Mistral AI,高能效优势显著。△图源:Mistral AI此外,Mixtral8.……更多
更多关于科技的资讯:
当城市核心区的物理空间增长几近饱和,未来的竞争力新高地何在?12月5日,一场发布会以别开生面的“数字气味”体验开场,为上城区加快建设中央创新区(CID)的战略发布
2025-12-07 07:21:00
日前,山西转型综改示范区入区企业山西恒真真空玻璃科技有限公司自主研发的新产品——“真空发热玻璃”上市。这一产品将高效真空玻璃技术与新型半导体制热技术深度融合
2025-12-07 07:32:00
生产设备共享给清河羊绒带来什么——河北特色产业集群共享智造故事(四)纱线在电脑横机上来回穿梭、电商平台的提示音此起彼伏……随着冬季来临
2025-12-06 08:04:00
厦门移动智慧康养产品亮相首届海峡两岸(厦门)银发博览会
市民现场体验移动随心屏(闺蜜机)的AI舌象问诊功能。厦门网讯 (文/厦门日报记者 许晓婷 王玉婷 通讯员 陈奕珣 图/厦门移动 提供)伸出舌头拍一拍
2025-12-06 08:26:00
厦门网讯 (厦门日报记者 林露虹)刷到一部微短剧,不知不觉被剧情吸引,回过神来看介绍,发现竟是AI参与制作的。类似经历
2025-12-06 08:26:00
从“手搓”到“智造” 厦门跑步机“跑”向全球
厦门网讯 (厦门日报记者 詹文 林健华)在位于同安工业集中区的生产车间里,一节一节钢板正传送上激光切割台,自动切割、打孔
2025-12-06 08:26:00
共建共享破局资源瓶颈:临沂联通与电信合作以5G RedCap创新实现业务与服务双突破
鲁网12月5日讯近日,临沂联通与临沂电信深度践行国家共建共享战略,成功完成全省首个基于电信800M频段的5G RedCap技术承载联通物联网专网业务的商用落地
2025-12-06 13:44:00
中国青年报客户端讯(中青报·中青网记者张均斌)近日,“中央引导地方”专项科技赋能文化方向立项课题——“面向文博场景的智能伴游导览系统研发及示范应用”启动会
2025-12-06 15:25:00
2025教室节能照明标杆盘点 四大品牌绿色护眼解决方案解析
在“双碳”目标引领下,校园节能改造成为教育领域绿色发展的重要方向。据住建部统计,商业建筑能耗中照明系统占比高达35%,学校作为人员密集
2025-12-06 16:09:00
海尔智慧家电亮相迪拜
11月26日至28日,中东地区极具影响力的家电电子展在迪拜世贸中心举办。展会中,海尔智家针对当地高温、多尘等特点,集中展示了洗衣机
2025-12-06 16:10:00
12月1日,豆包手机助手技术预览版正式发布,首发搭载于中兴Nubia工程样机。豆包手机助手是以豆包APP为基础,与手机厂商在操作系统层面合作开发的AI助手软件
2025-12-06 17:41:00
文化中国行|全场听觉无死角 吉林省音乐厅声学揭秘
历经修缮重生的丰乐剧场,以“吉林省音乐厅”之名即将绽放春城。这座历史建筑,从伪满时期影剧院到音乐剧场的跨越,背后藏着一套极致考究的声学设计方案
2025-12-06 18:41:00
伊贝格:让机床行业不再为“头”烦恼
“关键核心技术与高端装备对外依存度高”一直是制约制造业升级的瓶颈。五轴联动铣头作为五轴机床的核心功能部件,过去很长一段时间被欧洲部分知名厂商垄断
2025-12-06 22:07:00
山东重工潍柴集团2026年商务大会圆满召开
鲁网12月6日讯12月6日,以“乘势向上 聚力向新”为主题的山东重工潍柴集团2026年商务大会在潍坊举行。山东重工集团党委书记
2025-12-06 22:43:00
近日,兴业数金上线投产跨境人民币理财项目,建立基于手机银行APP的“跨境理财通”线上功能专区,助力本行成为第二家实现“跨境理财通”业务全线上办理的内地商业银行
2025-12-06 16:08:00