• 我的订阅
  • 头条热搜
《永劫无间》手游首次将具有18亿参数的大语言模型引入终端侧
...可以大幅提升腾讯混元大模型在终端侧的运行效率,端侧推理实现首个token生成时延达到150ms,解码速率达到超过 30tokens/秒。腾讯混元大模型已为腾讯内部超过700个业务场景和C端应用提供底层技术支持,在骁龙8至尊版芯片上部...……更多
商汤生成式AI业务飙涨256%,成为中国大模型、智算服务市场占有率领头羊
...劲需求、“日日新SenseNova”大模型能力的飞跃式提升以及推理成本的快速下降,带动模型调用量增长迅速。报告期内,“绝影”智能汽车业务的表现也极为亮眼。其业务收入达1.7亿元,同比增长100%。上半年新增交付70.5万辆车,...……更多
对话贾扬清:明年AI推理成本还会降低10倍以上,一两年内AI使用成本或低于人工
...比之前更加乐观。他认为,“成本不是核心问题,Token的推理成本可能在接下去的一年还会再降低十倍,甚至更多。公司更应该关注的是用户体验。让AI使用成本降低到人工成本以下,可能就是一两年的时间。”他表示,“核心...……更多
ai生命周期:ai训练和ai推理的完美结合
...命周期包括最重要的两个部分,一个是AI训练,一个是AI推理。其中,AI训练就是让模型识别数据模式,是数据和处理最密集的部分,需要大规模的算力。在这一阶段,往往优先使用大规模并行的GPU加速器或专用的AI加速器,有时...……更多
AMD的GPU跑AI模型终于Yes了?PK英伟达H100不带怕的
...:「算力这块,你可以用别的芯片,但是这些芯片用来做推理还 OK,做训练的话还要等几年的样子,英伟达还是处在一个垄断的地位。」但基于实证的对比研究却往往又会给出不一样的答案,比如在同一个演讲中,李沐还提到了...……更多
进迭时空宣布开源RISC-V芯片的AI核心技术
...为ARM的20%左右,AI性能得到极大提升。目前,世界主流AI推理生态主要包括英伟达的GPU推理生态和X86的CPU推理生态。K1芯片通过复用X86成熟的AI推理软件栈,把底层核心算子改用RISC-VVector和AI指令,其余部分复用CPU推理软件栈,从...……更多
...桌上的一堆玩具中抓出一个已经灭绝的动物,它能够经过推理和识别过程,从所认识的老虎、狮子、鸟等若干种动物中,成功地抓出已经灭绝的动物恐龙。这是过去的机器人不能做到的。过去你告诉机器人抓什么东西它能抓得到...……更多
谷歌「诚意之作」,开源9B、27B版Gemma2,主打高效、经济!
... 2此次提供的90亿(9B)和270亿(27B)参数的两个版本,其推理性能和效率均优于第一代,并具有显著的安全性改进。事实上,270亿参数版本可以与体积超过其两倍的模型进行同等级别的竞争,并且提供了此前只有专有模型才能实...……更多
轻量化模型架构catvton的优势在哪里
...分简洁高效:2个网络模块(VAE+UNet)899.06M总参数量<8G推理显存(输出图像1024×768)轻量化的架构来源于CatVTON对现有方法模块冗余的观察:基于Warping的方法依靠几何匹配对服装进行形变再利用试穿模块融合,结果生硬不自然;...……更多
全球高校同台PK,齐鲁工业大学斩获一等奖!
...超算集群,运行优化国际通行基准测试HPL&HPCG、大模型推理优化、渗流数值模拟、火星大气模拟、新型材料结构计算等前沿科学与工程应用并参加答辩。RhinoLinX灵犀队其中,大模型推理优化赛题要求参赛队伍基于开源大语言模...……更多
华为全面启动鲲鹏昇腾原生开发
...现性能同步优化。昇腾原生开发方面,华为准备以CANN和推理引擎MindIE为基础,基于一套开发体系,面向算子、模型和应用三个开发场景,激发开发者的原生创新,IT之家总结如下。面向算子开发,我们进一步开放CANN,全面升级...……更多
商汤绝影在行业内率先实现了原生多模态大模型的车端部署
...型的车端部署。车载端侧8B模型首包延迟在300毫秒以内,推理速度40Tokens/秒,覆盖主流算力平台。商汤绝影为多模态大模型打造计算引擎“HyperPPL”,目前扩展并支持主流车载计算硬件,兼容多种主流操作系统,适配多个车载芯...……更多
昆仑万维重磅发布天工AI高级搜索功能,做最懂金融投资、科研学术的AI搜索
...AI高级搜索功能,具备四大亮点:·全面升级多层次分析推理能力·升级的金融投资专业AI搜索·升级的科研学术专业AI搜索·针对文档AI阅读分析的智能优化「天工AI高级搜索」不仅能提供精准的结果,更能通过多角度的专业优化,...……更多
...约每18个月时间会增长40倍。现在生成式大模型的计算和推理都在云端进行,大模型参数和使用量的成倍增长带来巨大计算推理压力, 当数十亿用户都日常使用生成式AI时,云端模式显然难以支持生成式AI的规模化扩展。过大参数...……更多
360智脑7b参数模型采用3.4万亿tokens训练
...AMBADA,考察的能力包括自然语言理解、知识、数学计算和推理、代码生成、逻辑推理等。其中360模型在四个评测数据集上达到第一,平均分为第三。在LongBench(多任务、中英双语、针对大语言模型长文本理解能力的评测基准)测...……更多
摩尔线程GPU千卡集群完成师者AI 70亿参数教育大模型训练测试
...教育大模型的快速迭代,摩尔线程、师者AI还将在大模型推理上开展适配工作。摩尔线程夸娥方案是业内首个跑通、跑完国产大模型的千卡集群,基于全功能MTT S4000 GPU,提供软硬一体化的全栈解决方案,具备模型覆盖、推理加速...……更多
...(词元)预测的多模态技术范式,释放其在大规模训练和推理上的潜力。据了解Emu3只基于下一个token预测,无需扩散模型或组合式方法,把图像、文本和视频编码为一个离散空间,在多模态混合序列上从头开始联合训练一个Transf...……更多
腾讯推出 Hunyuan-Large 开源大模型
...2B-Instruct和Hunyuan-A52B-Instruct-FP8。并发布了技术报告和训练推理操作手册,详细介绍了模型能力和训练与推理的操作。其中模型技术优势如下:高质量合成数据:通过合成数据增强训练,Hunyuan-Large能够学习到更丰富的表示,处理...……更多
支持1024帧、准确率近100%,英伟达「LongVILA」开始发力长视频
...微调,(4) LLM 的上下文扩展,以及 (5) 长监督微调。对于推理,MM-SP 解决了 KV 缓存内存使用率的挑战, 这在处理非常长的序列时会成为瓶颈。通过使用 LongVILA 增加视频帧数,实验结果表明该研究在 VideoMME 和长视频字幕任务上的...……更多
...问答、农业文本语义理解、文本摘要生成、农业生产决策推理等多项功能。与会专家表示,这标志着AI应用在我国农业领域获重大进展,标志着由高校及科研院所研发的行业大模型又添新军,对我国以科技驱动农业现代化发展将...……更多
AMD MI300绝杀英伟达H100?跑GPT-4性能超25%,AI芯片大决战一触即发
...,因此它们一直被诟病生成的回答是基于概率,而非基于推理。这也就意味着,在当前的AI热潮中,这些模型架构可能无法幸存下来。毕竟,由于发展速度太快,如今的LLM寿命相对较短。昨天还炙手可热的模型,一两周后可能就...……更多
国产大模型加速落地,争夺“中国版ChatGPT”心智定位
...技等也分别推出全新的大模型产品。李开复表示,大模型推理成本的下降会推动中国AI大模型进入”落地为王”的阶段,今年会迎来“大模型应用爆发元年”。他同时预测,明年下半年,随着大模型推理成本的大幅度下降,人们...……更多
重磅!TeleAI 完成首个全国产化万卡万参大模型训练
...型有效训练时长占比达到 98% 以上。TeleChat-52B在OpenCampass推理榜单排名第一在今年5月的 OpenCampass 测试榜单中,TeleChat 系列模型的逻辑推理能力名列开源大模型榜单第一。作为新一代版本,TeleChat2-115B 在9月最新公布的 C-Eval ……更多
本周(4.8-4.14)AI界发生了什么?
...模型中,只需一次API调用,该模型就可以分析图像并应用推理。“欧洲版OpenAI”Mistral AI也正式开源了大模型Mixtral8x22B,参数规模高达1760亿,仅次于马斯克AI公司的Grok-1大模型。苹果或在9月发布新电脑,搭载AI功能当地时间4月11...……更多
英特尔第五代至强可扩展处理器发布:AI推理性能提升42%!
...器,相比上代至强平均性能提升了21%,能效提升了36%,AI推理性能提升了42%,总拥有成本降低了77%!最高64核心,整体性能提升21%、AI推理性能提升42%、总拥有成本降低77%! 据介绍,第五代至强(Xeon)延续了上代的Intel 7制造工...……更多
腾讯推出新一代大模型「混元Turbo」,性能大幅提升,定价低50%
...元Turbo”。腾讯介绍,该模型采用MoE架构,比上一代产品推理效率提升100%,推理成本降低50%,解码速度提升20%。腾讯公司副总裁、云与智慧产业事业群COO兼腾讯云总裁邱跃鹏宣布,腾讯混元Turbo在腾讯云上线,输入和输出价格只...……更多
全国首个 成都创新团队发布机器人多模态模型
...eration System)。据悉,多模态模型(RRMM)能使机器人理解推理抽象的语义指令,并调度双臂协作系统(RTACS)执行任务。目前仅OpenAI等国外头部企业发布类似成果,这标志着成都人形机器人创新中心在我国多模态模型应用于人形...……更多
商汤 AI 办公小程序“Raccoon 智能助手”上线:提炼文章重点
... 大模型,该模型采用 MOE 混合专家架构,在知识、数学、推理和代码能力方面大幅提升。该模型基于超过 10TB tokens 训练,具备 200K 推理上下文窗口(相当于 36.5 万个汉字),推理时上下文窗口达到 200K 左右,提供自然语言处理...……更多
科学家建立新评价基准,助力评估大模型数据分析能力
...题任务,要求模型在代码执行后对结果进行理解、归纳和推理,提供有价值的观点。尽管 Tapilot-Crossing 已经是规模较大、且较为全面的测试集,其构建成本也低于 100 美元,显示了利用虚拟多智能体容器生成复杂、高质量数据集...……更多
人工智能应用场景不断拓展
...下一代的模型须具备更大规模、更复杂、更多层次的逻辑推理能力,全世界先进模型的投入门槛将达到数十亿、数百亿美元的级别。清华大学人工智能研究院副院长朱军说,大模型的发展一方面要让消费者参与和交互,另一方面...……更多
更多关于科技的资讯:
苹果iphone17系列样机曝光:背部三摄排列不变
1月2日,数码博主@数码闲聊站透露了苹果iPhone17系列样机的一些细节。他说,新机背部设计引入了一个横向的大矩阵玻璃装饰
2025-01-03 10:44:00
大模型行业资本暗流涌动,10亿元融资成入局门槛?
2024年,大模型发展势头依旧强劲,能力边界不断突破,不仅强化了自然语言处理能力,还在文生视频、辅助编程、数学推理等复杂领域攻城略地
2025-01-03 10:45:00
又添5城!万师傅“当日装”服务深度赋能行业提速
近日,万师傅“当日装”服务新增上线成都、杭州、南京、苏州、天津5座城市,覆盖家具、卫浴领域等多个品类,即时解决用户紧急安装需求
2025-01-03 10:45:00
鑫住工乡墅全面升级供应链,打造全渠道高效建材方案
随着供应链全渠道时代的到来,市场需求变动迅速,企业要想在激烈的竞争中脱颖而出,必须具备强大的供应链整合能力。 (鑫住工乡墅&
2025-01-03 10:45:00
解锁海创汇2024关键词——自生长、赋能、未来
本文转自:人民网-山东频道时光流转,2024年已然落下帷幕。这一年,是科技迅速更迭与创新力量涌现的年份。置身于这一变革大潮中
2025-01-03 11:03:00
华为云HCDG城市行2024全国收官之作桂林站圆满结束
本文转自:人民网-广西频道参会人员合影。华为云供图2024年12月29日,华为云HCDG城市行·桂林站——“鸿蒙开启国产操作系统新纪元与开发者的新机遇”技术沙龙在桂林华为信息产业生态合作区青网科技园圆满举办
2025-01-03 11:05:00
巅峰一号避孕套:品质之巅,愉悦之源
巅峰一号避孕套:品质之巅,愉悦之源在两性健康领域,避孕套一直是备受关注的重要产品。而巅峰一号避孕套以其卓越的品质、独特的设计和出色的性能
2025-01-03 11:06:00
美媒:无需连接手机即可干预吸烟行为,智能手表应用程序成“戒烟助手”
本文转自:环球时报【环球时报综合报道】据雅虎新闻网1日报道,一款新开发的智能手表应用程序将成为“戒烟助手”,无需连接手机就能进行自动提醒
2025-01-03 11:07:00
本文转自:人民网人民网北京1月3日电 (记者许维娜)记者从国家数据局了解到,为凝聚广泛共识,推动数据领域相关知识的规范普及
2025-01-03 11:13:00
用生态产业链助力家装行业 共同走进AI时代
□ 本报记者 陆 俊2024第十届土巴兔生态大会近日在四川成都隆重开幕。2024年的土巴兔生态大会以“数智驱动 生态共赢”为主题
2025-01-03 11:13:00
合资轿车价格崩了!广汽本田雅阁裸车已降到11万多
快科技1月3日消息,据懂车帝报道,广汽本田4S店销售向其介绍,最低配的本田雅阁指导价17.98万元,现在优惠6万多元,优惠完裸车价只要11万多
2025-01-03 11:14:00
美国一小型飞机撞上建筑物:现场升起蘑菇云 已致2死多伤
快科技1月3日消息,据报道,当地时间1月2日,美国加利福尼亚州,一架小型飞机坠毁致两人死亡数十人受伤。事发时监控显示,一架小型飞机快速坠落至建筑物房顶
2025-01-03 11:14:00
让更多人“当狗”:日本扮狗男子建立扮狗动物园
快科技1月3日消息,据《纽约邮报》近日报道,日本男子托科此前花了200万日元(约合人民币10万元)定制真人大小的牧羊犬布偶装
2025-01-03 11:14:00
□ 双 木近年来,全球经济形势复杂多变,国内处于结构调整转型的关键期,同时受到房地产低迷的影响,厨电产业发展面临着一定的压力
2025-01-03 11:14:00
清华大学:92%毕业生在国内工作 出国深造的大多数已回国
1月3日消息,近日,2024届清华毕业生就业数据新鲜出炉,揭示了这一届学子的职业选择趋势与动向。根据官方数据,2024届清华毕业生中
2025-01-03 11:14:00