• 我的订阅
  • 头条热搜
港中文团队提出大模型元推理范式,革新大模型的评价体系
...一定启示。日前,相关论文以《大型语言模型评价中的元推理革命》(MR-GSM8K: A Meta-Reasoning Revolution in Large Language Model Evaluation)为题发在 arXiv,曾忠燊是第一作者,香港中文大学教授贾佳亚担任通讯作者 [1]。图……更多
联想王传东:2027年AI PC将成为市场主流
...下也能使用;第三,更低的大模型使用成本,以本地免费推理为主、以云端公共推理为辅,一次性购买AIPC即可享受全生命周期的本地免费推理服务;第四,可信、安全的个人数据和隐私保障,个性化本地知识库、隐私数据的本...……更多
天池大赛-“云上进化”2022全球AI生物智药大赛圆满落幕
...赛中,NVIDIA 提供了领先的算力支撑,加速了AI模型训练和推理,助力参赛选手AI算法方案的构建和部署。云计算平台加速生命科学新突破随着AlphaFold2等人工智能技术的发展,计算机预测蛋白质结构已经成为现实,人工智能对生命...……更多
三星galaxys24系列全系搭载骁龙8移动平台
...的核心——高通HexagonNPU,增强的高通HexagonNPU让生成式AI推理速度更快,相比前代的推理速度快98%,且能效提升40%。最新的HexagonNPU还集成了微架构升级、增强的微切片推理、更低的内存带宽占用,以及可实现最优性能和能效的专...……更多
谷歌最新自然语言推理算法
谷歌发布全新反向推理算法LAMBADA,无惧搜索空间爆炸!自动推理绝对算是自然语言处理领域的一大难题,模型需要根据给定的前提和知识推导出有效且正确的结论。尽管近年来NLP领域借着大规模预训练语言模型在各种「自然语...……更多
英特尔以全新软硬件助力千行百业释放AI潜能
...此外,据最新消息,GraniteRapids在运行80亿参数的Llama3模型推理时,延迟比第四代英特尔至强处理器表现出两倍的提升,并且能够以低于100毫秒的token延迟运行700亿参数的Llama3模型推理。 携手生态合作伙伴助力数智变革现如今,...……更多
抢占大模型红利,28家企业成为文心千帆大模型平台生态伙伴
...言内测以来,一个多月完成了4次大的技术升级,大模型推理性能提升近10倍,正是因为客户和伙伴的最真实反馈,使得文心的迭代更加有的放矢。当前,我们再次到了所谓iPhone诞生的时刻,基于生成式AI一定会出现大量新的AI应...……更多
Meta连甩AI加速大招 首推AI推理芯片 AI超算专供大模型训练
...Meta当下正将这些基础设施进一步升级进化。01.Meta首代AI推理加速器7nm制程、102.4TOPS算力MTIA(Meta Training and Inference Accelerator),是Meta第一个针对推理工作负载的内部定制加速器芯片系列。AI工作负载在Meta的业务中中无……更多
PC迎来AI时刻,英特尔、微软、联想等纷纷布局,产品价格将迎上涨
...算力是上一代的8倍,可在PC上实现高能效的AI加速和本地推理,并适配超过10款国产大模型。英特尔的老对手AMD则抢先一步,上周发布Ryzen 8040系列处理器。该处理器集成了升级的专用AI引擎NPU,算力为16TOPS,AI性能相比上一代提升...……更多
...每天40亿段视频。另外一款处理器则是该公司的Meta训练和推理加速器(MTIA)家族中的首款芯片,其目的是帮助Meta处理各种专门的人工智能任务。新的MTIA芯片专门处理“推理”,也就是利用已经训练好的人工智能模型做出预测或...……更多
李彦宏发布文心大模型4.0工具版,推理成本降到1%
...练效率提升到了原来的5.1倍,周均训练有效率达到98.8%,推理性能提升了105倍,推理的成本降到了原来的1%。“也就是说,客户原来一天调用1万次,同样成本之下,现在一天可以调用100万次。”此外,李彦宏在演讲中分享了百度...……更多
研究人员给了人工智能一个“内心独白”,结果大大提高了其性能
...工智能系统,让它在说话前先思考。内心独白提高了常识推理能力,并使其数学成绩翻了一番。一项新的研究表明,给人工智能系统一个“内心独白”会大大提高它们的推理能力。这种方法训练的人工智能系统,会在对提示做出...……更多
ChatGPT大流行的思考-解析篇
...器人的本质区别。2. ChatGPT如何实现知识的获取、存储、推理及实时更新那究竟GPT如何有如此优秀的表现呢?我们不妨从人类学习思路入手,我们学习一般可分为获取知识-存储知识-推理知识-更新知识,而这也是GPT发展及学习的...……更多
“专家系统”:人工智能辅助战场决策
...+算法”的求解过程不同,专家系统解决问题通过“知识+推理”。推理机是专家系统的大脑,负责模仿专家的思维过程,执行并控制系统对问题的求解过程。推理机利用知识进行推理,但推理机的性能与知识库的内容彼此影响很...……更多
PC正在经历AI时代 下一代Windows 12将是AI PC的完美载体
...态下也能使用;第三,降低大模型使用成本,在本地免费推理为主,云端公共推理为辅的情况下,一次购买AI PC即可享受全生命周期的本地免费推理服务;第四,提供可信、安全的个人数据和隐私保障,包括个性化本地知识库、...……更多
剧本推理游戏需要几个人才能玩
一般来说,剧本推理游戏最少是需要4个人才能玩的,但是如果要想有更好的体验感,最好还是要有5~8个人一起玩比较好,一般用时2~3个小时。知识讲解什么是剧本推理游戏?所谓的剧本推理游戏也称呼为“谋杀之谜”游戏,是...……更多
天数智芯发布通用 GPU 推理产品智铠 100
...‘铠’来”全新通用 GPU 产品线上发布会,推出通用 GPU 推理产品“智铠 100”及其 AI 应用案例。天数智芯总裁盖鲁江表示,智铠 100 是继天垓 100 后天数智芯正式向市场推出的第二款产品,标志着天数智芯成为国内唯一拥有云边...……更多
2022-12-21 01:02天数,推理,产品
超越ChatGPT:人类特有的思维要强化
...据驱动学习机制不可避免存在不可解释、数据依赖和逻辑推理弱等不足。忽略这些不足,可能会给全面认识ChatGPT带来一定的困扰。虚假关联带来隐患尽管ChatGPT可以“写”出人机莫辨的论文、诗歌,但当你尝试问它类似这样的问...……更多
...能计算等;在AI服务器领域,联想从训练到训推一体再到推理的AI全场景都有完善的AI服务器产品矩阵。在设备之上,联想研发了在构筑智算中心时的关键模块——异构智算平台。同时,联想与国内外领先的AI算力生态企业广泛合...……更多
面壁智能发布2B模型:适配主流手机,推理成本仅为GPT-4的1/360 | 最前线
...在MMLU(多任务语言理解)、Knowledge(知识)、Reasoning(推理)、Comprehension(理解)等关键指标上均超越了Meta Llama 2的13B模型。这一个故事,在2024年2月1日的发布会上,也被AI模型层公司面壁智能的CEO李大海不断提起。对标Mistral..……更多
《开始推理吧2》,一场吃力但巧妙的社会派推理尝试
...猫》,《萌探2024》惊现丞磊女装,腾讯则推出了《开始推理吧2》(以下简称《开推2》),《开推2》本季设定是一场异时空角色推理游戏,讲述了五大家族在四个不同时代的故事。第一案与第二案的故事发生在1924年的推镇,一...……更多
AI大模型应用商机:“AI+”还是“+AI”
...带来了更大的泛化能力,可实时对音频、视觉和文本进行推理,标志着AI大模型应用向更自然的人机交互持续迈进。GPT-4o的推出进一步推动了AI应用的繁荣,以AI大模型主导的创新应用前景也有望打开新的想象空间。对不同企业来...……更多
算子开发到推理加速,一位00后开发者的“升级打怪”之旅
...框架降低了大模型训练的门槛,目前正在做大模型分布式推理加速,希望可以帮助其他开发者在生产环境中高效部署在线推理服务。在昇腾AI的生态里,像郑辉这样为大模型浪潮默默贡献自己力量的开发者不胜枚举。他们还不是...……更多
...今年正式投产。据了解,新的芯片将被应用于数据中心的推理任务,与英伟达等供应商的GPU一起协同工作。Meta发言人之前表示:我们相信,我们自主开发的加速器将与市面上的GPU相得益彰,为Meta的任务提供最佳的性能与效率平...……更多
阿里云佘俊泉:创新涌现,边缘云场景的探索与机遇|GDCC智算
...成本优化,后者则注重实时互动体验。此外,虽然边缘AI推理当前的规模不大,但随着AIGC以及LLM技术全面应用到千行百业,边缘云在这个方向上有巨大潜力,在未来5-10年内将产生更多创新业务场景。针对上述场景化需求,阿里...……更多
AI PC YES!AMD举办AI PC创新峰会
...的架构产品去解决AI的不同需求,包括面向通用处理和AI推理的Zen架构CPU;面向HPC、AI训练和密集推理的CDNA架构GPU;面向游戏和基于AI的内容开发的RDNA架构GPU;以及面向低功耗和一直在线的AI推理的XDNA架构,即NPU。 最先的锐龙804...……更多
AI算力大战开启:英特尔AI芯片性能超越H100,谷歌云推出最强ARM芯片|钛媒体AGI
...中,相比于英伟达H100 GPU,Gaudi3 AI芯片的模型训练速度、推理速度分别提升40%和50%,平均性能提高 50%,能效平均提高40%,而成本仅为H100的一小部分。英特尔预计,Gaudi 3将于2024年第二季度起出货,戴尔、惠普、联想、超微电脑等...……更多
又是一部推理佳作,刚开播就飙上9.3分!
...。第一季就口碑和收视双丰收,到了2021年12月底,《女高推理班》就又推出了第二季,共计8集,同样收获了出色的口碑。2024年4月,终于迎来了《女高推理班》第三季,朴智允、张度练、JaeJae、BIBI、崔叡娜都回归。一上线,《...……更多
掰开安卓手机 满屏都是三个字:大模型
...的内存单元,是大模型进手机面临的第二道难关:大模型推理需要大量计算资源做支撑,与此同时,内存大小决定了数据处理速度的上限以及推理的稳定性。另外,在手机上跑大模型,也给电池带来了更大的压力。因此芯片能耗...……更多
架构优先、先易后难,华为的制造业生成式AI方法论
...业需要构建强有力的ICT基础设施,尤其是大模型的训练和推理,都对基础设施提出了更高的要求,要实现“存算云网能”的全方位协同。 在算力方面,华为的智能计算芯片和通用计算芯片,正在成为世界算力的第二选择。前者...……更多
更多关于科技的资讯:
本文转自:中国新闻网中新社福州5月25日电 (记者 刘育英)AI(人工智能)正在为传承语言文化注入全新生命力。中国运营商发布首个支持30种方言混说语音大模型
2024-05-25 20:19:00
本文转自:中国新闻网中新社西宁5月25日电 (记者 孙睿)记者25日从青海师范大学省部共建藏语智能信息处理及应用国家重点实验室获悉
2024-05-25 20:39:00
临沂首个5G-A通感一体基站开通,实现低空飞行“可视、可管、可控”
大众网记者 冯善鹏 赵国清 临沂报道5月24日,临沂移动在五洲湖开展5G-A通感一体新技术应用试点,临沂市公安局警航支队
2024-05-25 20:45:00
本文转自:中国新闻网眼下,正值早稻分蘖期,是产量形成的关键节点。在湖南省湘乡市泉塘镇双江村万亩双季稻示范基地,种粮大户正利用植保无人机为水稻进行“一喷三防”作业
2024-05-25 21:09:00
本文转自:新华网新华社福州5月25日电(记者郭圻)第七届数字中国建设峰会数字社会分论坛数字体育专场25日在福州举行。来自全国各地的行业专家
2024-05-25 21:49:00
手机为啥能记录步数?这场科普活动告诉你“传感器的秘密”
手机为什么能根据环境变化自动调整屏幕亮度?微信步数如何记录我们的日常行动?为什么摇晃手机就能控制游戏角色的奔跑跳跃?5月25日下午
2024-05-25 22:12:00
本文转自:中国新闻网中新社福州5月25日电 (记者 刘育英)随着AI(人工智能)等新一代信息技术快速发展,智能算力需求爆发式增长
2024-05-25 22:18:00
库克终于“低头”了,iPhone15Pro大降2000元,果粉:终于等到了
苹果公司一直以来都被誉为手机中的“贵族”,其产品发布价总是高居不下。特别是在中国市场,iPhone的价格往往比美版、港版和韩版等贵出许多
2024-05-25 17:10:00
骁龙8Gen3旗舰价格突降1154元,2K屏+24GB+1TB,如今才卖3558元起
高通下一代旗舰芯片骁龙8Gen4的发布时间再次提前,这就导致骁龙8Gen3旗舰只能提前降价清库存,再加上今年手机行业的竞争格外激烈
2024-05-25 17:24:00
2025 年,旗舰机就都要抛弃曲面屏了
如果说要评选一个和预期落差最大的手机技术,曲面屏可能会获得一个提名。从三星 Note Edge 上首次露面,肩负改变手机界面和交互重任的曲面屏
2024-05-25 17:24:00
摩托罗拉G85渲染图曝光:5000 万主摄+曲面屏设计
【CNMO科技新闻】近日,CNMO注意到有外媒爆料了摩托罗拉即将推出的全新手机——Moto G85的高清渲染图,并透露了这款手机在欧洲市场的预估售价
2024-05-25 17:25:00
第六届西洽会|全球“爆品精品优品”齐聚 全方位打造“消费嘉年华”
为了贯彻落实商务部“消费促进年”工作部署,更好地放大西洽会促消费、搭桥梁的平台作用,“西洽优选”消费促进活动于5月23日-26日与第六届西洽会同期举行
2024-05-25 15:28:00
AI赋能 智赢百业 中国移动成功举办AI+行业分论坛
5月25日,在第七届数字中国建设峰会期间,中国移动举办了以“AI赋能智赢百业”为主题的分论坛,发布了多项AI成果和能力
2024-05-25 16:00:00
windows11recall全新ai工具测试
5月25日消息,科技媒体WindowsLatest今天发布博文,在全新SurfaceLaptop第7版上,测试了名为Windows11Recall的全新AI工具
2024-05-25 16:41:00
“数”聚未来,赣州智研院携数商生态亮相数字中国建设峰会
5月24日,第七届数字中国建设峰会在福州市海峡国际会展中心盛大举办。本届峰会是国家数据工作体系优化调整后首次举办的数字中国建设峰会
2024-05-25 17:00:00