• 我的订阅
  • 头条热搜
硬件在人工智能基础教育中的角色: 机遇和挑战
...阶段也需要考虑硬件依赖,如何将模型部署在硬件上进行推理。整个流程充满了不确定性,使用难度较大。 因此,在实际应用中,经典流程可以简化为两部分,一部分是与模型相关的(蓝色)、另一部分是可以利用到模型的...……更多
对话王田苗:万亿市场之下,大模型 + 机器人还有四大问题未解决
...务设定多个小模型,并提供不同的参数训练,端到端减少推理成本。另外,将专用小 GPU 芯片置入到机器人中,也可提高任务实时性,目前特斯拉已在自动驾驶中尝试了这种做法。硬氪:今年有哪些细分场景的模型值得关注?王...……更多
苹果新论文证明LLM大模型存在缺陷!没有进行真正的逻辑推理
...tical Reasoning”的论文,揭示了大型语言模型(LLM)在数学推理方面的显著局限性。尽管这些模型在生成人类水平的文本方面表现出色,但当处理简单的数学问题时,即使问题仅进行了微小的改动,如添加无关信息,模型的表现也...……更多
ASC24超算大赛启动会在京举行,大模型推理等成为赛题
...在上海大学举行的总决赛。据悉,今年的赛题包括大模型推理优化、渗流数值模拟,以及国际通行基准测试HPL和HPCG等。来自高性能计算和人工智能领域的中国科学院院士、中国工程院院士、专家学者及参赛师生代表等参加了启...……更多
OpenAI「草莓」提前曝光?ChatGPT版搜索引擎惊现神秘模型
【新智元导读】围绕OpenAI草莓项目的炒作,又兴起一波。一大早,Perplexity AI的首席执行官暗示,AI搜索引擎用上了。网友们纷纷在线测试,为自家AI成功宣传了一波。过去的一周,OpenAI「草莓」项目被炒的热火朝天,把所有人情...……更多
刚刚,Llama 3.2 来了!支持图像推理,还有可在手机上运行的版本
... Meta 对 Llama 模型来了一波大更新:不仅推出了支持图像推理任务的新一代 Llama 11B 和 90B 模型,还发布了可在边缘和移动设备上的运行的轻量级模型 Llama 3.2 1B 和 3B。不仅如此,Meta 还正式发布了 Llama Stack Distribution,其可……更多
Meta祭出三篇最详尽Llama微调指南!千字长文,0基础小白必备
...类型的信息:- 仅输入和输出文本,也就是少样本学习- 推理追踪:添加中间推理步骤,可参阅思维链(COT)提示- 计划和反思追踪:添加信息,教LLM计划和反思其解决问题的策略,可参阅ReACT 选择正确的适配方法要决定上述哪...……更多
奥尔特曼X上发“草莓” 网友疯狂猜测:这难道是GPT新模型
...尔特曼(Sam Altman)在社交媒体X上发布了一张花园里自种草莓的照片后,引发了众多网友的热议,是否新的GPT模型即将上线?周三(8月7日),奥尔特曼在X上发文称,“我喜爱花园里的夏日”,并附了两盆草莓结果实的照片。草...……更多
中兴通讯引领算力时代:投资智能计算基础设施与大模型训练推理
...于算力领域,并致力于智能计算基础设施、大模型的训练推理算法以及工程优化的研究和开发。#中兴通讯绿色算力主力军#在算力领域,大模型的技术和应用已经成为一个趋势。大模型是一种基于深度学习技术的自然语言处理模...……更多
昆仑万维宣布开源2千亿稀疏大模型Skywork-MoE
...万维宣布开源2千亿稀疏大模型Skywork-MoE,性能强劲,同时推理成本更低。Skywork-MoE基于之前昆仑万维开源的Skywork-13B模型中间checkpoint扩展而来,是首个完整将MoE Upcycling技术应用并落地的开源千亿MoE大模型,也是首个支持用单台409...……更多
商汤科技sensetime推出“云端边”全栈大模型体系
...的指导下,会持续探索大模型能力的KRE三层架构(知识-推理-执行),不断突破大模型能力边界。”“日日新SenseNova5.0”性能超越GPT-4 Turbo:文理双修能力大幅提升,新增多模态交互自去年4月首次发布,商汤“日日新SenseNova”大...……更多
“技术故障”背刺巴菲特,金融大模型到底靠不靠谱?
...市场瞬息万变,需要实时数据处理和决策支持,大模型的推理涉及到大量的矩阵乘法计算,对硬件的矩阵乘法计算能力提出较高要求,计算复杂性可能导致响应时间延迟,不利于实时应用。加之大模型训练和推理过程需要大量的...……更多
ChatGPT已经慢了,这是国内AI搜索新高度,免费可用
...了强化。首先面对复杂问题的解决全面升级了多层次分析推理能力,再难的问题都努力为你解答。其次细分了更明确的目标群体,升级了金融投资和科研学术专业 AI 搜索,将这些领域的解答精准度提升到了前所未有的水平。最...……更多
2024北京国际车展|加速智能汽车驶入AGI时代 商汤绝影系列原生态大模型亮相
...向认知驱动的跃迁。依托多模态大模型强大的世界理解、推理能力、决策能力以及交互能力,DriveAGI将是目前最贴近人类思维模式、最能理解人类意图并有最强解决驾驶困难场景能力的技术方案。值得一提的是,前不久上市的小...……更多
Intel三条线优化阿里云通义千问2模型:720亿参数轻松拿捏
...。Intel还采用KV Caching、PagedAttention机制和张量并行,提高推理效率。Intel的硬件也可利用软件框架和工具包进行加速,并获得出色的大模型推理性能,包括PyTorch以及Intel PyTorch扩展包、OpenVINO工具包、DeepSpeed、Hugging F……更多
360副总裁梁志辉:搜索和浏览器,是AI应用的明星场景|新质生产力·AI Partner大会
...,普通搜索回答这个问题很困难,有了大模型以后,可以推理出来如果明天去广州,我要先看广州的天气,这个时候就可以直接调出来。 我们发现大模型是博古通今的智慧能力,过去搜索引擎不可能实现的,但有了大模型以后...……更多
专访面壁智能:大模型仍处于技术发展期,只做应用放弃模型迭代很危险
...他还提到端侧的另一个优势:未来会有很多场景对终端的推理可靠性有很高的要求。这也是端侧非常好的落地方向。但他强调,端侧并不是“所有”,只是其中一块拼图,「端」和「云」协同在一起,才能够完整地把用户的所有...……更多
苹果发布 OpenELM,基于开源训练和推理框架的高效语言模型
...,苹果在 Hugging Face 平台上发布了一个“具有开源训练和推理框架的高效语言模型”,名为 OpenELM。当然,这是一项开源语言模型,其源码及预训练的模型权重和训练配方可在苹果 Github 库中获取。IT之家将官方简介翻译如下:参...……更多
腾讯大模型混元Turbo:御气升昺云,梓桐金鼎开
...模型,腾讯混元Turbo性能有显著提升,训练效率提升108%,推理效率提升 100%,推理成本降低 50%,解码速度提升 20%,效果在多个基准测试上对标GPT-4o。最新第三方测评在国内位居第一。腾讯混云大模型已经落地腾讯700+个业务场景...……更多
模型即服务,卓世科技MaaS平台 2.0 正式上线
...。本次新上线了包括:模型训练新基座,支持模型训练、推理、量化、评测等功能。 卓世科技MaaS平台是一款基于知识增强大模型的一站式行业模型训练开发平台。面向开发者和企业提供从基础算力服务、数据服务、模型训练服...……更多
对话云天励飞董事长陈宁:2030年人类将实现AGI,推理芯片将是蓝海市场|钛媒体AGI
...拥有一个AI Agent。“如果说2024年是大模型落地应用之年,推理就会越来越重要。此前在训练芯片市场上,英伟达一骑绝尘,占有绝对的市场占有率,那么今天,推理芯片市场没有垄断性的巨头。这不仅是万亿级、万亿颗芯片的蓝...……更多
第一个100%开源的MoE大模型,7B的参数,1B的推理成本
...语言模型 (LM) 在各种任务上取得了重大进展,但在训练和推理方面,性能和成本之间仍然需要权衡。对于许多学者和开发人员来说,高性能的 LM 是无法访问的,因为它们的构建和部署成本过高。改善成本 - 性能的一种方法是使...……更多
“智算融合 共创未来”——开普云AI战略暨新产品发布会召开
...容生成的一致性和可控性; 5.算力适配通用化,在模型推理运行方面,针对重点行业客户应用,与多家国内外算力厂商的产品适配,形成了算力模型一体化产品; 6.模型进步持续化,为保障技术的持续领先,开普云将不断完善...……更多
大模型是否有推理能力?DeepMind数月前的论文让AI社区吵起来了
...,随着 OpenAI o1 模型的推出,关于大型语言模型是否拥有推理能力的讨论又多了起来。比如苹果在前段时间的一篇论文中指出,只要给模型一些干扰,最聪明的模型也会犯最简单的错误(参见《给小学数学题加句「废话」,OpenAI ...……更多
百度李彦宏:不一定非要学AI专业 任何行业都能与AI结合
...闭源模型可以根据用户需求提供多种变体,以平衡效果、推理速度和成本。即使是从最大最强大的模型中裁剪出来的较小规模闭源模型,其效果也仍然优于同样规模的开源模型。【本文结束】如需转载请务必注明出处:快科技责...……更多
算子开发到推理加速,一位00后开发者的“升级打怪”之旅
...框架降低了大模型训练的门槛,目前正在做大模型分布式推理加速,希望可以帮助其他开发者在生产环境中高效部署在线推理服务。在昇腾AI的生态里,像郑辉这样为大模型浪潮默默贡献自己力量的开发者不胜枚举。他们还不是...……更多
度小满CEO朱光:必须密切关注大模型在金融领域的发展
...供更多资料,例如银行流水记录。最近,我们尝试使用了推理大模型来处理这些上传的银行交易记录。该模型能够迅速发现并评估客户的风险状况。例如,模型可以识别出客户在过去几个月内疑似向高风险账户转账,表明其消费...……更多
GPU训Llama 3.1疯狂崩溃,竟有大厂用CPU服务器跑千亿参数大模型?
...The」。完整的回复,花了整整20个小时熟悉模型的训练和推理的朋友都知道,这些事情一点都不奇怪。集群搭建(GPU配置、网络设计、轨道优化等)、集群管理(实时监控、故障排除等)……个个都是「拦路虎」。对于缺乏相关...……更多
OpenAI未来猛料全曝光!奥特曼承认自己最大弱点是产品
...,当下,OpenAI显然处于技术栈中的某个位置,OpenAI将会走多远?如果花费大量时间来调整RAG系统,是不是一种浪费时间的行为——因为OpenAI终将在应用程序中涵盖这一部分?A:我们通常会回答说,OpenAI将尽最大努力,并且坚信...……更多
首个o1复现开源RL框架OpenR来了,UCL、上交等高校联合团队发布
...湖大学工学院助理教授(研究)杨林易。o1 作为 OpenAI 在推理领域的最新模型,大幅度提升了 GPT-4o 在推理任务上的表现,甚至超过了平均人类水平。o1 背后的技术到底是什么?OpenAI 技术报告中所强调的强化学习和推断阶段的 Sca...……更多
更多关于科技的资讯:
微软Win11全新设置UI:更容易了解PC配置
快科技1月5日消息,微软通过在Windows 11的设置中的“系统”页面添加“卡片”,希望用户能够更轻松地掌握其电脑的关键规格
2025-01-05 11:16:00
一条街开3家店的蜜雪冰城 真的赚钱吗
如果要在中文互联网上选出一个经久不衰的显眼包,那差评君,必须给雪王投上一票。随手一搜,到处都能看到雪王这个街溜子的出圈名场面
2025-01-05 11:16:00
卖一台亏3万的车卖爆!智界R7上市100天累计大定破5.8万台
快科技1月5日消息,鸿蒙智行官方今日宣布,智界R7上市100天累计大定突破58000台。最新销量数据显示,智界R7在上月卖出超1
2025-01-05 11:16:00
张朝阳跨年演讲 “我们生活在量子力学的世界”
“在2025年的前一个小时,我们还在计算,看来2025年是动脑子的一年。”12月31日晚上10点,搜狐创始人、董事局主席兼首席执行官
2025-01-05 11:32:00
Intel跌跌不休!AMD处理器Steam份额大涨至38.73%:X3D立大功
快科技1月5日消息,玩家对AMD处理器的喜爱,已经直观反映到了Steam数据上。根据Steam最新公布的12月份硬件调查数据
2025-01-05 11:46:00
在Mac上玩3A游戏 是果粉专属行为艺术吗
选 Win 还是选 Mac ,关于这个问题,永远都能看到两拨人在网络上互撕。但是不管 Mac 用户们怎么强调 Mac 的精致和续航
2025-01-05 11:46:00
功能下放!微软持续将Win11 24H2新特性移植到23H2
快科技1月5日消息,无论用户喜欢与否,微软都在持续将Windows 11 24H2中的新功能新特性移植到23H2版本中
2025-01-05 11:46:00
从微软转战谷歌:硅片技术巨头谢赫跳槽!
快科技1月5日消息,据媒体报道,近期,微软前硅片制造与工程领域的资深专家Rehan Sheikh(谢赫)近日宣布加入谷歌
2025-01-05 11:46:00
山东移动济宁分公司助力打造智慧化工“新标杆”构建产业数字化新生态
大众网记者 段正浩 通讯员 孙新茂 济宁报道在国家大力推动工业智能化转型的产业政策背景下,为持续推动化工产业智改数转、绿色发展
2025-01-05 12:02:00
最新研究:农村5G基站少 手机辐射高于城市
快科技1月5日消息,据媒体报道,瑞士巴塞尔大学的一项新研究发现,农村使用5G手机上传美丽风景视频的用户所遭受的辐射水平几乎是城市中用户的两倍
2025-01-05 12:16:00
网约车司机加女乘客微信被封号30天:车内录音曝光 官方回应
1月5日消息,据小莉帮忙报道,近日,河南郑州,网约车司机崔先生反映,因为拉了一个女乘客,两个人相聊甚欢便加了微信,结束后乘客还给了好评
2025-01-05 12:16:00
旗下首款!华擎官宣将在CES推出背插主板
快科技1月5日消息,华擎宣布将在CES 2025展会上推出其首款BMD背插式主板,标志着华擎将进入背插主板市场,填补了其在该领域的空白
2025-01-05 12:16:00
哪吒U三电系统全部短路 车主:车修一半4S店说要关门了
快科技1月5日消息,据博主“拜托了老司机”透露,一位哪吒U车主向其反馈,他的车在4S店修了一半,4S店通知他4S店要闭店关门了
2025-01-05 12:16:00
超75万人预约!暴雪《守望先锋》国服下周公测:不删档保留进度
快科技1月5日消息,暴雪《守望先锋》国服将于2月19日正式回归,《守望先锋》官网显示,国服预约人数已超75万人。据了解
2025-01-05 12:16:00
小米SU7车祸频发引关注 雷军想了一招:网友大赞 开汽车行业先河
快科技1月5日消息,日前,小米汽车正式开启安全驾驶挑战,并邀请每一位小米SU7车主加入。据官方介绍,此次挑战活动时间为2025年1月1日-3月31日
2025-01-05 12:46:00