- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...Mamba模型，并且设计了新的推测解码算法，加速了模型的推理。先来看一张其乐融融的图片（一眼AI）：右边的小羊驼代表Llama，而左边的蛇（Mamba）也是我们的老熟人了。至于到底能不能其乐融融，咱就不管了，之所以有此场景...……更多
2024-09-06 10:01:00推理,更快,性能,模型,输出,训练
...凡的性能而获得了前所未有的关注。然而， LLM 的训练和推理成本高昂，人们一直在尝试通过各种优化方法来降低成本。本文来自上海算法创新研究院、北京大学等机构的研究者受人类大脑记忆层次结构的启发，他们通过为 LLM ...……更多
2024-07-11 09:33:00维南,领衔,院士,新作,模型,存储
...元导读】史上最快Transformer芯片诞生了！用Sohu跑Llama 70B，推理性能已超B200十倍，超H100二十倍！刚刚，几位00后小哥从哈佛辍学后成立的公司Etached，宣布再融资1.2亿美元。有史以来最快的Transformer芯片，刚刚诞生了？去年21岁哈佛...……更多
2024-06-27 09:25:00小哥,英伟,哈佛,华裔,推理,芯片
...类型的信息：- 仅输入和输出文本，也就是少样本学习- 推理追踪：添加中间推理步骤，可参阅思维链（COT）提示- 计划和反思追踪：添加信息，教LLM计划和反思其解决问题的策略，可参阅ReACT
选择正确的适配方法要决定上述哪...……更多
2024-08-27 12:03:00小白,长文,千字,基础,指南,训练
...同时，GLM-4 支持了更长的上下文、更强的多模态、更快的推理速度，以及更多并发请求，大大降低了推理成本。在此基础上发展出的 GLM-4-Flash，则带来了一系列技术优势：数据预训练：引入大语言模型进入数据筛选流程，使用 10...……更多
2024-08-28 09:43:00真香,模型,模型,能力,应用,开发
...PyTorch官宣，借助OpenAI开发的Triton语言编写内核来加速LLM推理，可以实现和CUDA类似甚至更佳的性能。试问，有多少机器学习小白曾被深度学习框架和CUDA的兼容问题所困扰？又有多少开发者曾因为频频闪烁的警报「CUDA版本必须与...……更多
2024-09-07 09:48:00新时代,推理,内核,矩阵,乘法,英伟
...码仓库 Trending Research 第一位。为了赋予机器人端到端的推理和操纵能力，本文创新性地将视觉编码器与高效的状态空间语言模型集成，构建了全新的 RoboMamba 多模态大模型，使其具备视觉常识任务和机器人相关任务的推理能力，...……更多
2024-06-21 09:52:00机器,模态,人多,机器人,推理,北大
...小的 8B 版本可能也依然会有明显延迟。为了提升模型的推理效率，研究者想出了多种多样的方法，但其中很多都会让模型牺牲一些准确度。近日，苹果和 Meta AI 的一个研究团队提出了一种新方法，可在保证准确度不明显下降的...……更多
2024-08-05 09:35:00准确度,更快,模型,苹果,缓存,模型
... 和 ChartQA，它们不仅需要理解，还需要对图表进行强大的推理能力。对于这两个基准，PaLI-3 稍微落后于 PaLI-X。另外，研究人员还扩展了 PaLI-3 的功能，使其能够通过语言类似的输出来预测分割遮罩。实验结果表明，对于这种类...……更多
2023-10-17 16:31:00更快,模型,视觉,语言,训练,模型
...以通过语音识别技术被录入到病例系统中，随后大模型AI推理技术辅助进行智能总结和诊断，医生们撰写病例的效率显著提高。AI推理的应用不仅节省了时间，也保护了患者隐私；在法院、律所等业务场景中，律师通过大模型对...……更多
2024-07-11 16:45:00正在,时代,模型,推理,英特,英特尔
...被展示过了，但我喜欢你添加的新细节，特别是强调了“推理”类任务比其他任务受影响更大！还有不少学者、工程师也表示强烈推荐。敢打赌，其中一些见解最终将会用于改进Transformer。
其中的实验再次证实了：复制层对创...……更多
2024-07-27 09:29:00流动,机制,研究,信息,中间层,顺序
...围内吗？能在智能手机或传感器这些边缘设备上进行本地推理吗？要回答这些问题，我们需要重新思考AI模型的工作和训练方式，尤其是要转换视角，首先考虑底层硬件的物理约束。或许，物理神经网络PNN（physical neural network）...……更多
2024-07-15 09:33:00康奈尔,康奈,耶鲁,剑桥,变革,模型
...方面尤其出色。GPT-4o可以在音频、视觉和文本中进行实时推理，接受文本、音频和图像的任何组合作为输入，并生成文本、音频和图像的任何组合进行输出。它可以最短在232毫秒内响应音频输入，平均为320毫秒，这与人类在对话...……更多
2024-05-14 16:45:00本实,和文,推理,新品,音频,对话
...代表Omni，也就是“全能”的意思。据介绍，GPT-4o文本、推理、编码能力达到GPT-4 Turbo水平，速度是上一代AI大模型GPT-4 Turbo的两倍，但成本仅为GPT-4 Turbo的一半，视频、音频功能得到改善。OpenAI CEO奥尔特曼（Sam Altman）在博客中表...……更多
2024-05-14 14:39:00实测,人机,更快,模型,成本,速度
...云推出全面升级的GPU云服务，通过全新优化GPU套件，多GPU推理服务性能可最大提升100%。针对调用GPU算力最常用的容器技术，阿里云推出ACK云原生AI套件，帮助开发者及企业更高效地开发和部署AI应用，加速大模型应用落地。随着A...……更多
2024-07-19 17:21:00阿里,推理,模型,性能,升级,服务
... 2此次提供的90亿（9B）和270亿（27B）参数的两个版本，其推理性能和效率均优于第一代，并具有显著的安全性改进。事实上，270亿参数版本可以与体积超过其两倍的模型进行同等级别的竞争，并且提供了此前只有专有模型才能实...……更多
2024-06-29 09:37:00诚意,经济,模型,训练,性能,注意力
...小尺寸版o1-mini。OpenAI官方发文称，新模型旨在解决复杂推理问题，训练模型在响应之前花更多时间思考，类似于人类的思考方式。“新模型在推理能力上代表了AI能力的新水平。”OpenAI称，该模型可以解决科学、编程和数学等更...……更多
2024-09-13 16:44:00复旦,相关性,概率,推理,模型,教授
...专门解决难题。这是一个重大突破，新模型可以实现复杂推理，一个通用模型解决比此前的科学、代码和数学模型能做到的更难的问题。OpenAI 称，今天在 ChatGPT 和大模型 API 中新发布的是该系列中的第一款模型，而且还只是预览...……更多
2024-09-13 16:42:00推理,模型,极限,突破,学习,模型
...，因此它们一直被诟病生成的回答是基于概率，而非基于推理。这也就意味着，在当前的AI热潮中，这些模型架构可能无法幸存下来。毕竟，由于发展速度太快，如今的LLM寿命相对较短。昨天还炙手可热的模型，一两周后可能就...……更多
2023-11-06 15:12:00英伟,大决战,芯片,性能,英伟,芯片
...等工具如何为部署模型提供支持，助力大模型更加高效地推理。赵一嘉首先分享了 Stable Diffusion 背后模型的原理详解，细致地阐述了 Clip、VAE 和 Unet 等关键组件的工作原理。随着 Sora 爆火，也带火了背后的 DiT（扩散 Transformer）...……更多
2024-08-13 09:39:00文生,出图,美感,秘籍,心意,更快
...的内存单元，是大模型进手机面临的第二道难关：大模型推理需要大量计算资源做支撑，与此同时，内存大小决定了数据处理速度的上限以及推理的稳定性。另外，在手机上跑大模型，也给电池带来了更大的压力。因此芯片能耗...……更多
2023-11-16 20:30:00安卓,三个字,模型,三个,手机,模型
...Turbo已经在腾讯云正式上线。混元Turbo训练效率提升108%，推理效率提升 100%，推理成本降低 50%，解码速度提升 20%，效果在多个基准测试上对标GPT-4o。与此同时，全新AI infra品牌“腾讯云智算”也和公众见面了，这是一个集算存网...……更多
2024-09-06 10:00:00腾讯,效率,价格,腾讯,模型,企业
...其基础，看模型提出的声明是否有源文档作为依据- 数学推理：区分LLM生成数学解题方案的正确或错误- 编码：涵盖Python、JavaScript、Java、C++、Go和Rus等流行编程语言，训练FLAMe从备选答案中选出正确程序或修复程序- 安全性：为了...……更多
2024-08-05 09:37:00准确率,模型,评估,评估,模型,数据
...闭源的商业模型会配套相应的工具链，包括训练工具链、推理工具链，这些工具链的性能要比开源的好，对于客户来说，训练就能省大概10~20%的硬件成本，推理的时候省得更多，业务规模越大，省得越多。第二层，看模型带来的...……更多
2024-08-28 09:44:00业内人士,模型,业内,根本,人士,成本
...言模型的能力，但其实是在本地运行的，而非借助云端的推理能力。讲真，应该没有人会认为整理文件名这种本地文件系统的操作还需要去云端绕一圈吧?从端到云之间隐藏的各种断点确实限制了我们的想象力，因此，AIPC的这些...……更多
2024-03-28 13:00:00噱头,马车,更快,还是,模型,处理
...的H100的带宽和容量分别为3.35TB和80GB。这将提升大模型在推理方面的表现，并有助于提升高性能计算应用的计算能力。英伟达预计，H200将在明年二季度开始发货，谷歌、微软、甲骨文等科技巨头将会率先实现首批部署。但毫无疑...……更多
2023-11-14 14:05:00英伟,中国,推理,芯片,性能,市场
...凌晨1时许，AI时代迎来崭新的起点——能够进行通用复杂推理的大模型终于走到台前。OpenAI在官网发布公告称，开始向全体订阅用户开始推送OpenAI o1预览模型——也就是此前被广泛期待的“草莓”大模型。OpenAI表示，对于复杂推...……更多
2024-09-13 13:34:00新时代,推理,逻辑,模型,模型,问题
...后的贡献者。Ilya 在 o1 的作用
OpenAI o1 主打进行通用复杂推理，在输出回答之前，会在产生一个很长的思维链，以此增强模型能力。而 Ilya 此前合著的这篇论文主要就是探讨了提高大语言模型多步推理能力的方法。他们主要比较...……更多
2024-09-18 09:51:00基石,闪光,校友,火爆,核心,先生
...练效率提升到了原来的5.1倍，周均训练有效率达到98.8%，推理性能提升了105倍，推理的成本降到了原来的1%。“也就是说，客户原来一天调用1万次，同样成本之下，现在一天可以调用100万次。”此外，李彦宏在演讲中分享了百度...……更多
2024-04-16 13:37:00李彦,文心,推理,模型,成本,工具
...9月12日，人工智能（AI）巨头OpenAI发布代号“草莓”的AI推理模型OpenAI o1系列，包括OpenAI o1-preview以及小版本的o1-mini。据OpenAI介绍， o1会花更多时间思考问题，然后再做出反应，就像人一样。通过训练学会了完善自己的思考过程...……更多
2024-09-13 15:28:00多远,推理,草莓,模型,模型,思维
更多关于科技的资讯：
AI领域新的神话诞生了。近日，成立仅8个月、员工仅有45人的瑞典AI编程工具Lovable官宣完成2亿美元融资，公司估值达到18亿美元
2025-07-22 09:54:00
“昨天晚上九点多孩子突然拉肚子，我习惯性在叮当快药买了药，以为需要二十多分钟，没想到这次十多分钟就送到了，真是太及时了”
2025-07-22 10:22:00
7月20日，库迪咖啡全球供应链基地超级工厂在安徽马鞍山市当涂县正式开工。超级工厂位于库迪咖啡全球供应链基地内，占地385亩
2025-07-22 10:27:00
近日，富德生命人寿沧州中支举办2025“星耀私享会”插花活动。本次插花体验活动邀请了资深的花艺师，为参与活动的近二十位客户带来了一堂花艺手作课程
2025-07-22 10:16:00
7月11日-12日,众多企业家及高管齐聚深圳,共同走进第二期君智咨询「战略品实战坊」。逆势而行,台风天的特殊天气反倒助长学员的学习热情
2025-07-22 09:23:00
7月16日-20日，第三届中国国际供应链促进博览会在北京举办。本届链博会以“链接世界，共创未来”为主题，设置先进制造、绿色农业
2025-07-22 07:20:00
7月16日，为期三天的2025CBME国际孕婴童展在上海国家会展中心正式开启，在“十月结晶”展台上，一包看似普通的“产褥期卫生巾”
2025-07-22 07:20:00
当AI成为“学生”，谁来当它的老师？在人工智能技术席卷各行各业的今天，许多人担忧被机器取代，而杭州的一群职场人却选择“反向操作”——成为AI的导师
2025-07-22 07:51:00
作者：陈澄在经历过雪糕刺客、防晒衣刺客后，许多人发现，今年夏季的新刺客，似乎轮到了冰块。近日，农夫山泉在山姆上架的一款食用冰
2025-07-21 12:15:00
餐饮行业的空气里，弥漫着2025年特有的焦灼。当消费者沉浸在外卖平台补贴带来的低价狂欢时，平台与商家间的成本转嫁矛盾正在凸显
2025-07-21 12:49:00
中国化妆品市场在20世纪70-80年代开始萌芽,随着行业环境的不断发展与更迭,国货龙头有望逐步提升份额并开启多品牌并购整合战略
2025-07-21 12:49:00
自X-Muse AI设计系统推出后,便在校服圈掀起热潮,众多企业竞相体验,并直接将其投入到实际招投标业务中。系统精准洞察校长的需求
2025-07-21 12:49:00
执中致和，智翼未来：湖北中翼以“平衡之道”破解酒店发展困境2024年中国酒店总量突破37万家，行业连锁化率达55%，但RevPAR（每间可售房收入）同比下滑1
2025-07-21 13:10:00
近日，中国标准化协会发布了《低空物流无人机末端配送要求》及《低空物流无人机自主导航与感知避障要求》。这两份文件的出台，为破解无人机物流规模化商用瓶颈提供了关键支撑
2025-07-21 13:10:00