- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...Mamba模型，并且设计了新的推测解码算法，加速了模型的推理。先来看一张其乐融融的图片（一眼AI）：右边的小羊驼代表Llama，而左边的蛇（Mamba）也是我们的老熟人了。至于到底能不能其乐融融，咱就不管了，之所以有此场景...……更多
2024-09-06 10:01:00推理,更快,性能,模型,输出,训练
...凡的性能而获得了前所未有的关注。然而， LLM 的训练和推理成本高昂，人们一直在尝试通过各种优化方法来降低成本。本文来自上海算法创新研究院、北京大学等机构的研究者受人类大脑记忆层次结构的启发，他们通过为 LLM ...……更多
2024-07-11 09:33:00维南,领衔,院士,新作,模型,存储
...元导读】史上最快Transformer芯片诞生了！用Sohu跑Llama 70B，推理性能已超B200十倍，超H100二十倍！刚刚，几位00后小哥从哈佛辍学后成立的公司Etached，宣布再融资1.2亿美元。有史以来最快的Transformer芯片，刚刚诞生了？去年21岁哈佛...……更多
2024-06-27 09:25:00小哥,英伟,哈佛,华裔,推理,芯片
...类型的信息：- 仅输入和输出文本，也就是少样本学习- 推理追踪：添加中间推理步骤，可参阅思维链（COT）提示- 计划和反思追踪：添加信息，教LLM计划和反思其解决问题的策略，可参阅ReACT
选择正确的适配方法要决定上述哪...……更多
2024-08-27 12:03:00小白,长文,千字,基础,指南,训练
...同时，GLM-4 支持了更长的上下文、更强的多模态、更快的推理速度，以及更多并发请求，大大降低了推理成本。在此基础上发展出的 GLM-4-Flash，则带来了一系列技术优势：数据预训练：引入大语言模型进入数据筛选流程，使用 10...……更多
2024-08-28 09:43:00真香,模型,模型,能力,应用,开发
...比，苹果已用Amazon Graviton、Inferentia等AWS芯片在机器学习推理工作负载方面实现了40%以上的效率提升，并预计在Trainium 2上预训练模型时，效率将提高50%。被亚马逊豪掷80亿美元投资的Anthropic，宣布与AWS共同构建面向机器学习训练...……更多
2024-12-05 09:47:00亚马,亚马逊,芯片,模型,训练,服务器
...些解答或慢点思考。OpenAI ο1 模型的发布掀起了人们对 AI 推理过程的关注，甚至让现在的 AI 行业开始放弃卷越来越大的模型，而是开始针对推理过程进行优化了。今天我们介绍的这项来自 Meta FAIR 田渊栋团队的研究也是如此，其...……更多
2024-10-17 09:47:00优势,规划,推理,轨迹,模型,慢速
...PyTorch官宣，借助OpenAI开发的Triton语言编写内核来加速LLM推理，可以实现和CUDA类似甚至更佳的性能。试问，有多少机器学习小白曾被深度学习框架和CUDA的兼容问题所困扰？又有多少开发者曾因为频频闪烁的警报「CUDA版本必须与...……更多
2024-09-07 09:48:00新时代,推理,内核,矩阵,乘法,英伟
...震。o1 能像人类一样「思考」复杂问题，拥有优秀的通用推理能力。在未经专门训练的情况下，o1 能够直接拿下数学奥赛金牌，甚至能在博士级别的科学问答环节上超越人类专家。在性能跃升之外，更重要的是，它揭示了大模型...……更多
2024-10-21 09:55:00英伟,霸主,推理,模型,地位,时代
...码仓库 Trending Research 第一位。为了赋予机器人端到端的推理和操纵能力，本文创新性地将视觉编码器与高效的状态空间语言模型集成，构建了全新的 RoboMamba 多模态大模型，使其具备视觉常识任务和机器人相关任务的推理能力，...……更多
2024-06-21 09:52:00机器,模态,人多,机器人,推理,北大
...小的 8B 版本可能也依然会有明显延迟。为了提升模型的推理效率，研究者想出了多种多样的方法，但其中很多都会让模型牺牲一些准确度。近日，苹果和 Meta AI 的一个研究团队提出了一种新方法，可在保证准确度不明显下降的...……更多
2024-08-05 09:35:00准确度,更快,模型,苹果,缓存,模型
...78%～90%。
检索增强（retrieval-augmented）的语言模型可以在推理时检索并集成外部知识源，从而缓解上述问题。然而，许多此类系统依赖于黑盒API或通用的LLM ，既没有针对文献综合的任务进行优化，也没有搭配适合科研的开放式...……更多
2024-11-27 13:33:00神器,文献,效率,科研,学术,模型
...示了Yi-Lightning在不同场景上的能力。Yi-Lightning主打一个“推理速度更快，生成质量更好”。相比上半年Yi-Large，Yi-Lightning首包速度提升1倍，推理速度也提升了4成。像是翻译下面这种文学作品，Yi-Lightning不仅速度更快：而且用词...……更多
2024-10-17 09:48:00竞技场,万物,模型,国产,竞技,模型
...为可以吃到4位（INT4/FP4）内核的计算红利，实现了更快的推理速度。BitNet a4.8仅激活55%的参数，并支持3 bit KV cache，进一步提升了大规模LLM部署和推理的效率。BitNet a4.8模型架构模型的整体架构如图1所示，BitNet a4.8采用了与BitNet b……更多
2024-12-06 09:55:00架构,激活,新一代,模型,突破,激活
...例如，OCRBench）的性能，但与低分辨率版本模型相比，在推理相关任务（例如，MMMU）上的准确率却会下降。此外，虽然开源的多模态大模型在视觉-语言任务上取得了非常亮眼的基准测试结果，但在纯文本任务上的性能却有显著...……更多
2024-09-24 13:36:00英伟,模态,文本,性能,模态,模型
... 和 ChartQA，它们不仅需要理解，还需要对图表进行强大的推理能力。对于这两个基准，PaLI-3 稍微落后于 PaLI-X。另外，研究人员还扩展了 PaLI-3 的功能，使其能够通过语言类似的输出来预测分割遮罩。实验结果表明，对于这种类...……更多
2023-10-17 16:31:00更快,模型,视觉,语言,训练,模型
...Meta当下正将这些基础设施进一步升级进化。01.Meta首代AI推理加速器7nm制程、102.4TOPS算力MTIA（Meta Training and Inference Accelerator），是Meta第一个针对推理工作负载的内部定制加速器芯片系列。AI工作负载在Meta的业务中中无……更多
2023-05-19 14:01:00推理,芯片,模型,训练,基础设施,基础
...以通过语音识别技术被录入到病例系统中，随后大模型AI推理技术辅助进行智能总结和诊断，医生们撰写病例的效率显著提高。AI推理的应用不仅节省了时间，也保护了患者隐私；在法院、律所等业务场景中，律师通过大模型对...……更多
2024-07-11 16:45:00正在,时代,模型,推理,英特,英特尔
苹果新论文：AI 大模型可能不会推理。AI 大模型（LLM）真的像我们理解的那样能「思考」或「推理」吗？最近，苹果的一篇论文探讨了这个问题，并且给出了一个倾向于「否」的答案。相关帖子被很多人围观。这篇题为「GSM-Symb...……更多
2024-10-14 09:55:00数学题,推理,废话,苹果,数学,小学
...被展示过了，但我喜欢你添加的新细节，特别是强调了“推理”类任务比其他任务受影响更大！还有不少学者、工程师也表示强烈推荐。敢打赌，其中一些见解最终将会用于改进Transformer。
其中的实验再次证实了：复制层对创...……更多
2024-07-27 09:29:00流动,机制,研究,信息,中间层,顺序
...围内吗？能在智能手机或传感器这些边缘设备上进行本地推理吗？要回答这些问题，我们需要重新思考AI模型的工作和训练方式，尤其是要转换视角，首先考虑底层硬件的物理约束。或许，物理神经网络PNN（physical neural network）...……更多
2024-07-15 09:33:00康奈尔,康奈,耶鲁,剑桥,变革,模型
...方面尤其出色。GPT-4o可以在音频、视觉和文本中进行实时推理，接受文本、音频和图像的任何组合作为输入，并生成文本、音频和图像的任何组合进行输出。它可以最短在232毫秒内响应音频输入，平均为320毫秒，这与人类在对话...……更多
2024-05-14 16:45:00本实,和文,推理,新品,音频,对话
...，大模型能根据任务复杂度进行不同时间的思考。不限于推理性的逻辑或数学任务，一般问答也能思考的那种。最近畅销书《Python机器学习》作者Sebastian Raschka推荐了一项新研究，被网友们齐刷刷码住了。论文一作为华人学者Tian...……更多
2024-10-29 09:58:00高徒,偏好,模型,过程,基线,偏好
...常高效在测试时，循环序列模型会按顺序推出，从而使其推理更为高效。相反，传统 RNN 的瓶颈在于其训练，需要线性训练时间（通过时间反向传播），这导致其最终被淘汰。人们对循环序列模型重新产生兴趣，是因为许多新的...……更多
2024-10-15 09:56:00图灵奖,图灵,得主,新作,序列,训练
...代表Omni，也就是“全能”的意思。据介绍，GPT-4o文本、推理、编码能力达到GPT-4 Turbo水平，速度是上一代AI大模型GPT-4 Turbo的两倍，但成本仅为GPT-4 Turbo的一半，视频、音频功能得到改善。OpenAI CEO奥尔特曼（Sam Altman）在博客中表...……更多
2024-05-14 14:39:00实测,人机,更快,模型,成本,速度
...云推出全面升级的GPU云服务，通过全新优化GPU套件，多GPU推理服务性能可最大提升100%。针对调用GPU算力最常用的容器技术，阿里云推出ACK云原生AI套件，帮助开发者及企业更高效地开发和部署AI应用，加速大模型应用落地。随着A...……更多
2024-07-19 17:21:00阿里,推理,模型,性能,升级,服务
...20日，量化巨头幻方量化旗下大模型公司DeepSeek正式发布推理大模型DeepSeek-R1。作为一款开源模型，R1在数学、代码、自然语言推理等任务上的性能能够比肩OpenAI o1模型正式版，并采用MIT许可协议，支持免费商用、任意修改和衍生...……更多
2025-01-26 18:47:00好用,硅谷,屁股,员工,模型,美国
... 2此次提供的90亿（9B）和270亿（27B）参数的两个版本，其推理性能和效率均优于第一代，并具有显著的安全性改进。事实上，270亿参数版本可以与体积超过其两倍的模型进行同等级别的竞争，并且提供了此前只有专有模型才能实...……更多
2024-06-29 09:37:00诚意,经济,模型,训练,性能,注意力
...模型，一举创造了很多历史记录。o1 模型拥有真正的通用推理能力。在一系列高难基准测试中展现出了超强实力，相比 GPT-4o 有巨大提升，让大模型的上限从「没法看」直接上升到优秀水平，不专门训练直接数学奥赛金牌，甚至...……更多
2024-09-25 09:48:00饱和,规划,模型,测试,规划,能力
...开源模型系列，将“很快”放出基于最新模型Qwen2.5-Max的推理模型。2月21日，全球开发者大会（GDC）在上海开幕，在阿里云魔搭社区主办的论坛上，据阿里巴巴通义实验室科学家黄斐介绍，到目前为止，整个通义千问（Qwen）系列...……更多
2025-02-21 23:22:00通义,阿里,推理,实验室,模型,实验
更多关于科技的资讯：
3月11日，中国协作机器人第一股越疆科技（2432.HK）发布了全球首款“灵巧操作+直膝行走”具身智能人形机器人。越疆科技称
2025-03-11 19:01:00
天眼查知识产权信息显示，近日，华为数字能源技术有限公司申请的“一种电动车辆自动掉头的控制方法、控制器以及电动车辆”专利公布
2025-03-11 19:06:00
德州市陵城区滋镇惠农农资店里，店主刘鹏正忙着给村里的种植户配货。他的店铺主要销售化肥、种子、农药等农业生产资料，每到春耕和秋收时节
2025-03-11 20:13:00
3月6日,“云生AI提质增效”2025AI赋能招聘与人效提升分享会正式开启全国巡回分享的大幕,首站在四川成都成功举办。数百位企业代表来宾亲临现场学习交流
2025-03-11 20:17:00
科技之光与足球荣耀在山城重庆璀璨相遇。3月10日，2025世俱杯奖杯震撼亮相海信重庆解放碑快闪店。作为2025海信XFIFA世俱杯奖杯中国行的重要环节
2025-03-11 20:17:00
快科技3月11日消息，今晚REDMI品牌总经理王腾晒视频称，自己把友商的小米15 Ultra拆了，看看有啥优秀的影像能力和算法能继承到REDMI
2025-03-11 22:19:00
快科技3月11日消息，小米汽车今日晚间发布了答网友问（第122集）。有网友询问，为什么我的小米SU7 Ultra充电达不到标称的快充速度
2025-03-11 22:19:00
亿咖通科技（来源：企业官方）亿咖通科技（纳斯达克股票代码：ECX）于3月11日发布了2024年第四季度及全年业绩报告，宣布实现全面盈利
2025-03-11 22:25:00
“穷游”当道，文旅市场如何接招？聊城大学传媒技术学院专题调研给出答案曾经被视为小众旅行方式的“穷游”，如今已成为席卷文旅市场的文化现象
2025-03-11 22:34:00
快科技3月11日消息，今日晚间，美股禾赛科技开盘后股价一路暴涨，截止当前发稿，股价已上涨超41.79%。消息面上，禾赛科技在今日公布的2024年Q4财报中透露
2025-03-11 22:49:00
快科技3月11日消息，中国铁路宣布，漳汕高铁（漳州至汕头）漳江湾跨海特大桥日前迎来了重要的工程节点——海上首个桩基顺利开钻
2025-03-11 22:49:00
快科技3月11日消息，不知道从何时起，网上传出了余承东与刘亦菲相恋的消息，这确实让不少网友惊掉下巴。据国内媒体报道称，针对近日网传与刘亦菲恋情
2025-03-11 20:19:00
快科技3月11日消息，支付宝开放平台发布公告，通报了对于违规使用“芝麻先享”、“商家扣款”等API接口的治理情况，严厉打击“0元享
2025-03-11 20:19:00
快科技3月11日消息，《王者荣耀》宣布五五限时玩法【势力对决】现已上线体验服。当五排队伍选择的英雄均属于同一势力时，激活对应的势力技能
2025-03-11 20:19:00
在中央空调行业，产品性能与安装服务始终是用户体验的双重基石。海信中央空调基于对消费痛点的深刻洞察，以“精工匠信”为核心理念
2025-03-11 20:22:00