- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...理性能可以跑到每秒319tokens，相比其他后端的每秒61tokens提速足足4.2倍。RTX4090则可以从每秒tokens加速到每秒829tokens，提升幅度达2.8倍。基于强大的硬件性能、丰富的开发生态、广阔的应用场景，NVIDIARTX正成为本地端侧AI不可或缺...……更多
2023-11-16 20:13:00提速,推理,显卡,微软,模型,性能
有CPU就能跑大模型，性能甚至超过NPU/GPU！没错，为了优化模型端侧部署，微软亚洲研究院提出了一种新技术——T-MAC。这项技术主打性价比，不仅能让端侧模型跑得更快，而且资源消耗量更少。咋做到的？？在CPU上高效部署低...……更多
2024-08-10 09:52:00新技,微软,提速,新技术,模型,手机
...大的底层支撑，先是算力方面，凭借全流程高效infra10倍推理加速，能够将成本降低90%；其次在算法方面，面壁模型通过高效模型训练配置实现模型能力快速形成；数据处理方面，凭借现代化数据工厂形成从数据治理到多维评测...……更多
2024-02-01 21:36:00模型,智能,模型,智能,用户,数据
...支持128k上下文长度。Phi-3.5-mini-instruct主要面向基础快速推理任务，Phi-3.5-MoE-instruct可胜任复杂推理任务，Phi-3.5-vision-instruct则兼具文本与视觉能力。性能最强大的Phi-3.5-MoE-instruct模型有419亿个参数，……更多
2024-08-22 09:49:00上下文,微软,架构,模型,上下,性能
...的H100的带宽和容量分别为3.35TB和80GB。这将提升大模型在推理方面的表现，并有助于提升高性能计算应用的计算能力。英伟达预计，H200将在明年二季度开始发货，谷歌、微软、甲骨文等科技巨头将会率先实现首批部署。但毫无疑...……更多
2023-11-14 14:05:00英伟,中国,推理,芯片,性能,市场
...然后生成、回忆-原因-生成、提取-生成和直接回答等各种推理技术，同时还能为不同的任务选择不同的解决方案策略。Orca2模型相比较Llama2和WizardLM等大型语言模型，在痛苦理解、常识推理、多步推理、数学问题解决、阅读理解...……更多
2023-11-22 11:08:00微软,研究院,研究,微软,模型,推理
...2.5%，表明了目前基础模型的非凡表现。但GPT-4在需要复杂推理或特定领域知识的任务中不太熟练，文中对模型能力(理解、知识、推理和计算)的全面分析揭示了这些模型的优势和局限性。AGIEval数据集近年来，大型基础模型如GPT-4...……更多
2023-05-13 21:28:00微软,基准,专为,团队,人类,全新
...MGSM（跨语言数学能力）提升 2.3%，而DROP（文本段落分析推理）则下降了 3%。但与此同时，杀手级应用仍未出现。根据第三方网站SimilarWeb的监测数据，早在去年6月，ChatGPT流量即已见顶，当月其网站与移动客户端的全球流量（PV）...……更多
2024-06-21 09:16:00微软,路径,模型,先后,苹果,玩家
...）”的新AI芯片组，目的是为ChatGPT等大语言模型的训练及推理提供英伟达芯片之外的替代方案。另据Tom’s Hardware消息，Athena使用的是台积电5nm工艺，专为大语言模型训练设计。
曾有知情人士透露，在开发Athena期间，微软为了满...……更多
2023-11-16 23:46:00英伟,芯片,一家,芯片,英伟,微软
IntelArc锐炫虽然初入独立显卡市场，但表现可圈可点，尤其是随着驱动的不断优化，各方面性能都在持续突飞猛进，包括游戏，包括AI。比如最高端的ArcA770，不但集成XMXAI加速功能，还拥有16GBGDDR6大容量显存，非常适合做生成式A...……更多
2023-11-21 13:03:00模型,升级,性能,驱动,显卡,微软
...。Intel还采用KV Caching、PagedAttention机制和张量并行，提高推理效率。Intel的硬件也可利用软件框架和工具包进行加速，并获得出色的大模型推理性能，包括PyTorch以及Intel PyTorch扩展包、OpenVINO工具包、DeepSpeed、Hugging F……更多
2024-07-18 14:57:00三条,通义,阿里,模型,参数,通义
...Mamba模型，并且设计了新的推测解码算法，加速了模型的推理。先来看一张其乐融融的图片（一眼AI）：右边的小羊驼代表Llama，而左边的蛇（Mamba）也是我们的老熟人了。至于到底能不能其乐融融，咱就不管了，之所以有此场景...……更多
2024-09-06 10:01:00推理,更快,性能,模型,输出,训练
...可以加快数据处理速度，尤其是在语音和图像识别方面。提速的关键，自然是算力。为了提升算力，微软也是下了血本：采用台积电的5nm制程工艺，晶体管数量达到1050亿个。和今年4月被曝光的信息相比，Maia的制程工艺、设计架...……更多
2023-11-23 09:36:00老黄,英伟,微软,芯片,芯片,英伟
...让人印象深刻的是，英伟达在财报电话会议的一个观点：推理端的爆发，可能很多人还是低估了。据英伟达电话会议披露，公司全年数据中心里已经有40%的收入来自推理业务，超出了绝大部分人预期。而在这次财报电话会议里，...……更多
2024-03-02 13:38:00英伟,电话会议,推理,收入,需求,端的
...电脑，二是在信息日益增加的世界，电脑能不能帮助人类推理、规划以及更有效地运用所有的信息。纳德拉认为，现在这波AI浪潮能为微软找到实现这两大梦想的答案。随后，Nadella聚焦Copilot。纳德拉提到了包含随时可用本地API...……更多
2024-05-22 20:01:00微软,微软,纳德拉,纳德,模型,功能
...划，宣告了其拥抱人工智能的决心。英伟达宣布其RTX系列显卡将大力支持微软的全新Copilot+计划，该计划旨在为Windows11系统带来一系列强大的本地化功能。IT之家注意到，首批适配的设备包括来自华硕的五款笔记本电脑以及来自...……更多
2024-06-03 09:24:00英伟,微软,显卡,支持,英伟,功能
...算力是上一代的8倍，可在PC上实现高能效的AI加速和本地推理，并适配超过10款国产大模型。英特尔的老对手AMD则抢先一步，上周发布Ryzen 8040系列处理器。该处理器集成了升级的专用AI引擎NPU，算力为16TOPS，AI性能相比上一代提升...……更多
2023-12-12 16:27:00英特,英特尔,微软,布局,时刻,价格
...RTX40系列多款型号的显卡、笔记本电脑GPU在StableDiffusion的推理性能表现，其中在ULBenchmarkSD1.5TRTvs.OpenVINO的对比测试中RTX4090笔记本电脑GPU相对于Arc核显有超过27倍的性能提升。使用吐司基准测试完整LoRA模型在StableDif……更多
2024-05-04 17:17:00性能,生成,测试,创作,火星,图片
...，因此它们一直被诟病生成的回答是基于概率，而非基于推理。这也就意味着，在当前的AI热潮中，这些模型架构可能无法幸存下来。毕竟，由于发展速度太快，如今的LLM寿命相对较短。昨天还炙手可热的模型，一两周后可能就...……更多
2023-11-06 15:12:00英伟,大决战,芯片,性能,英伟,芯片
...比上一代虚拟机性能更强大，可显著提升AI模型的训练和推理速度。同时，微软选择了第四代英特尔XeonScalable处理器作为新一代计算机处理单元。此外，NDH100v5VM还采用了英伟达Quantum-2ConnectX-7InfiniBand技术，每个GPU可提供400Gb/s的带...……更多
2023-11-21 20:20:00微软,英伟,微软,模型,带宽,速度
...布的大模型Bard将使用Gemini Pro的微调版本来进行更高级的推理、规划和理解等。谷歌官方称“这是Bard自推出以来最大的升级”。Gemini Nano被称为“端侧任务最高效的模型”，Android开发者可以通过AICore来使用。据悉AICore是Android 14 ...……更多
2023-12-08 16:29:00印度,微软,老乡,正面,模型,微软
...，除了面向AI训练的服务器级别的硬件之外，主要用于AI推理的消费级处理器同样也需要强大的算力，让AI应用更加高效。在台北Computex2024中，AMD发布了Zen5架构处理器，包括锐龙AI300系以及锐龙9000系处理器，就在上周，AMD于洛杉...……更多
2024-07-16 16:09:00架构,处理器,性能,传统,处理,处理器
...LLM之间的性能差距正在迅速缩小，特别是在多项选择题、推理和数学问题等特定任务中，顶级模型之间的差异极小。例如，在多项选择题中，Claude 3 Opus、GPT- 4 和Gemini Ultra的准确率均超过83%，而在推理任务中，Claude3 Opus、GPT-4和Ge...……更多
2024-08-26 14:17:00模型,英伟,微软,模型,训练,性能
...｜微软&UCLA&UW联合出品》MathVista是一个多模态数学推理基准数据集，由微软、UCLA和UW联合开发，包含6141个数学问题，涵盖丰富的任务类型、推理能力和图像类型。特点：旨在提供一个全面、多样、复杂的视觉数学推理挑战...……更多
2023-12-06 09:22:00联创,模型,清华,早报,一代,零售
...消息是，尽管CUDA是N卡专属，但这并不意味着A卡不可以AI推理加速，通过DirectML、GGML或者OpenCL，A卡可以绕开这个限制，使用GPU进行AI推理。在这里，我直接选用农企推荐的第三方解决方案LM Studio，这是一个闭源、跨平台和跨供应...……更多
2024-04-30 11:00:00显卡,模型,评测,国产,低价,显卡
...Bing、GitHub Copilot 和 ChatGPT 等 AI 工作负载运行云端训练和推理。这款芯片采用了 5 纳米工艺制造，拥有 1050 亿个晶体管。
Azure Maia 100 美颜照｜Microsoft微软自己的DPU——Azure Boost也已全面上市。微软在今年早些时候……更多
2023-11-21 10:45:00帝国,微软,老大,软件,微软,模型
...出世，到后来的百模大战如火如荼，再到如今AI落地换挡提速，围绕算力的“全民焦虑”始终贯穿其间。供求关系紧张是产生算力焦虑的根源所在。一方面，大模型训练与推理需求呈几何级数爆发——自2022年以来，人工智能算力...……更多
2024-04-28 11:52:00小步,主动权,集群,大步,主动,国产
...个大家都比较熟悉了，更高的算力意味着计算AI相关模型推理的时候，速度更快、效能更高。但是值得注意的是，硬件架构对应的软件支持在这里也有很重要的地位。比如英伟达的GPU在Stable Diffusion的应用中，专门推出了针对GPU Te...……更多
2024-04-19 10:30:00应用,显卡,选择,显存,显卡,选择
...推出数据分析工具“办公小浣熊”面壁智能发布2B模型，推理成本仅为GPT-4的1/360科大讯飞发布全民开放大模型星火V3.5百川智能发布Baichuan 3大模型，更好理解中文阿里巴巴开发的自主多模态AI代理MobileAgent上线苹果Vision Pro正式在...……更多
2024-02-05 11:37:00硅谷,字节,接口,人类,苹果,模型
...本Claude 3.5 Sonnet。从官方披露的测试数据来看，其在逻辑推理、编程、数学等方面中的表现性能均超越GPT-4o。网友直言，“太卷了，现在AI竞争是要以周为单位了吗？”
从官方介绍来看，Claude 3.5全家桶仍会有3款系列模型，分别...……更多
2024-06-21 11:50:00逻辑推理,推理,逻辑,视觉,方面,模型
更多关于科技的资讯：
众所周知，晒黑、晒伤、光老化、光加剧性皮肤病、光致癌，是目前皮肤光损伤的主要表现。从需求端来看，消费者不仅要光防护，还要重视光损修护
2024-09-23 19:40:00
快科技9月23日消息，《黑神话：悟空》现已发售一个多月，众多玩家已经完成了游戏，满怀期待游戏科学能够放出《黑神话：悟空》DLC或其他方面的消息
2024-09-23 19:57:00
快科技9月23日消息，荣耀亲选JOWAY 22.5W移动电源今日正式开启预售，首发89元。据悉，新款移动电源兼容SCP
2024-09-23 19:57:00
最近，接二连三的台风经过魔都，雨哗哗下个不停，给很多人的出行带来了极大的不便……正在漏水的窗户
而初秋上海，你虽被风+雨淋个透湿
2024-09-23 19:57:00
快科技9月23日消息，ROG魔导士ACE HFX磁轴键盘目前已经上市开售，首发999元。据悉，新款键盘采用紧凑的68键布局
2024-09-23 19:57:00
9月22日消息，微软已经开始筹划庆祝其Xbox品牌的一个重要里程碑——Xbox25周年。在接受《LicenseGlobal》杂志采访时
2024-09-23 20:02:00
在当今快节奏的生活中，人们对健康的追求愈发强烈，而口腔健康作为整体健康的关键一环，更是备受瞩目。洁碧，这个冲牙器领域的传奇品牌
2024-09-23 20:18:00
在互联网的浪潮中，有这样一位领航者，他以深厚的行业积淀和敏锐的洞察力，为本地生活领域带来了一场前所未有的变革——赵崇鹏先生
2024-09-23 20:22:00
9月23日下午，稳健医疗用品股份有限公司（以下简称“稳健医疗”）发布公告称，以现金形式收购Global Resources International
2024-09-23 20:23:00
近日，快手主播杨润心（蛋蛋）宣布粉丝破亿，成为全网唯一一位粉丝破亿的直播带货女主播。9月21日，蛋蛋以一场史无前例的“破亿之战”刷新了大众对行业的期待
2024-09-23 20:24:00
快科技9月23日消息，全新的联想拯救者Y700已经预热许久，今天官方公布了散热规格。新一代搭载乾坤散热架构，拥有10004mm²超大VC
2024-09-23 20:27:00
9月20日，山东省第五届“省长杯”工业设计大赛颁奖仪式在2024世界工业设计大会开幕式活动现场隆重举行。山东稀有科技发展有限公司（稀有高科）创新研发的“热湃®气凝胶蓄热抑菌纤维/纱线”经过历时4个月初赛
2024-09-23 20:29:00
本文转自：人民网人民网北京9月23日电 （记者夏晓伦）9月22日，北京机械工业自动化研究所有限公司（以下简称“北自所”）召开第一届智能制造技术与产业创新发展大会
2024-09-23 20:34:00
9月23日消息，上汽通用五菱即将于9月24日在广西南宁发布其首款全球概念车。
同时，发布会还将展示上汽通用五菱的东盟战略
2024-09-23 20:51:00
9月23日消息，今日，红米官方正式宣布了RedmiNote14系列手机将于9月26日19:00发布。其中RedmiNote14Pro系列支持IP66+IP68+IP69
2024-09-23 20:54:00