- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...理性能可以跑到每秒319tokens，相比其他后端的每秒61tokens提速足足4.2倍。RTX4090则可以从每秒tokens加速到每秒829tokens，提升幅度达2.8倍。基于强大的硬件性能、丰富的开发生态、广阔的应用场景，NVIDIARTX正成为本地端侧AI不可或缺...……更多
2023-11-16 20:13:00提速,推理,显卡,微软,模型,性能
...大的底层支撑，先是算力方面，凭借全流程高效infra10倍推理加速，能够将成本降低90%；其次在算法方面，面壁模型通过高效模型训练配置实现模型能力快速形成；数据处理方面，凭借现代化数据工厂形成从数据治理到多维评测...……更多
2024-02-01 21:36:00模型,智能,模型,智能,用户,数据
...的H100的带宽和容量分别为3.35TB和80GB。这将提升大模型在推理方面的表现，并有助于提升高性能计算应用的计算能力。英伟达预计，H200将在明年二季度开始发货，谷歌、微软、甲骨文等科技巨头将会率先实现首批部署。但毫无疑...……更多
2023-11-14 14:05:00英伟,中国,推理,芯片,性能,市场
...然后生成、回忆-原因-生成、提取-生成和直接回答等各种推理技术，同时还能为不同的任务选择不同的解决方案策略。Orca2模型相比较Llama2和WizardLM等大型语言模型，在痛苦理解、常识推理、多步推理、数学问题解决、阅读理解...……更多
2023-11-22 11:08:00微软,研究院,研究,微软,模型,推理
...2.5%，表明了目前基础模型的非凡表现。但GPT-4在需要复杂推理或特定领域知识的任务中不太熟练，文中对模型能力(理解、知识、推理和计算)的全面分析揭示了这些模型的优势和局限性。AGIEval数据集近年来，大型基础模型如GPT-4...……更多
2023-05-13 21:28:00微软,基准,专为,团队,人类,全新
...）”的新AI芯片组，目的是为ChatGPT等大语言模型的训练及推理提供英伟达芯片之外的替代方案。另据Tom’s Hardware消息，Athena使用的是台积电5nm工艺，专为大语言模型训练设计。
曾有知情人士透露，在开发Athena期间，微软为了满...……更多
2023-11-16 23:46:00英伟,芯片,一家,芯片,英伟,微软
IntelArc锐炫虽然初入独立显卡市场，但表现可圈可点，尤其是随着驱动的不断优化，各方面性能都在持续突飞猛进，包括游戏，包括AI。比如最高端的ArcA770，不但集成XMXAI加速功能，还拥有16GBGDDR6大容量显存，非常适合做生成式A...……更多
2023-11-21 13:03:00模型,升级,性能,驱动,显卡,微软
...可以加快数据处理速度，尤其是在语音和图像识别方面。提速的关键，自然是算力。为了提升算力，微软也是下了血本：采用台积电的5nm制程工艺，晶体管数量达到1050亿个。和今年4月被曝光的信息相比，Maia的制程工艺、设计架...……更多
2023-11-23 09:36:00老黄,英伟,微软,芯片,芯片,英伟
...让人印象深刻的是，英伟达在财报电话会议的一个观点：推理端的爆发，可能很多人还是低估了。据英伟达电话会议披露，公司全年数据中心里已经有40%的收入来自推理业务，超出了绝大部分人预期。而在这次财报电话会议里，...……更多
2024-03-02 13:38:00英伟,电话会议,推理,收入,需求,端的
...电脑，二是在信息日益增加的世界，电脑能不能帮助人类推理、规划以及更有效地运用所有的信息。纳德拉认为，现在这波AI浪潮能为微软找到实现这两大梦想的答案。随后，Nadella聚焦Copilot。纳德拉提到了包含随时可用本地API...……更多
2024-05-22 20:01:00微软,微软,纳德拉,纳德,模型,功能
...算力是上一代的8倍，可在PC上实现高能效的AI加速和本地推理，并适配超过10款国产大模型。英特尔的老对手AMD则抢先一步，上周发布Ryzen 8040系列处理器。该处理器集成了升级的专用AI引擎NPU，算力为16TOPS，AI性能相比上一代提升...……更多
2023-12-12 16:27:00英特,英特尔,微软,布局,时刻,价格
...划，宣告了其拥抱人工智能的决心。英伟达宣布其RTX系列显卡将大力支持微软的全新Copilot+计划，该计划旨在为Windows11系统带来一系列强大的本地化功能。IT之家注意到，首批适配的设备包括来自华硕的五款笔记本电脑以及来自...……更多
2024-06-03 09:24:00英伟,微软,显卡,支持,英伟,功能
...RTX40系列多款型号的显卡、笔记本电脑GPU在StableDiffusion的推理性能表现，其中在ULBenchmarkSD1.5TRTvs.OpenVINO的对比测试中RTX4090笔记本电脑GPU相对于Arc核显有超过27倍的性能提升。使用吐司基准测试完整LoRA模型在StableDif……更多
2024-05-04 17:17:00性能,生成,测试,创作,火星,图片
...，因此它们一直被诟病生成的回答是基于概率，而非基于推理。这也就意味着，在当前的AI热潮中，这些模型架构可能无法幸存下来。毕竟，由于发展速度太快，如今的LLM寿命相对较短。昨天还炙手可热的模型，一两周后可能就...……更多
2023-11-06 15:12:00英伟,大决战,芯片,性能,英伟,芯片
...比上一代虚拟机性能更强大，可显著提升AI模型的训练和推理速度。同时，微软选择了第四代英特尔XeonScalable处理器作为新一代计算机处理单元。此外，NDH100v5VM还采用了英伟达Quantum-2ConnectX-7InfiniBand技术，每个GPU可提供400Gb/s的带...……更多
2023-11-21 20:20:00微软,英伟,微软,模型,带宽,速度
...布的大模型Bard将使用Gemini Pro的微调版本来进行更高级的推理、规划和理解等。谷歌官方称“这是Bard自推出以来最大的升级”。Gemini Nano被称为“端侧任务最高效的模型”，Android开发者可以通过AICore来使用。据悉AICore是Android 14 ...……更多
2023-12-08 16:29:00印度,微软,老乡,正面,模型,微软
...｜微软&UCLA&UW联合出品》MathVista是一个多模态数学推理基准数据集，由微软、UCLA和UW联合开发，包含6141个数学问题，涵盖丰富的任务类型、推理能力和图像类型。特点：旨在提供一个全面、多样、复杂的视觉数学推理挑战...……更多
2023-12-06 09:22:00联创,模型,清华,早报,一代,零售
...消息是，尽管CUDA是N卡专属，但这并不意味着A卡不可以AI推理加速，通过DirectML、GGML或者OpenCL，A卡可以绕开这个限制，使用GPU进行AI推理。在这里，我直接选用农企推荐的第三方解决方案LM Studio，这是一个闭源、跨平台和跨供应...……更多
2024-04-30 11:00:00显卡,模型,评测,国产,低价,显卡
...Bing、GitHub Copilot 和 ChatGPT 等 AI 工作负载运行云端训练和推理。这款芯片采用了 5 纳米工艺制造，拥有 1050 亿个晶体管。
Azure Maia 100 美颜照｜Microsoft微软自己的DPU——Azure Boost也已全面上市。微软在今年早些时候……更多
2023-11-21 10:45:00帝国,微软,老大,软件,微软,模型
...出世，到后来的百模大战如火如荼，再到如今AI落地换挡提速，围绕算力的“全民焦虑”始终贯穿其间。供求关系紧张是产生算力焦虑的根源所在。一方面，大模型训练与推理需求呈几何级数爆发——自2022年以来，人工智能算力...……更多
2024-04-28 11:52:00小步,主动权,集群,大步,主动,国产
...个大家都比较熟悉了，更高的算力意味着计算AI相关模型推理的时候，速度更快、效能更高。但是值得注意的是，硬件架构对应的软件支持在这里也有很重要的地位。比如英伟达的GPU在Stable Diffusion的应用中，专门推出了针对GPU Te...……更多
2024-04-19 10:30:00应用,显卡,选择,显存,显卡,选择
...推出数据分析工具“办公小浣熊”面壁智能发布2B模型，推理成本仅为GPT-4的1/360科大讯飞发布全民开放大模型星火V3.5百川智能发布Baichuan 3大模型，更好理解中文阿里巴巴开发的自主多模态AI代理MobileAgent上线苹果Vision Pro正式在...……更多
2024-02-05 11:37:00硅谷,字节,接口,人类,苹果,模型
...，从发现新材料到助力化学合成、生物医药等领域的研发提速，AI将在推动科学进程方面发挥关键作用。
张祺指出，AI新时代，微软正在为广大客户提供的服务和保障。长期以来，微软一直致力于打造全球生态、推动新技术普及...……更多
2024-04-28 11:00:00大佬,清华,微软,重磅,北京,蚂蚁
...过1亿台RTX的AI PC提供生成式AI功能，包括用于加速大模型推理的Tensor-RT LLM。可以说游戏级显卡让PC端具备部署大模型应用的能力，而英伟达仍是该领域的引领者。
3、汽车业务成为第三增长曲线最新财季英伟达汽车业务收入达到2...……更多
2024-05-25 09:55:00英伟,业绩,英伟,业务,领域,汽车
...ckwell，是英伟达A100/H100系列AI GPU的继任者。在大语言模型推理工作负载方面，Blackwell的性能相比H100 GPU提升了30倍，能耗却降低了25倍。亚马逊、谷歌、微软和甲骨文将是首批合作伙伴。此外，黄仁勋还在GTC大会推出了新一款服务...……更多
2024-03-19 13:00:00老黄,摩尔,定律,芯片,性能,媒体
...模、算法模型的精巧度、数据的质量和数量。AI大模型的推理、训练高度依赖英伟达的GPU芯片。缺少芯片会导致算力不足。算力不足意味着无法处理庞大的模型和数据量。最终的结果是，AI存在智商差距。拿当红的聊天机器人ChatG...……更多
2023-03-09 17:45:00美国,中国,显卡,供应,英伟,芯片
...。相比原生PyTorch，单机训练速度最高可提升7.73倍，单卡推理速度提升1.42倍，仅需一行代码即可调用。对于微调任务，可最多提升单卡的微调模型容量3.7倍，同时保持高速运行，同样仅需一行代码。要知道，ChatGPT火是真的火，...……更多
2023-02-15 15:47:00流程,成本,模型,训练,内存,参数
...在其科技大会上发布了两款自研芯片——用于云端训练和推理的AI芯片Azure Maia 100，和CPU（中央处理器）Azure Cobalt 100，分别在AI芯片和CPU芯片上正面对刚英伟达和英特尔。2023年3月ChatGPT火热后，英伟达的AI芯片A100、H100便一卡难求...……更多
2023-11-20 13:32:00英伟,微软,焦点,分析,英伟,芯片
...pilot。定制化的Copilot可通过记忆和知识了解上下文背景、推理需要进行的操作和行动，基于用户反馈进行学习，并主动寻求帮助，独立管理复杂、长期运行的业务流程。▲Copilot扩展的专属平台Microsoft Copilot Studio从IT设备采购、销...……更多
2024-06-15 09:29:00微软,云端,落地,混合,模型,大小
...左右API“价格战”？在降价之外，有媒体指出，加快模型推理速度（即每秒生成Token的数量）也是硅谷大模型市场的主要竞争点。但“卷”价格、“卷”速度真的会赢得未来吗？硅谷在“拼”什么？5月中旬，字节跳动豆包以0.0008...……更多
2024-05-27 15:27:00硅谷,价格,价格战,一味,模型,模型
更多关于科技的资讯：
快科技6月21日消息，据媒体报道，一组比亚迪全新MPV车型的伪装实车图被曝光，据车辆细节推测，这款车可能被命名为“唐MAX”
2024-06-21 12:49:00
高端纺织服装产业是江苏江阴重点打造的千亿级主导产业之一，经过多年的发展，已经构建了从上游原材料生产，中游纺织染齐备，到下游终端销售及品牌打造的全产业链
2024-06-21 13:44:00
快科技6月21日消息，据媒体报道，腾讯旗下的AI大模型应用“腾讯元宝”近日进行了重要升级，显著提升了其AI搜索及解析能力
2024-06-21 13:34:00
AI骗术来了！你能通过官方“防骗测评”吗?你知道AI骗术吗？ 赶快测测你的“防骗意识”吧！今日，由处置非法集资部际联席会议办公室指导
2024-06-21 13:28:00
近日，在2024北京-南京国际城市轨道交通展览会暨高峰论坛期间，华为面向全球发布“智慧枢纽”解决方案，以创新ICT（信息与通信技术）技术助力城轨行业站城融合发展
2024-06-21 13:00:00
新华网推出“中国经济的信心”大型主题系列采访，对话重点行业领域企业负责人，传递市场声音、提振发展信心、激励使命担当。近日
2024-06-21 13:27:00
快科技6月21日消息，据国内媒体报道称，腾讯正挑战安卓系手机厂商，为旗下多款热门手游正重谈分成比例。本周，腾讯旗下游戏《地下城与勇士
2024-06-21 14:04:00
6月21日消息，新加坡国立大学、西澳大利亚大学的研究人员在2024年5月20日的《美国国家科学院院刊》（PNAS）上发表的一项研究揭示
2024-06-21 14:04:00
文｜罗曾日前，媒体报道提及，vivo印度公司正与印度塔塔集团（Tata Group）展开深入谈判，探讨塔塔集团收购vivo在印度的多数股份并成立合资公司的可能性
2024-06-21 14:22:00
快科技6月21日消息，一加夏季性能生态新品发布会将于6月27日举办，届时，除了发布一加Ace 3 Pro外，还将带来一加平板 Pro
2024-06-21 14:19:00
快科技6月21日消息，今天，一加宣布将于6月27日推出一加Ace 3 Pro，这次一加还带来了Ace 3 Pro陶瓷版
2024-06-21 14:34:00
本文转自：中国新闻网中新网北京6月21日电 (记者 吕少威)2024全球数字经济大会将于7月2日至5日在国家会议中心举办
2024-06-21 14:34:00
本文转自：中国新闻网中新网北京6月21日电 (谢雁冰)《全球传播生态蓝皮书：全球传播生态发展报告(2023)》(以下简称“报告”)21日发布
2024-06-21 14:26:00
来源：俄罗斯卫星通讯社俄罗斯卫星通讯社莫斯科电据卫星通讯社记者发回报道，中国高端电动汽车ExlantixES亮相莫斯科可再生能源及电动汽车国际展览会（RENWEX）
2024-06-21 14:12:00
日前，T1直落两局战胜DK后，俱乐部工作人员在返程的大巴车上开启直播，队长Faker和队友们聊起了阿狸名人堂皮肤。Q：问下Faker选手
2024-06-21 14:34:00