• 我的订阅
  • 头条热搜
NVIDIA RTX显卡AI推理提速5倍!
...理性能可以跑到每秒319tokens,相比其他后端的每秒61tokens提速足足4.2倍。RTX4090则可以从每秒tokens加速到每秒829tokens,提升幅度达2.8倍。基于强大的硬件性能、丰富的开发生态、广阔的应用场景,NVIDIARTX正成为本地端侧AI不可或缺...……更多
面壁智能的端侧大模型面壁MiniCPM正式亮相
...大的底层支撑,先是算力方面,凭借全流程高效infra10倍推理加速,能够将成本降低90%;其次在算法方面,面壁模型通过高效模型训练配置实现模型能力快速形成;数据处理方面,凭借现代化数据工厂形成从数据治理到多维评测...……更多
英伟达推出史上最强AI芯片H200:推理性能提升90%,无缘中国市场
...的H100的带宽和容量分别为3.35TB和80GB。这将提升大模型在推理方面的表现,并有助于提升高性能计算应用的计算能力。英伟达预计,H200将在明年二季度开始发货,谷歌、微软、甲骨文等科技巨头将会率先实现首批部署。但毫无疑...……更多
微软研究院推出orca2llm
...然后生成、回忆-原因-生成、提取-生成和直接回答等各种推理技术,同时还能为不同的任务选择不同的解决方案策略。Orca2模型相比较Llama2和WizardLM等大型语言模型,在痛苦理解、常识推理、多步推理、数学问题解决、阅读理解...……更多
系统级玩家微软、苹果先后出牌,端侧大模型路径清晰了?
...MGSM(跨语言数学能力)提升 2.3%,而DROP(文本段落分析推理)则下降了 3%。但与此同时,杀手级应用仍未出现。根据第三方网站SimilarWeb的监测数据,早在去年6月,ChatGPT流量即已见顶,当月其网站与移动客户端的全球流量(PV)...……更多
AI芯片下半场:英伟达不再一家独大
...)”的新AI芯片组,目的是为ChatGPT等大语言模型的训练及推理提供英伟达芯片之外的替代方案。另据Tom’s Hardware消息,Athena使用的是台积电5nm工艺,专为大语言模型训练设计。 曾有知情人士透露,在开发Athena期间,微软为了满...……更多
intelarca770升级改进ai大模型
IntelArc锐炫虽然初入独立显卡市场,但表现可圈可点,尤其是随着驱动的不断优化,各方面性能都在持续突飞猛进,包括游戏,包括AI。比如最高端的ArcA770,不但集成XMXAI加速功能,还拥有16GBGDDR6大容量显存,非常适合做生成式A...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...可以加快数据处理速度,尤其是在语音和图像识别方面。提速的关键,自然是算力。为了提升算力,微软也是下了血本:采用台积电的5nm制程工艺,晶体管数量达到1050亿个。和今年4月被曝光的信息相比,Maia的制程工艺、设计架...……更多
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
...让人印象深刻的是,英伟达在财报电话会议的一个观点:推理端的爆发,可能很多人还是低估了。据英伟达电话会议披露,公司全年数据中心里已经有40%的收入来自推理业务,超出了绝大部分人预期。而在这次财报电话会议里,...……更多
微软宣布Team Copilot发布,年内将推出初步预览版
...电脑,二是在信息日益增加的世界,电脑能不能帮助人类推理、规划以及更有效地运用所有的信息。纳德拉认为,现在这波AI浪潮能为微软找到实现这两大梦想的答案。随后,Nadella聚焦Copilot。纳德拉提到了包含随时可用本地API...……更多
PC迎来AI时刻,英特尔、微软、联想等纷纷布局,产品价格将迎上涨
...算力是上一代的8倍,可在PC上实现高能效的AI加速和本地推理,并适配超过10款国产大模型。英特尔的老对手AMD则抢先一步,上周发布Ryzen 8040系列处理器。该处理器集成了升级的专用AI引擎NPU,算力为16TOPS,AI性能相比上一代提升...……更多
英伟达宣布rtx系列显卡支持微软copilot+计划
...划,宣告了其拥抱人工智能的决心。英伟达宣布其RTX系列显卡将大力支持微软的全新Copilot+计划,该计划旨在为Windows11系统带来一系列强大的本地化功能。IT之家注意到,首批适配的设备包括来自华硕的五款笔记本电脑以及来自...……更多
RTX 40系GPU AI性能首测
...RTX40系列多款型号的显卡、笔记本电脑GPU在StableDiffusion的推理性能表现,其中在ULBenchmarkSD1.5TRTvs.OpenVINO的对比测试中RTX4090笔记本电脑GPU相对于Arc核显有超过27倍的性能提升。使用吐司基准测试完整LoRA模型在StableDif……更多
AMD MI300绝杀英伟达H100?跑GPT-4性能超25%,AI芯片大决战一触即发
...,因此它们一直被诟病生成的回答是基于概率,而非基于推理。这也就意味着,在当前的AI热潮中,这些模型架构可能无法幸存下来。毕竟,由于发展速度太快,如今的LLM寿命相对较短。昨天还炙手可热的模型,一两周后可能就...……更多
...比上一代虚拟机性能更强大,可显著提升AI模型的训练和推理速度。同时,微软选择了第四代英特尔XeonScalable处理器作为新一代计算机处理单元。此外,NDH100v5VM还采用了英伟达Quantum-2ConnectX-7InfiniBand技术,每个GPU可提供400Gb/s的带...……更多
谷歌和微软两位“印度老乡”CEO,正面硬刚
...布的大模型Bard将使用Gemini Pro的微调版本来进行更高级的推理、规划和理解等。谷歌官方称“这是Bard自推出以来最大的升级”。Gemini Nano被称为“端侧任务最高效的模型”,Android开发者可以通过AICore来使用。据悉AICore是Android 14 ...……更多
清华提出CharacterGLM;DeepMind联创发全新一代大模型;大模型版“5年高考3年模拟”来了丨AI新零售早报
...|微软&UCLA&UW联合出品》MathVista是一个多模态数学推理基准数据集,由微软、UCLA和UW联合开发,包含6141个数学问题,涵盖丰富的任务类型、推理能力和图像类型。特点:旨在提供一个全面、多样、复杂的视觉数学推理挑战...……更多
国产低价显卡坞评测:能让轻薄本用上本地大模型
...消息是,尽管CUDA是N卡专属,但这并不意味着A卡不可以AI推理加速,通过DirectML、GGML或者OpenCL,A卡可以绕开这个限制,使用GPU进行AI推理。在这里,我直接选用农企推荐的第三方解决方案LM Studio,这是一个闭源、跨平台和跨供应...……更多
微软:从“软件老大”到“AI帝国”
...Bing、GitHub Copilot 和 ChatGPT 等 AI 工作负载运行云端训练和推理。这款芯片采用了 5 纳米工艺制造,拥有 1050 亿个晶体管。 Azure Maia 100 美颜照|Microsoft微软自己的DPU——Azure Boost也已全面上市。微软在今年早些时候……更多
从0到1:国产化千卡集群的一小步,AI算力主动权的一大步
...出世,到后来的百模大战如火如荼,再到如今AI落地换挡提速,围绕算力的“全民焦虑”始终贯穿其间。供求关系紧张是产生算力焦虑的根源所在。一方面,大模型训练与推理需求呈几何级数爆发——自2022年以来,人工智能算力...……更多
AI应用遍地开花,AI应用该如何选择显卡?
...个大家都比较熟悉了,更高的算力意味着计算AI相关模型推理的时候,速度更快、效能更高。但是值得注意的是,硬件架构对应的软件支持在这里也有很重要的地位。比如英伟达的GPU在Stable Diffusion的应用中,专门推出了针对GPU Te...……更多
本周硅谷发生了什么?|苹果Vision Pro正式开售;Neuralink完成人类脑机接口植入;字节Coze国内版上线;
...推出数据分析工具“办公小浣熊”面壁智能发布2B模型,推理成本仅为GPT-4的1/360科大讯飞发布全民开放大模型星火V3.5百川智能发布Baichuan 3大模型,更好理解中文阿里巴巴开发的自主多模态AI代理MobileAgent上线苹果Vision Pro正式在...……更多
Anthropic再反击!发布Claude 3.5吊打GPT-4o,视觉、逻辑推理等方面表现更强
...本Claude 3.5 Sonnet。从官方披露的测试数据来看,其在逻辑推理、编程、数学等方面中的表现性能均超越GPT-4o。网友直言,“太卷了,现在AI竞争是要以周为单位了吗?” 从官方介绍来看,Claude 3.5全家桶仍会有3款系列模型,分别...……更多
5年投资超1000亿,北京公布一系列AI重磅成果,北大清华百度蚂蚁微软大佬齐谈AI未来|钛媒体AGI
...,从发现新材料到助力化学合成、生物医药等领域的研发提速,AI将在推动科学进程方面发挥关键作用。 张祺指出,AI新时代,微软正在为广大客户提供的服务和保障。长期以来,微软一直致力于打造全球生态、推动新技术普及...……更多
AI“卖铲人”英伟达,为何业绩再爆发?
...过1亿台RTX的AI PC提供生成式AI功能,包括用于加速大模型推理的Tensor-RT LLM。可以说游戏级显卡让PC端具备部署大模型应用的能力,而英伟达仍是该领域的引领者。 3、汽车业务成为第三增长曲线最新财季英伟达汽车业务收入达到2...……更多
老黄祭出史上最强 AI 芯片B200!30倍性能提升,AI 迎来新摩尔定律时代|钛媒体AGI
...ckwell,是英伟达A100/H100系列AI GPU的继任者。在大语言模型推理工作负载方面,Blackwell的性能相比H100 GPU提升了30倍,能耗却降低了25倍。亚马逊、谷歌、微软和甲骨文将是首批合作伙伴。此外,黄仁勋还在GTC大会推出了新一款服务...……更多
美国25万一张的显卡,禁止向中国供应!
...模、算法模型的精巧度、数据的质量和数量。AI大模型的推理、训练高度依赖英伟达的GPU芯片。缺少芯片会导致算力不足。算力不足意味着无法处理庞大的模型和数据量。最终的结果是,AI存在智商差距。拿当红的聊天机器人ChatG...……更多
chatgpt低成本复现流程开源
...。相比原生PyTorch,单机训练速度最高可提升7.73倍,单卡推理速度提升1.42倍,仅需一行代码即可调用。对于微调任务,可最多提升单卡的微调模型容量3.7倍,同时保持高速运行,同样仅需一行代码。要知道,ChatGPT火是真的火,...……更多
微软难以摆脱英伟达 |焦点分析
...在其科技大会上发布了两款自研芯片——用于云端训练和推理的AI芯片Azure Maia 100,和CPU(中央处理器)Azure Cobalt 100,分别在AI芯片和CPU芯片上正面对刚英伟达和英特尔。2023年3月ChatGPT火热后,英伟达的AI芯片A100、H100便一卡难求...……更多
加速AI落地企业!微软解读Copilot技术栈,云端混合大小模型是关键
...pilot。定制化的Copilot可通过记忆和知识了解上下文背景、推理需要进行的操作和行动,基于用户反馈进行学习,并主动寻求帮助,独立管理复杂、长期运行的业务流程。▲Copilot扩展的专属平台Microsoft Copilot Studio从IT设备采购、销...……更多
更多关于科技的资讯:
能买一台无人车 让他替我打工跑网约车吗 小马智行回应了
快科技7月14日消息,近期,百度Apollo旗下的“萝卜快跑”无人出租车的话题,引起关注热议。而国内开展无人驾驶车辆商业化运营服务的企业
2024-07-14 13:14:00
欧洲杯干崩了德国铁路!各种取消、晚点 两大原因
快科技7月14消息,“这届欧洲杯,你们打败了德国队,可你们没打败德国铁路。”德国专栏作家德希塞尔讽刺道。欧洲杯即将进入决赛
2024-07-14 13:14:00
努比亚z60ultra全面屏下摄像技术来了
前不久,又有消息传来称小米并未放弃MIX5的研发,并准备引入全域高分屏下前摄+去掉压屏条极致BM黑边+Unibody全陶瓷机身的组合
2024-07-14 13:18:00
手机连接wifi信号不好?打开这个功能,再也不担心卡顿!
在使用智能手机的时候,无论是在家还是在公司,许多人都会习惯性地打开手机的WiFi功能连接无线网络来上网。一方面是WiFi的网速比较快
2024-07-14 13:19:00
如何提高视频的质量
视频内容在近年来的学术交流中经历了爆炸式增长,不管是文献视频摘要、作者访谈,还是线上学术课程、医疗程序演示等,视频正变得越来越流行
2024-07-14 13:19:00
卢伟冰爆料:雷军将发布三款小米新机
7月14日消息,小米品牌总经理卢伟冰今日在微博发文爆料,除了已经官宣过的K70至尊,本月还将再发布大折叠、小折叠共三款新机
2024-07-14 13:22:00
荣耀平板MagicPad2提前上架线下体验店
7月11日,有数码博主爆料,荣耀平板MagicPad2已经“偷跑”,在正式发布的前一天提前上架线下体验店。店内信息显示
2024-07-14 13:25:00
索尼ZV-E10 II微单正式发布!
索尼正式发布全新ZV-E10II微单相机,采用与索尼A6700相同的2600万像素ExmorR背照式感光元件,让拍摄效果及机身性能较上一代ZV-E10有著显著提升
2024-07-14 13:25:00
6999元?荣耀Magic Vs3跑分曝光
荣耀即将于7月12日举办新品发布会,届时荣耀MagicV3和荣耀MagicVs3两款折叠屏旗舰手机将和大家见面。其中,MagicVs3的性能评测数据已提前曝光
2024-07-14 13:25:00
魏大程团队设计了一种新型功能型光刻胶
随着现代信息科技的发展,功能芯片的集成密度越来越高,硅基芯片集成器件的密度已经超过2亿个晶体管每平方毫米。目前,集成电路芯片主要采用单晶硅制造
2024-07-14 13:25:00
七彩虹GeForce RTX显卡引领AI硬件新潮流
BILIBILIWorld2024正火热进行中,正值暑期的你是否已经成功过抢到门票了呢?如果没有也不必失望,我们将为你带来“云观展”体验
2024-07-14 13:26:00
量子技术突破,为更可靠的量子器件铺平了道路
一种新的量子方法显著提高了系统相干性和传感能力,增强了在精密工业中的潜在应用。一种显著提高量子技术性能的新方法,是利用两个噪声源的互相关来延长相干时间
2024-07-14 13:26:00
Redmi K70 至尊版性能评测:跑分231万
最近的手机市场用性价比旗舰“神仙打架”来形容毫不为过,各家主打高性能和游戏体验的产品轮番上阵,为用户带来了新的选择。作为性价比阵营的常青树
2024-07-14 13:26:00
iPhone16系列新功能更具吸引力,出货量有望提升
苹果将会在秋季的时候推出新款iPhone手机iPhone16系列手机,随着iPhone16系列手机的推出时间越来越近,关于iPhone16系列手机的新消息也是越来越多
2024-07-14 13:27:00
澎湃OS+天玑处理器,RedmiK70至尊版全新配色公布
红米本月将推出RedmiK70至尊版手机,在RedmiK70至尊版推出前,其全新配置也已经揭晓了。小米中国区市场部副总经理
2024-07-14 13:28:00