• 我的订阅
  • 头条热搜
NVIDIA RTX显卡AI推理提速5倍!
...理性能可以跑到每秒319tokens,相比其他后端的每秒61tokens提速足足4.2倍。RTX4090则可以从每秒tokens加速到每秒829tokens,提升幅度达2.8倍。基于强大的硬件性能、丰富的开发生态、广阔的应用场景,NVIDIARTX正成为本地端侧AI不可或缺...……更多
13代酷睿支持160亿参数大模型、Arc显卡提速54%
生成式AI(AIGC)无疑是当下最热门的话题和应用,各家软硬件厂商都在全力投入。作为拥有强大硬件、广泛生态的行业领袖,Intel也正在大力推动PCAIGC应用的落地,从硬件到软件提供全方位支持。目前在PC平台上,Intel已发布的12/13...……更多
从狂热到理性:大模型训练三堵墙,一场少数人的游戏 | 钛媒体深度
...的地方需要加速,像通信需要加速、显存需要压缩、整个推理也需要加速。百度智能云能够把调优手段集成到基础库,对于大模型计算和推理非常有帮助。”谢广军说。从平台的视角来说,不管是训练任务还是推理任务,单个的...……更多
面壁智能的端侧大模型面壁MiniCPM正式亮相
...大的底层支撑,先是算力方面,凭借全流程高效infra10倍推理加速,能够将成本降低90%;其次在算法方面,面壁模型通过高效模型训练配置实现模型能力快速形成;数据处理方面,凭借现代化数据工厂形成从数据治理到多维评测...……更多
英伟达推出史上最强AI芯片H200:推理性能提升90%,无缘中国市场
...的H100的带宽和容量分别为3.35TB和80GB。这将提升大模型在推理方面的表现,并有助于提升高性能计算应用的计算能力。英伟达预计,H200将在明年二季度开始发货,谷歌、微软、甲骨文等科技巨头将会率先实现首批部署。但毫无疑...……更多
微软研究院推出orca2llm
...然后生成、回忆-原因-生成、提取-生成和直接回答等各种推理技术,同时还能为不同的任务选择不同的解决方案策略。Orca2模型相比较Llama2和WizardLM等大型语言模型,在痛苦理解、常识推理、多步推理、数学问题解决、阅读理解...……更多
微软华人团队发布全新基准AGIEval,专为人类考试而生
...2.5%,表明了目前基础模型的非凡表现。但GPT-4在需要复杂推理或特定领域知识的任务中不太熟练,文中对模型能力(理解、知识、推理和计算)的全面分析揭示了这些模型的优势和局限性。AGIEval数据集近年来,大型基础模型如GPT-4...……更多
系统级玩家微软、苹果先后出牌,端侧大模型路径清晰了?
...MGSM(跨语言数学能力)提升 2.3%,而DROP(文本段落分析推理)则下降了 3%。但与此同时,杀手级应用仍未出现。根据第三方网站SimilarWeb的监测数据,早在去年6月,ChatGPT流量即已见顶,当月其网站与移动客户端的全球流量(PV)...……更多
AI芯片下半场:英伟达不再一家独大
...)”的新AI芯片组,目的是为ChatGPT等大语言模型的训练及推理提供英伟达芯片之外的替代方案。另据Tom’s Hardware消息,Athena使用的是台积电5nm工艺,专为大语言模型训练设计。 曾有知情人士透露,在开发Athena期间,微软为了满...……更多
intelarca770升级改进ai大模型
IntelArc锐炫虽然初入独立显卡市场,但表现可圈可点,尤其是随着驱动的不断优化,各方面性能都在持续突飞猛进,包括游戏,包括AI。比如最高端的ArcA770,不但集成XMXAI加速功能,还拥有16GBGDDR6大容量显存,非常适合做生成式A...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...可以加快数据处理速度,尤其是在语音和图像识别方面。提速的关键,自然是算力。为了提升算力,微软也是下了血本:采用台积电的5nm制程工艺,晶体管数量达到1050亿个。和今年4月被曝光的信息相比,Maia的制程工艺、设计架...……更多
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
...让人印象深刻的是,英伟达在财报电话会议的一个观点:推理端的爆发,可能很多人还是低估了。据英伟达电话会议披露,公司全年数据中心里已经有40%的收入来自推理业务,超出了绝大部分人预期。而在这次财报电话会议里,...……更多
微软宣布Team Copilot发布,年内将推出初步预览版
...电脑,二是在信息日益增加的世界,电脑能不能帮助人类推理、规划以及更有效地运用所有的信息。纳德拉认为,现在这波AI浪潮能为微软找到实现这两大梦想的答案。随后,Nadella聚焦Copilot。纳德拉提到了包含随时可用本地API...……更多
PC迎来AI时刻,英特尔、微软、联想等纷纷布局,产品价格将迎上涨
...算力是上一代的8倍,可在PC上实现高能效的AI加速和本地推理,并适配超过10款国产大模型。英特尔的老对手AMD则抢先一步,上周发布Ryzen 8040系列处理器。该处理器集成了升级的专用AI引擎NPU,算力为16TOPS,AI性能相比上一代提升...……更多
英伟达宣布rtx系列显卡支持微软copilot+计划
...划,宣告了其拥抱人工智能的决心。英伟达宣布其RTX系列显卡将大力支持微软的全新Copilot+计划,该计划旨在为Windows11系统带来一系列强大的本地化功能。IT之家注意到,首批适配的设备包括来自华硕的五款笔记本电脑以及来自...……更多
RTX 40系GPU AI性能首测
...RTX40系列多款型号的显卡、笔记本电脑GPU在StableDiffusion的推理性能表现,其中在ULBenchmarkSD1.5TRTvs.OpenVINO的对比测试中RTX4090笔记本电脑GPU相对于Arc核显有超过27倍的性能提升。使用吐司基准测试完整LoRA模型在StableDif……更多
AMD MI300绝杀英伟达H100?跑GPT-4性能超25%,AI芯片大决战一触即发
...,因此它们一直被诟病生成的回答是基于概率,而非基于推理。这也就意味着,在当前的AI热潮中,这些模型架构可能无法幸存下来。毕竟,由于发展速度太快,如今的LLM寿命相对较短。昨天还炙手可热的模型,一两周后可能就...……更多
...比上一代虚拟机性能更强大,可显著提升AI模型的训练和推理速度。同时,微软选择了第四代英特尔XeonScalable处理器作为新一代计算机处理单元。此外,NDH100v5VM还采用了英伟达Quantum-2ConnectX-7InfiniBand技术,每个GPU可提供400Gb/s的带...……更多
谷歌和微软两位“印度老乡”CEO,正面硬刚
...布的大模型Bard将使用Gemini Pro的微调版本来进行更高级的推理、规划和理解等。谷歌官方称“这是Bard自推出以来最大的升级”。Gemini Nano被称为“端侧任务最高效的模型”,Android开发者可以通过AICore来使用。据悉AICore是Android 14 ...……更多
清华提出CharacterGLM;DeepMind联创发全新一代大模型;大模型版“5年高考3年模拟”来了丨AI新零售早报
...|微软&UCLA&UW联合出品》MathVista是一个多模态数学推理基准数据集,由微软、UCLA和UW联合开发,包含6141个数学问题,涵盖丰富的任务类型、推理能力和图像类型。特点:旨在提供一个全面、多样、复杂的视觉数学推理挑战...……更多
国产低价显卡坞评测:能让轻薄本用上本地大模型
...消息是,尽管CUDA是N卡专属,但这并不意味着A卡不可以AI推理加速,通过DirectML、GGML或者OpenCL,A卡可以绕开这个限制,使用GPU进行AI推理。在这里,我直接选用农企推荐的第三方解决方案LM Studio,这是一个闭源、跨平台和跨供应...……更多
微软:从“软件老大”到“AI帝国”
...Bing、GitHub Copilot 和 ChatGPT 等 AI 工作负载运行云端训练和推理。这款芯片采用了 5 纳米工艺制造,拥有 1050 亿个晶体管。 Azure Maia 100 美颜照|Microsoft微软自己的DPU——Azure Boost也已全面上市。微软在今年早些时候……更多
从0到1:国产化千卡集群的一小步,AI算力主动权的一大步
...出世,到后来的百模大战如火如荼,再到如今AI落地换挡提速,围绕算力的“全民焦虑”始终贯穿其间。供求关系紧张是产生算力焦虑的根源所在。一方面,大模型训练与推理需求呈几何级数爆发——自2022年以来,人工智能算力...……更多
AI应用遍地开花,AI应用该如何选择显卡?
...个大家都比较熟悉了,更高的算力意味着计算AI相关模型推理的时候,速度更快、效能更高。但是值得注意的是,硬件架构对应的软件支持在这里也有很重要的地位。比如英伟达的GPU在Stable Diffusion的应用中,专门推出了针对GPU Te...……更多
本周硅谷发生了什么?|苹果Vision Pro正式开售;Neuralink完成人类脑机接口植入;字节Coze国内版上线;
...推出数据分析工具“办公小浣熊”面壁智能发布2B模型,推理成本仅为GPT-4的1/360科大讯飞发布全民开放大模型星火V3.5百川智能发布Baichuan 3大模型,更好理解中文阿里巴巴开发的自主多模态AI代理MobileAgent上线苹果Vision Pro正式在...……更多
Anthropic再反击!发布Claude 3.5吊打GPT-4o,视觉、逻辑推理等方面表现更强
...本Claude 3.5 Sonnet。从官方披露的测试数据来看,其在逻辑推理、编程、数学等方面中的表现性能均超越GPT-4o。网友直言,“太卷了,现在AI竞争是要以周为单位了吗?” 从官方介绍来看,Claude 3.5全家桶仍会有3款系列模型,分别...……更多
5年投资超1000亿,北京公布一系列AI重磅成果,北大清华百度蚂蚁微软大佬齐谈AI未来|钛媒体AGI
...,从发现新材料到助力化学合成、生物医药等领域的研发提速,AI将在推动科学进程方面发挥关键作用。 张祺指出,AI新时代,微软正在为广大客户提供的服务和保障。长期以来,微软一直致力于打造全球生态、推动新技术普及...……更多
AI“卖铲人”英伟达,为何业绩再爆发?
...过1亿台RTX的AI PC提供生成式AI功能,包括用于加速大模型推理的Tensor-RT LLM。可以说游戏级显卡让PC端具备部署大模型应用的能力,而英伟达仍是该领域的引领者。 3、汽车业务成为第三增长曲线最新财季英伟达汽车业务收入达到2...……更多
老黄祭出史上最强 AI 芯片B200!30倍性能提升,AI 迎来新摩尔定律时代|钛媒体AGI
...ckwell,是英伟达A100/H100系列AI GPU的继任者。在大语言模型推理工作负载方面,Blackwell的性能相比H100 GPU提升了30倍,能耗却降低了25倍。亚马逊、谷歌、微软和甲骨文将是首批合作伙伴。此外,黄仁勋还在GTC大会推出了新一款服务...……更多
美国25万一张的显卡,禁止向中国供应!
...模、算法模型的精巧度、数据的质量和数量。AI大模型的推理、训练高度依赖英伟达的GPU芯片。缺少芯片会导致算力不足。算力不足意味着无法处理庞大的模型和数据量。最终的结果是,AI存在智商差距。拿当红的聊天机器人ChatG...……更多
更多关于科技的资讯:
基建狂魔上新!深中通道今日通车:世界上建设难度最高
快科技6月30日消息,近年来,中国因在基础建设方面一系列的飞速发展而被称为“基建狂魔”。“基建狂魔”再次上新,深中通道将于今天15时正式通车试运营
2024-06-30 08:10:00
东方甄选:我们从来没有要过宣传费 也坚持不收商家坑位费
快科技6月30日消息,东方甄选日前发布声明,回应“要求和收取坑位费、宣传费”相关问题。东方甄选称,我们从来没找政府要过宣传费
2024-06-30 08:10:00
男子开越野车进河被淹保险公司拒赔 法院判了
快科技6月30日消息,越野车主需要注意,如果在非正常路段越野,导致车辆受损,保险公司可能会对车辆进行拒赔。据国内媒体报道
2024-06-30 08:10:00
一键预约一键查询 “鼓浪屿导游服务” 小程序今日上线
扫码进入小程序厦门网讯(厦门日报记者 朱道衡)今天,由鼓浪屿管委会指导、鼓浪屿文旅中心开发的鼓浪屿导游服务项目——线上线下一体化服务平台正式上线
2024-06-30 08:33:00
2024年暑期档票房破20亿 你看了几部?
快科技6月30日消息,据灯塔专业版实时数据,截止6月29日9时,2024年暑期档(6月-8月)档期总票房(含预售)突破20亿
2024-06-30 08:40:00
宇树CMO王其鑫:聚焦AI机器人,携手钉钉探索数智化提效路径
6月26日,“MAKE2024:AI全明星钉钉生态大会”在北京举办。宇树科技董事、CMO王其鑫出席大会并发表主题演讲《数字化智能化融合的创新实践与探索》
2024-06-30 08:45:00
奥比中光CIO肖乐:钉钉助力加速机器人视觉系统进化
6月26日,在北京举办的“Make2024钉钉生态大会”上,奥比中光CIO肖乐出席并发表主题演讲《钉钉赋能,加速“机器人之眼”进化》
2024-06-30 08:45:00
85寸以上超大电视香爆了 100寸电视618销量暴增60%
快科技6月30日消息,根据洛图科技(RUNTO)的零售数据分析,中国的618大促销期间见证了一个独特的市场现象:电视的价格竞争异常激烈
2024-06-30 09:10:00
上海一法拉利行驶中起火报废!博主曝代驾的锅 全程1挡开车
快科技6月30日消息,据媒体报道,6月29日下午,上海北横通道有一法拉利F8发生自燃。网友拍摄的视频显示,车辆后半部分发动机已被烧的面目全非
2024-06-30 09:10:00
149元起!华为官方特惠换屏来了:支持畅享、Mate多款机型
快科技6月30日消息,华为官方特惠换屏活动今日开启,活动时间截止至9月30日,华为手机、华为平板、华为笔记本电脑、华为智慧屏等部分型号参加该活动
2024-06-30 09:40:00
李斌:蔚来换电要实现县县通 每个县都要有蔚来换电站
快科技6月30日消息,蔚来汽车日前在广州举办了大湾区车友会,会上,蔚来董事长李斌、总裁秦力洪透露了蔚来加电网络的最新规划
2024-06-30 09:40:00
支付宝“AI陪诊师”上岗:美女AI护士全天候陪你看病
快科技6月30日消息,日前,上海市第一人民医院宣布通过支付宝“AI就医助理”解决方案,以大模型、数字人等技术为基础,为患者提供交互陪伴式就医服务
2024-06-30 09:40:00
南方潮湿到树都长出气生根了 专家科普:树木防止窒息的根
快科技6月30日消息,近期,不少网友发现,南方潮湿到树都长出气生根了,很是令人惊奇。网友拍摄的照片显示,他在杭州西湖边的柳树上发现了一个个红色小芽
2024-06-30 10:10:00
兰天福总经理:家具行业二十载的奋斗与蜕变
在福建森朗家具有限公司的辉煌成就中,有一位重要人物不得不提,那就是兰天福总经理。自他踏入家具行业起,至今已有二十年。这二十年里
2024-06-30 10:38:00
免费!中国移动推出短信免打扰服务:指定号码拒收、分行业屏蔽营销消息
快科技6月30日消息,今日,中国移动宣布上线短信免打扰服务,可实现指定号码短信拒收、分行业屏蔽营销短信,服务完全免费。据介绍
2024-06-30 10:40:00