• 我的订阅
  • 头条热搜
NVIDIA RTX显卡AI推理提速5倍!
...理性能可以跑到每秒319tokens,相比其他后端的每秒61tokens提速足足4.2倍。RTX4090则可以从每秒tokens加速到每秒829tokens,提升幅度达2.8倍。基于强大的硬件性能、丰富的开发生态、广阔的应用场景,NVIDIARTX正成为本地端侧AI不可或缺...……更多
面壁智能的端侧大模型面壁MiniCPM正式亮相
...大的底层支撑,先是算力方面,凭借全流程高效infra10倍推理加速,能够将成本降低90%;其次在算法方面,面壁模型通过高效模型训练配置实现模型能力快速形成;数据处理方面,凭借现代化数据工厂形成从数据治理到多维评测...……更多
英伟达推出史上最强AI芯片H200:推理性能提升90%,无缘中国市场
...的H100的带宽和容量分别为3.35TB和80GB。这将提升大模型在推理方面的表现,并有助于提升高性能计算应用的计算能力。英伟达预计,H200将在明年二季度开始发货,谷歌、微软、甲骨文等科技巨头将会率先实现首批部署。但毫无疑...……更多
微软研究院推出orca2llm
...然后生成、回忆-原因-生成、提取-生成和直接回答等各种推理技术,同时还能为不同的任务选择不同的解决方案策略。Orca2模型相比较Llama2和WizardLM等大型语言模型,在痛苦理解、常识推理、多步推理、数学问题解决、阅读理解...……更多
系统级玩家微软、苹果先后出牌,端侧大模型路径清晰了?
...MGSM(跨语言数学能力)提升 2.3%,而DROP(文本段落分析推理)则下降了 3%。但与此同时,杀手级应用仍未出现。根据第三方网站SimilarWeb的监测数据,早在去年6月,ChatGPT流量即已见顶,当月其网站与移动客户端的全球流量(PV)...……更多
AI芯片下半场:英伟达不再一家独大
...)”的新AI芯片组,目的是为ChatGPT等大语言模型的训练及推理提供英伟达芯片之外的替代方案。另据Tom’s Hardware消息,Athena使用的是台积电5nm工艺,专为大语言模型训练设计。 曾有知情人士透露,在开发Athena期间,微软为了满...……更多
intelarca770升级改进ai大模型
IntelArc锐炫虽然初入独立显卡市场,但表现可圈可点,尤其是随着驱动的不断优化,各方面性能都在持续突飞猛进,包括游戏,包括AI。比如最高端的ArcA770,不但集成XMXAI加速功能,还拥有16GBGDDR6大容量显存,非常适合做生成式A...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...可以加快数据处理速度,尤其是在语音和图像识别方面。提速的关键,自然是算力。为了提升算力,微软也是下了血本:采用台积电的5nm制程工艺,晶体管数量达到1050亿个。和今年4月被曝光的信息相比,Maia的制程工艺、设计架...……更多
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
...让人印象深刻的是,英伟达在财报电话会议的一个观点:推理端的爆发,可能很多人还是低估了。据英伟达电话会议披露,公司全年数据中心里已经有40%的收入来自推理业务,超出了绝大部分人预期。而在这次财报电话会议里,...……更多
微软宣布Team Copilot发布,年内将推出初步预览版
...电脑,二是在信息日益增加的世界,电脑能不能帮助人类推理、规划以及更有效地运用所有的信息。纳德拉认为,现在这波AI浪潮能为微软找到实现这两大梦想的答案。随后,Nadella聚焦Copilot。纳德拉提到了包含随时可用本地API...……更多
英伟达宣布rtx系列显卡支持微软copilot+计划
...划,宣告了其拥抱人工智能的决心。英伟达宣布其RTX系列显卡将大力支持微软的全新Copilot+计划,该计划旨在为Windows11系统带来一系列强大的本地化功能。IT之家注意到,首批适配的设备包括来自华硕的五款笔记本电脑以及来自...……更多
PC迎来AI时刻,英特尔、微软、联想等纷纷布局,产品价格将迎上涨
...算力是上一代的8倍,可在PC上实现高能效的AI加速和本地推理,并适配超过10款国产大模型。英特尔的老对手AMD则抢先一步,上周发布Ryzen 8040系列处理器。该处理器集成了升级的专用AI引擎NPU,算力为16TOPS,AI性能相比上一代提升...……更多
RTX 40系GPU AI性能首测
...RTX40系列多款型号的显卡、笔记本电脑GPU在StableDiffusion的推理性能表现,其中在ULBenchmarkSD1.5TRTvs.OpenVINO的对比测试中RTX4090笔记本电脑GPU相对于Arc核显有超过27倍的性能提升。使用吐司基准测试完整LoRA模型在StableDif……更多
AMD MI300绝杀英伟达H100?跑GPT-4性能超25%,AI芯片大决战一触即发
...,因此它们一直被诟病生成的回答是基于概率,而非基于推理。这也就意味着,在当前的AI热潮中,这些模型架构可能无法幸存下来。毕竟,由于发展速度太快,如今的LLM寿命相对较短。昨天还炙手可热的模型,一两周后可能就...……更多
...比上一代虚拟机性能更强大,可显著提升AI模型的训练和推理速度。同时,微软选择了第四代英特尔XeonScalable处理器作为新一代计算机处理单元。此外,NDH100v5VM还采用了英伟达Quantum-2ConnectX-7InfiniBand技术,每个GPU可提供400Gb/s的带...……更多
谷歌和微软两位“印度老乡”CEO,正面硬刚
...布的大模型Bard将使用Gemini Pro的微调版本来进行更高级的推理、规划和理解等。谷歌官方称“这是Bard自推出以来最大的升级”。Gemini Nano被称为“端侧任务最高效的模型”,Android开发者可以通过AICore来使用。据悉AICore是Android 14 ...……更多
清华提出CharacterGLM;DeepMind联创发全新一代大模型;大模型版“5年高考3年模拟”来了丨AI新零售早报
...|微软&UCLA&UW联合出品》MathVista是一个多模态数学推理基准数据集,由微软、UCLA和UW联合开发,包含6141个数学问题,涵盖丰富的任务类型、推理能力和图像类型。特点:旨在提供一个全面、多样、复杂的视觉数学推理挑战...……更多
国产低价显卡坞评测:能让轻薄本用上本地大模型
...消息是,尽管CUDA是N卡专属,但这并不意味着A卡不可以AI推理加速,通过DirectML、GGML或者OpenCL,A卡可以绕开这个限制,使用GPU进行AI推理。在这里,我直接选用农企推荐的第三方解决方案LM Studio,这是一个闭源、跨平台和跨供应...……更多
微软:从“软件老大”到“AI帝国”
...Bing、GitHub Copilot 和 ChatGPT 等 AI 工作负载运行云端训练和推理。这款芯片采用了 5 纳米工艺制造,拥有 1050 亿个晶体管。 Azure Maia 100 美颜照|Microsoft微软自己的DPU——Azure Boost也已全面上市。微软在今年早些时候……更多
从0到1:国产化千卡集群的一小步,AI算力主动权的一大步
...出世,到后来的百模大战如火如荼,再到如今AI落地换挡提速,围绕算力的“全民焦虑”始终贯穿其间。供求关系紧张是产生算力焦虑的根源所在。一方面,大模型训练与推理需求呈几何级数爆发——自2022年以来,人工智能算力...……更多
AI应用遍地开花,AI应用该如何选择显卡?
...个大家都比较熟悉了,更高的算力意味着计算AI相关模型推理的时候,速度更快、效能更高。但是值得注意的是,硬件架构对应的软件支持在这里也有很重要的地位。比如英伟达的GPU在Stable Diffusion的应用中,专门推出了针对GPU Te...……更多
本周硅谷发生了什么?|苹果Vision Pro正式开售;Neuralink完成人类脑机接口植入;字节Coze国内版上线;
...推出数据分析工具“办公小浣熊”面壁智能发布2B模型,推理成本仅为GPT-4的1/360科大讯飞发布全民开放大模型星火V3.5百川智能发布Baichuan 3大模型,更好理解中文阿里巴巴开发的自主多模态AI代理MobileAgent上线苹果Vision Pro正式在...……更多
Anthropic再反击!发布Claude 3.5吊打GPT-4o,视觉、逻辑推理等方面表现更强
...本Claude 3.5 Sonnet。从官方披露的测试数据来看,其在逻辑推理、编程、数学等方面中的表现性能均超越GPT-4o。网友直言,“太卷了,现在AI竞争是要以周为单位了吗?” 从官方介绍来看,Claude 3.5全家桶仍会有3款系列模型,分别...……更多
5年投资超1000亿,北京公布一系列AI重磅成果,北大清华百度蚂蚁微软大佬齐谈AI未来|钛媒体AGI
...,从发现新材料到助力化学合成、生物医药等领域的研发提速,AI将在推动科学进程方面发挥关键作用。 张祺指出,AI新时代,微软正在为广大客户提供的服务和保障。长期以来,微软一直致力于打造全球生态、推动新技术普及...……更多
AI“卖铲人”英伟达,为何业绩再爆发?
...过1亿台RTX的AI PC提供生成式AI功能,包括用于加速大模型推理的Tensor-RT LLM。可以说游戏级显卡让PC端具备部署大模型应用的能力,而英伟达仍是该领域的引领者。 3、汽车业务成为第三增长曲线最新财季英伟达汽车业务收入达到2...……更多
老黄祭出史上最强 AI 芯片B200!30倍性能提升,AI 迎来新摩尔定律时代|钛媒体AGI
...ckwell,是英伟达A100/H100系列AI GPU的继任者。在大语言模型推理工作负载方面,Blackwell的性能相比H100 GPU提升了30倍,能耗却降低了25倍。亚马逊、谷歌、微软和甲骨文将是首批合作伙伴。此外,黄仁勋还在GTC大会推出了新一款服务...……更多
微软难以摆脱英伟达 |焦点分析
...在其科技大会上发布了两款自研芯片——用于云端训练和推理的AI芯片Azure Maia 100,和CPU(中央处理器)Azure Cobalt 100,分别在AI芯片和CPU芯片上正面对刚英伟达和英特尔。2023年3月ChatGPT火热后,英伟达的AI芯片A100、H100便一卡难求...……更多
加速AI落地企业!微软解读Copilot技术栈,云端混合大小模型是关键
...pilot。定制化的Copilot可通过记忆和知识了解上下文背景、推理需要进行的操作和行动,基于用户反馈进行学习,并主动寻求帮助,独立管理复杂、长期运行的业务流程。▲Copilot扩展的专属平台Microsoft Copilot Studio从IT设备采购、销...……更多
硅谷大模型“价格战”上演,一味“卷”价格会有未来吗?
...左右API“价格战”?在降价之外,有媒体指出,加快模型推理速度(即每秒生成Token的数量)也是硅谷大模型市场的主要竞争点。但“卷”价格、“卷”速度真的会赢得未来吗?硅谷在“拼”什么?5月中旬,字节跳动豆包以0.0008...……更多
llava-1.6与gpt-4vmp面硬刚的性能,一起来看看
...率基础上,并通过改进视觉指令数据集和SGLang,提升了“推理、OCR等方面的性能”,意味着人类向AGI(通用人工智能)探索的道路上又迈进了一步。LLaVA-1.6的研发团队成员Haotian Liu在X平台发文原文 二、更适合中国人体质的GPT-4V...……更多
更多关于科技的资讯:
小米15手机曝光,配备3个摄像头
今年10月大家最关注的是什么手机?可能就是小米15了。听起来挺遥远,但其实很近,10月21日高通发布骁龙8Elite,也就是以前的骁龙8Gen4
2024-10-03 02:13:00
hmdskyline推出最新安卓14更新
10月2日消息,HMDGlobal现为旗下HMDSkyline手机推出最新的安卓14更新(V1.480版本),该更新的重量为294MB
2024-10-03 02:16:00
微软承认windows1124h2更新
10月2日消息,微软在昨天发布了Windows1124H2更新,版本号26100.1742,可为家庭和专业版用户提供24个月支持
2024-10-03 02:18:00
苹果新机曝光:a16仿生芯片,性价比之选
近日,有消息传出苹果公司计划在明年推出一款售价仅为3000元的全新智能手机,这一消息无疑引起了广大消费者的极大关注。据悉
2024-10-03 02:23:00
中国科学家刘永坦,凭借一次巧合,成功发现了美国航母
在浩瀚的海洋深处,隐藏着无数未解之谜。而在这片蔚蓝之中,一场关于雷达技术的革命悄然上演。我国科学家刘永坦,凭借一次看似偶然的巧合
2024-10-03 02:27:00
荣耀手机在极限情况下仍有信号
每逢国庆假期,很多网友会选择出游度假。不过出行在外往往会遇到突发情况,而随着科技的进步,智能手机很多时候在危险情况下可以发挥作用
2024-10-03 02:33:00
新的笔记本硬盘分区怎么设置?
对于小白用户而言,拿到新的笔记本可能会遇到一个问题,这个问题就是硬盘分区。什么是硬盘分区,很简单,你打开文件资源管理器
2024-10-03 02:36:00
《鱿鱼游戏》将于2024年12月26日开播
10月2日消息,网飞(Netflix)于9月20日放出《鱿鱼游戏》第二季首支预告后,于今天再次放出新预告片,孔刘饰演的西装男再次回归
2024-10-03 02:53:00
《歧路旅人ii》开启6折史低特惠,原价379元
10月2日消息,SE旗下角色扮演游戏《歧路旅人II(八方旅人2)》现已在Steam平台开启6折史低特惠,游戏原价379元
2024-10-03 02:56:00
pytorchtorchao正式发布,提供了一系列优化工具集
10月2日消息,据PyTorch新闻稿,PyTorch旗下架构优化库torchao现已正式发布,该优化库主要专注于模型的量化和稀疏性优化
2024-10-03 02:58:00
联想发布全新chromebookduet11
10月2日消息,谷歌公司增强ChromeOS系统功能的同时,还携手联想公司推出了全新的ChromebookDuet11”
2024-10-03 03:04:00
10月2日消息,Moore'sLawisDead(MLID)在4天前发布的视频中,曝料称AMD公司正推迟RDNA4显卡发布时间
2024-10-03 03:11:00
苹果为其播客应用优化叙事类节目,开辟专门的热门榜单
10月2日消息,苹果公司昨日(10月1日)发布新闻稿,宣布为其播客应用优化叙事类节目,开辟专门的热门榜单,从而提高和Spotify
2024-10-03 03:14:00
不到3000元,iqooneo9spro值得考虑
今天咱们来聊聊手机界里的一件大事儿,那就是联发科的天玑处理器这几年可是真争气,硬是把骁龙处理器给逼得不得不拿出更多诚意来
2024-10-03 03:20:00
微软公布10月上旬gamepass新增游戏阵容
10月1日消息,微软刚刚公布了10月上旬GamePass新增游戏阵容,IT之家汇总具体名单如下:10月2日:《美国职业棒球大联盟24(MLBTheShow24)》(主机
2024-10-03 03:28:00