• 我的订阅
  • 头条热搜
PC正在经历AI时代 下一代Windows 12将是AI PC的完美载体
...态下也能使用;第三,降低大模型使用成本,在本地免费推理为主,云端公共推理为辅的情况下,一次购买AI PC即可享受全生命周期的本地免费推理服务;第四,提供可信、安全的个人数据和隐私保障,包括个性化本地知识库、...……更多
...能计算等;在AI服务器领域,联想从训练到训推一体再到推理的AI全场景都有完善的AI服务器产品矩阵。在设备之上,联想研发了在构筑智算中心时的关键模块——异构智算平台。同时,联想与国内外领先的AI算力生态企业广泛合...……更多
剧本推理游戏需要几个人才能玩
一般来说,剧本推理游戏最少是需要4个人才能玩的,但是如果要想有更好的体验感,最好还是要有5~8个人一起玩比较好,一般用时2~3个小时。知识讲解什么是剧本推理游戏?所谓的剧本推理游戏也称呼为“谋杀之谜”游戏,是...……更多
面壁智能发布2B模型:适配主流手机,推理成本仅为GPT-4的1/360 | 最前线
...在MMLU(多任务语言理解)、Knowledge(知识)、Reasoning(推理)、Comprehension(理解)等关键指标上均超越了Meta Llama 2的13B模型。这一个故事,在2024年2月1日的发布会上,也被AI模型层公司面壁智能的CEO李大海不断提起。对标Mistral..……更多
...今年正式投产。据了解,新的芯片将被应用于数据中心的推理任务,与英伟达等供应商的GPU一起协同工作。Meta发言人之前表示:我们相信,我们自主开发的加速器将与市面上的GPU相得益彰,为Meta的任务提供最佳的性能与效率平...……更多
阿里云佘俊泉:创新涌现,边缘云场景的探索与机遇|GDCC智算
...成本优化,后者则注重实时互动体验。此外,虽然边缘AI推理当前的规模不大,但随着AIGC以及LLM技术全面应用到千行百业,边缘云在这个方向上有巨大潜力,在未来5-10年内将产生更多创新业务场景。针对上述场景化需求,阿里...……更多
AI算力大战开启:英特尔AI芯片性能超越H100,谷歌云推出最强ARM芯片|钛媒体AGI
...中,相比于英伟达H100 GPU,Gaudi3 AI芯片的模型训练速度、推理速度分别提升40%和50%,平均性能提高 50%,能效平均提高40%,而成本仅为H100的一小部分。英特尔预计,Gaudi 3将于2024年第二季度起出货,戴尔、惠普、联想、超微电脑等...……更多
AI PC YES!AMD举办AI PC创新峰会
...的架构产品去解决AI的不同需求,包括面向通用处理和AI推理的Zen架构CPU;面向HPC、AI训练和密集推理的CDNA架构GPU;面向游戏和基于AI的内容开发的RDNA架构GPU;以及面向低功耗和一直在线的AI推理的XDNA架构,即NPU。 最先的锐龙804...……更多
掰开安卓手机 满屏都是三个字:大模型
...的内存单元,是大模型进手机面临的第二道难关:大模型推理需要大量计算资源做支撑,与此同时,内存大小决定了数据处理速度的上限以及推理的稳定性。另外,在手机上跑大模型,也给电池带来了更大的压力。因此芯片能耗...……更多
中国银河证券:Sora将推动推理端算力占比将大幅提升
...。目前OpenAI已加入算力芯片军备竞赛中,根据OpenAI论文,推理阶段算力需求是模型参数数量与训练数据集规模乘积的2倍,Sora将推动推理端算力占比将大幅提升。此外,通信端等配套实施需要全方位升级,网络上行下载速度需大...……更多
清华大学获芯片领域重要突破!
...可为百亿像素大场景光速智能分析、百亿参数大模型训练推理、毫瓦级低功耗自主智能无人系统提供算力支撑。文中图片均由受访者提供 ……更多
摆脱Transformer依赖?这家AI初创公司推出国内首个非Attention机制大模型
...能效果——记忆能力提升3倍、速度提升7倍的同时,实现推理吞吐量的5倍提升。 至于为何另辟蹊径,寻求非Transformer的大模型路径,岩芯数智CEO刘凡平指出,以大规模著称的Transformer,在实际应用中的高算力和高成本,让不少中...……更多
当AI大模型卷向服务机器人,会有哪些新故事?|硬氪分析
...莫拉维克悖论提出,和传统假设不同,计算机要实现例如推理等人类所具备的高阶智慧、仅需少量的计算能力,而若要直觉、感知等能力,却需要巨大的运算能力。 简单来说,电脑可以在和人类围棋对弈中轻松取胜,但如果让...……更多
百川智能发布baichuan3稳定语言模型
...处理和代码生成领域的强大实力。不仅如此,其在对逻辑推理能力及专业性要求极高的MCMLE、MedExam、CMExam等权威医疗评测上的中文效果同样超过了GPT-4,是中文医疗任务表现最佳的大模型。Baichuan3还突破“迭代式强化学习”技术...……更多
黄仁勋对话Transformer七子:我们被困在原始模型里,还需要更强大的新架构
...其不断交互才能变得聪明,待在实验室里并不会造福世界推理是下一个重要的进步节点,能提升数据训练效率,产生更有价值的结果对话实录部分要点整理Transformer因何横空出世?Illia Polosukhin:如果要做出能真正读取搜索结果的...……更多
对话云天励飞董事长陈宁:2030年人类将实现AGI,推理芯片将是蓝海市场|钛媒体AGI
...拥有一个AI Agent。“如果说2024年是大模型落地应用之年,推理就会越来越重要。此前在训练芯片市场上,英伟达一骑绝尘,占有绝对的市场占有率,那么今天,推理芯片市场没有垄断性的巨头。这不仅是万亿级、万亿颗芯片的蓝...……更多
IDC王吉平:AI PC产业生态具备以人为本、终端主导和AI原生三大特点
...下也能使用;第三,更低的大模型使用成本,以本地免费推理为主、以云端公共推理为辅,一次性购买AI PC即可享受全生命周期的本地免费推理服务;第四,可信、安全的个人数据和隐私保障,个性化本地知识库、隐私数据的本...……更多
让AI无处不在 高通全面开启终端侧生成式AI大门
...效提升了40%。Hexagon NPU集成了硬件加速单元、微型区块推理单元、性能加强的张量/标量/矢量单元,同时所有单元共享2倍带宽的大容量共享内存。 这意味着用户在搭载第三代骁龙8的设备上可以按照自己的需要自由生成类似于...……更多
ChatGPT 日耗电超 50 万度,卡死AI发展的竟然是能源?
...策都关注 AI 训练(training)阶段,但多项研究表明 AI 在推理(inference)过程中,也即人们使用 AI 输出结果的过程能耗更高。此外,不同 AI 模型处理不同类型的推理任务,能耗的差异也很大。例如 1000 次请求计算,图片分类任务...……更多
...下一代HBM4内存。在AI算力芯片部分,庆桂显称客户对于AI推理芯片Mach-1的兴趣正在增长,并有部分客户表达了将Mach系列芯片应用于超1000B参数大模型推理的期望,因此三星电子将加速下代Mach-2芯片的开发。Mach-1芯片是一种高能效...……更多
OpenAI造芯计划曝光!拟自研AI芯片 英伟达强敌来了
...势后,算力焦虑笼罩在各大AI厂商头上。无论是模型训练推理,还是API调用都需要算力作为支撑,有多少卡也成为衡量AI厂商实力如何的硬指标之一。而眼下的GPU市场,英伟达一家独大,市场份额超80%。与此同时,GPU不仅紧俏还...……更多
...工智能在工厂生产的应用,大致分为三个阶段:一是边缘推理阶段,二是边缘训练阶段,三是自主化人工智能工厂。目前人工智能在智能制造应用中,尚属于边缘推理阶段。张宇介绍,为实现不同的碎片化AI应用,英特尔通过Open...……更多
英特尔推最新AI处理器,挑战英伟达:训练主导地位不会持久
...要依赖CUDA,接下来的重点在于模型能否顺利运作,所以推理(inference)、即部署AI模型的过程将是市场的重点发展方向,而Gaudi 3正是英特尔用来打入AI推理市场的产品。当日,英特尔股价在发布会后一度涨超5.6%,全日收于45.18美...……更多
空天信息+人工智能 中国科研团队成功研发遥感智能训推一体机
...发成功一款命名为“空天·灵犀”的遥感智能训(训练)推(推理)一体机。“空天·灵犀”遥感智能训推一体机。中国科学院空天院 供图“空天·灵犀”遥感智能训推一体机搭载的高精度、高时效轻量化基础模型,能够在自然资源、...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
...加速卡等。相比于通用服务器,AI服务器更适应AI训练和推理的大算力、高并发、大数据流转等需求,已经成为大模型时代的“香饽饽”。以热门AI服务器型号浪潮NF5688M6服务器为例,某代理商在电商平台上挂出125万元的价格,这...……更多
...展开紧密协作,共同致力于本土算力和大型模型的训练与推理技术的发展。11月初,云从科技在投资者关系平台上答复投资者关心的问题时称,公司已与华为签署了全面合作框架协议,并已联合发布了从容大模型训推一体化解决...……更多
ASC24超算大赛启动会在京举行,大模型推理等成为赛题
...在上海大学举行的总决赛。据悉,今年的赛题包括大模型推理优化、渗流数值模拟,以及国际通行基准测试HPL和HPCG等。来自高性能计算和人工智能领域的中国科学院院士、中国工程院院士、专家学者及参赛师生代表等参加了启...……更多
中兴通讯旗舰GPU服务器R6900 G5问世
...计算性能和数据处理能力,可以支持大规模的模型训练和推理。同时,R6900G5还具有高速网络通信能力,可以满足大规模数据传输和通信的需求。这些特点使得R6900G5成为目前市场上最优秀的GPU服务器之一。除了硬件配置上的优势...……更多
科学家推出大模型数据集,涵盖奥赛数学题,有望让AI辅导数学课程
...解决复杂数学问题的能力。通过此,他们不仅提高了算法推理速度,还提高了算法搜索中间结果的质量。所新推出的数据集 TriMaster100,也更加符合算法在复杂数学问题下的评价场景。目前,赵子龙的合作者正在基于本次成果开...……更多
...内置加速器,第五代至强可以进一步提升深度学习训练和推理性能,能够在不增加硬件和系统复杂性的前提下,获得类似于使用独立加速器的性能,让调优深度学习模型或训练中小模型等工作都只需几分钟即可完成。此外,基于...……更多
更多关于科技的资讯:
Steam最新调查:RTX 3060王者无敌!RTX 4060移动版第二
快科技11月3日消息,Steam 2024年10月硬件调查已经出炉,RTX 3060仍然是最为流行的显卡,RTX 4060移动版意外高居第二
2024-11-03 23:07:00
本文转自:人民网-陕西频道人民网西安11月3日电(记者李志强)11月3日,国家重大科技基础设施“先进阿秒激光设施(西安部分)”建设正式启动
2024-11-03 18:45:00
一种会让牙齿掉光的病!很多人年轻时都不重视
关于牙齿健康,世界卫生组织曾提出过一个“8020”概念,指 80 岁的老年人至少应该存留有 20 颗健康可以使用的天然牙
2024-11-03 19:07:00
给大象争取\
Happy,是“服务于”美国纽约布朗克斯动物园的一头亚洲象,五十多岁了,它在这个动物园居住了几十年。可以说,它从小就是在人类的饲养环境中
2024-11-03 19:07:00
新一代便宜主板来了!B860、B850、B840傻傻分不清
快科技11月3日消息,Intel、AMD的新一代平台都已到来,但是都只有旗舰级主板,无论是Z890还是X870E/X870都很昂贵(当然AMD更好一些还能选择上代主板)
2024-11-03 19:37:00
中国研制原子钟6000万年误差小于1秒:可支撑6G、7G通信发展
快科技11月3日消息,据报道,在中国科学院国家授时中心,安放着中国自主研制的原子钟,这是世界上目前在应用的最先进计时设备
2024-11-03 19:37:00
为什么蝙蝠可以吊着睡觉 其他动物就不行
蝙蝠可以挂着睡,最重要的原因是它们的体重足够轻。其它动物如果体重也足够轻,同时能像蝙蝠那样不费力地支撑自己倒挂,那么它们也可以倒挂着睡
2024-11-03 20:07:00
一周了 酷睿Ultra 200S在德国一颗都没卖出去!
大家都知道,德国玩家非常偏好AMD,以致于到了非常离谱的地步。德国最大的零售商MindFactory公布了最新一周的CPU处理器销量数据
2024-11-03 20:07:00
雷军今晚举行“迟到的直播”,讲述小米征战纽北的故事。雷军在直播中表示,小米15 打破了售价3999元的束缚,“3999元对我们是个心魔
2024-11-03 20:23:00
苹果2024款Macmini于10月29日发布,搭载M4/M4Pro芯片,内存16GB起步。配备M4的Macmini起售价为 4
2024-11-03 20:24:00
彭博社记者马克・古尔曼昨晚发表了最新一期的《PowerOn》时事通讯,提到苹果正在逐渐放弃“年更”式的产品发布策略。“苹果公司正在逐步放弃每年一次的产品升级周期
2024-11-03 20:29:00
realme今日宣布,真我GT7Pro首发搭载realmeUI6.0,支持4年系统更新维护。升级内容如下:流体云2.0
2024-11-03 20:30:00
据媒体报道,在ICPC(国际大学生程序设计竞赛)上,华为CEO任正非与ICPC主席、教练及获奖选手举办座谈会。任正非在会上被问到
2024-11-03 20:31:00
美商海盗船发布K70 PRO TKL磁轴机械键盘:快速触发设计
快科技11月3日消息,美商海盗船宣布,将其MGX Hyperdrive霍尔效应磁轴带入到K70 PRO TKL机械键盘
2024-11-03 20:37:00
红魔10pro预热首发,1.5k无孔全面屏
红魔官方今天为新机红魔10Pro预热,号称是全面屏史上最高分辨率。目前红魔10Pro系列已经获得入网许可,其型号是NX789J
2024-11-03 20:42:00