• 我的订阅
  • 头条热搜
《开始推理吧2》,一场吃力但巧妙的社会派推理尝试
...猫》,《萌探2024》惊现丞磊女装,腾讯则推出了《开始推理吧2》(以下简称《开推2》),《开推2》本季设定是一场异时空角色推理游戏,讲述了五大家族在四个不同时代的故事。第一案与第二案的故事发生在1924年的推镇,一...……更多
第一个100%开源的MoE大模型,7B的参数,1B的推理成本
...语言模型 (LM) 在各种任务上取得了重大进展,但在训练和推理方面,性能和成本之间仍然需要权衡。对于许多学者和开发人员来说,高性能的 LM 是无法访问的,因为它们的构建和部署成本过高。改善成本 - 性能的一种方法是使...……更多
刚刚,Llama 3.2 来了!支持图像推理,还有可在手机上运行的版本
... Meta 对 Llama 模型来了一波大更新:不仅推出了支持图像推理任务的新一代 Llama 11B 和 90B 模型,还发布了可在边缘和移动设备上的运行的轻量级模型 Llama 3.2 1B 和 3B。不仅如此,Meta 还正式发布了 Llama Stack Distribution,其可……更多
用硅模拟人脑,进度条走到了1/80
...物神经元。这种芯片效果如何?一系列数据说话:执行AI推理负载和处理优化问题时,速度比常规CPU和GPU架构快50倍,同时能耗降低了100倍。 运行传统深度神经网络时,INT8精度运算的能效比达到了15 TOPS/W。 (英伟达尚未发货的...……更多
算子开发到推理加速,一位00后开发者的“升级打怪”之旅
...框架降低了大模型训练的门槛,目前正在做大模型分布式推理加速,希望可以帮助其他开发者在生产环境中高效部署在线推理服务。在昇腾AI的生态里,像郑辉这样为大模型浪潮默默贡献自己力量的开发者不胜枚举。他们还不是...……更多
阿里云佘俊泉:创新涌现,边缘云场景的探索与机遇|GDCC智算
...成本优化,后者则注重实时互动体验。此外,虽然边缘AI推理当前的规模不大,但随着AIGC以及LLM技术全面应用到千行百业,边缘云在这个方向上有巨大潜力,在未来5-10年内将产生更多创新业务场景。针对上述场景化需求,阿里...……更多
...今年正式投产。据了解,新的芯片将被应用于数据中心的推理任务,与英伟达等供应商的GPU一起协同工作。Meta发言人之前表示:我们相信,我们自主开发的加速器将与市面上的GPU相得益彰,为Meta的任务提供最佳的性能与效率平...……更多
文心大模型4.0 Turbo来了!百度推出文心快码2.5,已覆盖内部80%程序员
...考虑到大模型和异构多芯发展趋势,为了保障大模型训练推理性能、简化大模型开发调优过程以及更好地适配各种芯片,飞桨与文心联合,在训练、推理两个方面定向优化。▲飞桨框架设计理念具体来说,动静统一的自动并行能...……更多
比GPU性价比高百倍!Cerebras推出新AI推理服务,号称“全球最快”
...28日消息,AI芯片独角兽Cerebras Systems于8月27日宣布推出AI推理服务Cerebras Inference,号称“全球最快”。该服务已经在云端上线。据官网介绍,该推理服务在保证精度的同时,速度比英伟达的服务快20倍;其处理器内存带宽是英伟达...……更多
中兴通讯:全栈全场景智算解决方案,助力行业智能化转型升级
...整合现有的算力资源,实现多种算力统一管理和混合训练推理。基地可以根据不同的业务需求和数据规模,灵活调整算力配置和训练策略,提高资源使用效率,减少对单一供应商的依赖。此外,中兴通讯还通过量化压缩技术优化...……更多
腾讯大模型混元Turbo:御气升昺云,梓桐金鼎开
...模型,腾讯混元Turbo性能有显著提升,训练效率提升108%,推理效率提升 100%,推理成本降低 50%,解码速度提升 20%,效果在多个基准测试上对标GPT-4o。最新第三方测评在国内位居第一。腾讯混云大模型已经落地腾讯700+个业务场景...……更多
o1金牌团队揭秘AI超越人类惊人时刻!22分完整版视频全公开
...共有8点:1 强化学习加持的o1,比人类更善于发现新的CoT推理步骤2 自我批评的涌现,是o1最强有力的时刻3 让o1「超时」前完成回答,然后突然有了「啊哈」时刻 4 scaling参数规模的挑战,以及继续沿着强化学习算法进步之路5 许...……更多
AI算力大战开启:英特尔AI芯片性能超越H100,谷歌云推出最强ARM芯片|钛媒体AGI
...中,相比于英伟达H100 GPU,Gaudi3 AI芯片的模型训练速度、推理速度分别提升40%和50%,平均性能提高 50%,能效平均提高40%,而成本仅为H100的一小部分。英特尔预计,Gaudi 3将于2024年第二季度起出货,戴尔、惠普、联想、超微电脑等...……更多
对标o1,Kimi放出了最能打的国产模型
...历新一轮技术范式的变化,预训练 Scaling Law 放缓之后,推理时间计算成为了新的性能提升关键。两个月前,OpenAI o1 的诞生再次引领了大模型技术的突破。从后训练阶段入手,通过更多的强化学习、原生的思维链和更长的推理时...……更多
AI PC YES!AMD举办AI PC创新峰会
...的架构产品去解决AI的不同需求,包括面向通用处理和AI推理的Zen架构CPU;面向HPC、AI训练和密集推理的CDNA架构GPU;面向游戏和基于AI的内容开发的RDNA架构GPU;以及面向低功耗和一直在线的AI推理的XDNA架构,即NPU。 最先的锐龙804...……更多
马斯克突然发布Grok-2!数学推理能力突出,攻克“9.9与9.11比大小”经典难题
...上一代模型,Grok-2和Grok-2 mini在阅读理解、数学、编码、推理等方面表现都有显著改进。值得一提的是,Grok-2在数学推理(MathVista)方面表现登顶测试榜首。但细心网友不难发现,即便是Grok-2,在其他方面与前沿模型GPT-4o或Claude ...……更多
掰开安卓手机 满屏都是三个字:大模型
...的内存单元,是大模型进手机面临的第二道难关:大模型推理需要大量计算资源做支撑,与此同时,内存大小决定了数据处理速度的上限以及推理的稳定性。另外,在手机上跑大模型,也给电池带来了更大的压力。因此芯片能耗...……更多
架构优先、先易后难,华为的制造业生成式AI方法论
...业需要构建强有力的ICT基础设施,尤其是大模型的训练和推理,都对基础设施提出了更高的要求,要实现“存算云网能”的全方位协同。 在算力方面,华为的智能计算芯片和通用计算芯片,正在成为世界算力的第二选择。前者...……更多
OpenAI发布最新技术研究,AI“黑盒”不再是难题!
...出了正确回答。大部分大模型都在给出答案的同时呈现了推理过程。智谱清言给出的推理过程显示,在比较13.11%和13.8%时,13.11%是更大的数值。这是因为当比较两个百分数时,我们首先比较整数部分,如果它们相同,则比较小数...……更多
免训练大模型知识编辑,吸收新数据更高效|EMNLP\\\'24
...的连续提示学习新方法,可以提高知识终身学习的编辑和推理效率。模型编辑旨在纠正大语言模型中过时或错误的知识,同时不需要昂贵的代价进行再训练。终身模型编辑是满足LLM持续编辑要求的最具挑战性的任务。之前的工作...……更多
AI新时代揭幕!会“思考解题逻辑”的OpenAI推理大模型登场
...凌晨1时许,AI时代迎来崭新的起点——能够进行通用复杂推理的大模型终于走到台前。OpenAI在官网发布公告称,开始向全体订阅用户开始推送OpenAI o1预览模型——也就是此前被广泛期待的“草莓”大模型。OpenAI表示,对于复杂推...……更多
谷歌在AI赛道加速
...以应用于图像-文本预训练、视觉问答、图像描述、视觉推理、多模态检索等多个领域。它有望推动多模态学习技术的进一步发展,并为人工智能领域带来新的突破。当然,该系统完全依赖于其训练数据的质量,如果没有人工整...……更多
Llama版o1来了,来自上海AI Lab,强化学习代码已开源,
复刻OpenAI o1推理大模型,开源界传来最新进展:LLaMA版o1项目刚刚发布,来自上海AI Lab团队。简介中明确:使用了蒙特卡洛树搜索,Self-Play强化学习,PPO,以及AlphaGo Zero的双重策略范式(先验策略+价值评估)。在2024年6月,o1发...……更多
百倍提升7B模型推理能力!颜水成团队携手新加坡南洋理工大学发布Q*算法
...-7b等小模型达到参数量比其大数十倍、甚至上百倍模型的推理能力,使模型性能迎来惊人提升。自OpenAI的Q*项目曝光后,业内相关讨论始终层出不穷。据现有信息汇总,Q*项目被视作OpenAI在探索人工通用智能(Artificial General Intelli...……更多
又是一部推理佳作,刚开播就飙上9.3分!
...。第一季就口碑和收视双丰收,到了2021年12月底,《女高推理班》就又推出了第二季,共计8集,同样收获了出色的口碑。2024年4月,终于迎来了《女高推理班》第三季,朴智允、张度练、JaeJae、BIBI、崔叡娜都回归。一上线,《...……更多
商汤升级“日日新5.0”大模型,对标GPT-4Turbo
...用混合专家架构,超10TB tokens训练,覆盖大量合成数据,推理时上下文窗口达200K左右。云、端、边全栈大模型产品矩阵中,用于终端设备的“商汤端侧大模型”可满足各类终端用户对大模型技术的应用需求。“日日新5.0”和GPT-4...……更多
腾讯Angel机器学习平台获世界互联网大会领先科技奖
...腾讯Angel 机器学习平台,突破了万亿级模型分布式训练和推理以及大规模应用部署等难题,率先实现大模型技术从底层硬件到关键软件技术的自主研发,在业务场景广泛应用,显著推动实体产业和数字经济发展,提升社会效率。...……更多
苹果发布mm1.5-ui模型
...从10亿到300亿的多种参数规模,拥有图像识别和自然语言推理能力。在新版本中,苹果公司的研发人员改进了数据混合策略,极大地增强了模型在多文本图像理解、视觉引用与定位以及多图像推理等方面的能力。参考论文可知,...……更多
进迭时空宣布开源RISC-V芯片的AI核心技术
...为ARM的20%左右,AI性能得到极大提升。目前,世界主流AI推理生态主要包括英伟达的GPU推理生态和X86的CPU推理生态。K1芯片通过复用X86成熟的AI推理软件栈,把底层核心算子改用RISC-VVector和AI指令,其余部分复用CPU推理软件栈,从...……更多
智慧家庭重磅文件,征求意见稿来了!事关千亿市场、8大应用场景
...技术要求、工程建设和其他6个部分。关键技术标准分为推理与表达、人机交互、互联互通和安全防护和其他5个部分。应用场景标准包含智慧养护、智慧家务、智慧安防、智慧能源、智慧健康、智慧影音、智慧车家和其他8个部分...……更多
更多关于娱乐的资讯:
比《人世间》还好看的5部好剧,部部好评如潮,你不一定全看过?
1、《平凡的世界》电影通过一系列生动而真实的情节,展现了农村生活的艰辛和美好,无论是农民们辛勤劳作的场景,还是他们之间的人亲情
2025-01-11 08:19:00
摄制|朱泊宇 李见 安洋2025年京津冀春节戏曲晚会录制现场,梅派第三代传人郭雨昂和河北梆子演员孙娜联袂演唱的节目《国风超有戏》令人耳目一新。他在采访中深情推介石家庄和河北梆子,
2025-01-11 08:33:00
《异人之下 2》 推广曲 《异念》:乐坛大咖联手,助力漫改巨制
近日,备受粉丝期待的超级 IP 漫改剧《异人之下 2》(《异人之下之决战!碧游村》)传出重磅消息,其推广曲《异念》即将震撼登场
2025-01-11 08:39:00
《士兵突击》钢七连最好的结局,就是整编解散,掐尖并不是好事
很多人看士兵突击后,最大感触就是这么一个优秀的连队哦,还是702团的精锐部队,居然遭到了解散,再加上先入为主的原因,让不少人舍不得钢七连的解散
2025-01-11 08:53:00
《国色芳华》口碑井喷,打了多少“流水线”的脸?杨紫又赌对了
《国色芳华》评价出炉!杨紫再现神级演技!这镜头,给多少流量明星一耳光!这次她又选对了!(剧照)演技“封神”岁末年初,国产剧圈热闹非凡
2025-01-11 09:32:00
理发师晓华成为春晚“特邀发型师”,春晚“如意”舞台亮相
中国青年报客户端讯(中青报·中青网记者 沈杰群)1月10日,中央广播电视总台《2025年春节联欢晚会》完成第二次彩排。2025年春晚舞台造型宛如一柄“如意”
2025-01-11 10:36:00
混迹网大多年的崔志佳,终于走进院线,带来一锅南北文化乱炖
《火锅艺术家》的导演崔志佳,从“爱笑会议室”走出来的喜剧人,他的电影履历几乎可以称得上是网络大电影(简称“网大”)领域的一个小型宇宙
2025-01-11 10:41:00
侯耀华,不陪杨议“演”了!大涌也快出来了,能招架住吗
侯耀华,不陪杨议“演”了!大涌也快出来了,能招架住吗杨议在海河边“耍猴“以后,侯耀华主动提出代父收徒:“我相信杨小五进门以后
2025-01-11 10:44:00
杨紫李现新剧热播,魏哲鸣惊艳转型引发热议!
这两天,杨紫和李现主演的《国色芳华》和白鹿敖瑞鹏主演的《白月梵星》都在热播。从目前的战绩来看,双方热度还是比较持平的。没有出现很明显的差距
2025-01-11 10:46:00
母爱至上,这部心心念念多年的佳作终于来了
北京今日放映|2025.1.11 周六电影资料馆艺术影院周六为大家准备了精彩节目,“吴天明和他的理想时代”奉献陈凯歌首度闯入戛纳主竞赛的不朽反思佳作《孩子王》数字修复版
2025-01-11 10:05:00
爱奇艺开年大戏《白月梵星》周边商品热卖 会员享超值特惠
恋恋剧场反套路仙侠剧《白月梵星》近期正在爱奇艺热播中,剧集首播热度激增,打破近三年爱奇艺剧集首日热度峰值纪录,目前爱奇艺内容热度值已破9000
2025-01-11 10:05:00
解读《国色芳华》,刘畅表里不一,终将一事无成
特别讨厌《国色芳华》剧中刘畅(魏哲鸣饰)这个角色,表里不一,心思歹毒,终将一事无成。第一,他嘴上说着不靠金钱铺路,要靠自己苦读
2025-01-11 10:06:00
杨紫的《国色芳华》,8集过后有《梦华录》那味了
李现和杨紫二搭的剧《国色芳华》正在热播!这是一部以唐朝为背景下,杨紫饰演的何惟芳凭借自身手艺和努力,闯出一番事业的剧。虽然只播出了8集
2025-01-10 23:57:00
国色芳华:何惟芳才出虎口又入狼窝,终究还是得蒋长扬出手相救
文|吴清浅好多人看电视剧《国色芳华》可能会被何惟芳夫家——刘家气晕,尤其被刘家主家刘申气晕。刘申这人真的坏透了,典型的吃人不吐骨头
2025-01-10 23:57:00
《国色芳华》:何惟芳帮助五娘和离,女性之间的互帮互助让人泪目
01,何惟芳因为没有拿到和离书,又被宣告死亡,所以在古代属于没有户籍的人。她身上没有钱,又没有户籍,一直找不到工作。好不容易王擎答应让她到他那儿做工
2025-01-11 00:01:00