• 我的订阅
  • 头条热搜
智谱AI CEO张鹏:大模型更聪明了 开发者门槛降低
...百页的上下文窗口长度,具备更强的多模态能力,更快的推理以及更高并发,还大大降低了推理成本。 “一直以来,普通用户甚至是开发者,需要用像魔法咒语一样的提示词,或者机器才能解读执行的代码,来调用大模型的各...……更多
英特尔高宇:推进混合AI算力端侧运行,拥抱AI PC新时代
...来之际,大模型将成为每一个人必不可少的助手,同时对推理的算力需求将超过训练的算力需求。算力集中于云端的模式变得不可持续,AI计算负载将逐渐由云端向边缘侧和端侧下沉。在搭建本地智能算力上,CPU+NPU+GPU 异构式架...……更多
戴尔以技术创新推动AI基础架构升级
...应用背后离不开底层基础设施的支持。以大模型的训练和推理为例,大模型的参数量已经从数十亿增加到几百亿、几万亿甚至更高,更大的模型带来了更大的AI算力需求。有数据显示,AI所消耗的算力平均每3至4个月就会增长一倍,而...……更多
AI角色创作平台「捏Ta」完成超千万元融资
...投资方包括源码资本和奇绩创坛等,所得资金将主要用于模型的进一步优化、多模态功能的增强以及社交玩法的开发。成立于2022年12月,捏Ta可被看做为以角色幻想故事智能创作为主的早期“小红书”。看见概念CEO胡修涵将捏Ta...……更多
苹果发布 OpenELM,基于开源训练和推理框架的高效语言模型
...,苹果在 Hugging Face 平台上发布了一个“具有开源训练和推理框架的高效语言模型”,名为 OpenELM。当然,这是一项开源语言模型,其源码及预训练的模型权重和训练配方可在苹果 Github 库中获取。IT之家将官方简介翻译如下:参...……更多
夹缝中的英伟达中国 | 深氪lite
...巨大下滑。公司新改良的PCIe L20(面向中国市场的用于AI推理特供版GPU,以下简称“L20”),在大模型训练市场销售艰难。黄仁勋访华后仅10天,市场上便立刻传出HGX H20(面向中国市场的用于AI训练特供版GPU,以下简称“H20”)的...……更多
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
...让人印象深刻的是,英伟达在财报电话会议的一个观点:推理端的爆发,可能很多人还是低估了。据英伟达电话会议披露,公司全年数据中心里已经有40%的收入来自推理业务,超出了绝大部分人预期。而在这次财报电话会议里,...……更多
25家游戏公司三季度赚32亿元:三七互娱最吸金,游族网络增速第一
...可编程的、具有高性能的NPU产品,同时应用于模型训练及推理。 多家公司海外收入进一步提升“出海”已成为国内游戏的必选题,三季度财报显示,多家游戏公司的海外收入进一步提升。世纪华通称,三季度海外游戏收入增长...……更多
不要苛责中国大模型公司的盈利
...上下文,自动选择模型的多模态能力,同时实现了更快的推理速度和更多并发。GLMs的个性化智能体定制能力,则被认为是直接瞄准了GPTs。目前,国内敢说自己的大模型比肩GPT-4的,只有智谱AI和百度两家公司。虽然这两家公司从...……更多
直追GPT-3.5,“欧洲版OpenAI”推出新模型,成立6个月估值20亿美元 | 最前线
...分全面超越GPT-3.5,更在多个跑分上超过了Llama2 70B,并且推理速度还是后者的6倍。△图源:Mistral AI 在生成同等质量的模型时,Mixtral8x7B的推理过程消耗的成本也明显低于Mistral AI,高能效优势显著。△图源:Mistral AI此外,Mixtral8.……更多
Sora题材股继续分化:有公司称AI视频识别准确率90%,尚未有规模化收入
...商,特别是提供高性能计算服务以支持大规模模型训练和推理的公司、AI芯片制造商及解决方案提供商、内容生产平台(短视频、直播、在线教育等)、数字营销与广告服务商,“不仅要关注技术本身,还需要关注如何将先进技...……更多
临沂第四中学在兰山区高中化学优质课评选中喜获佳绩
...准确,整体节奏合理,从猜想和验证的角度引导学生完成推理任务,让“实验”促进“思维”的外显。在教学实践中,采取视频、实验演示、学生分组实验等多种教学方法,实现可视化教学,充分展示了信息技术与课堂教学深度...……更多
...化角色大模型在角色知识、对话能力、情节演绎以及逻辑推理等方面的专项知识,公司收集了海量行业网站、高质量书籍、优质剧本数据,对Baichuan-NPC进行领域知识预训练。据悉,通用语言模型在角色“演绎”过程中非常容易跳...……更多
...思维搜索的领域知识。策略和价值网络指导搜索过程。在推理过程中,预训练的MCTS模块使用策略网络来探索LLM的思想轨迹。随后,LLM审查MCTS的思想并识别任何错误,然后进行额外的MCTS模拟以生成修改后的想法。最后,将修改后...……更多
商汤科技sensetime推出“云端边”全栈大模型体系
...的指导下,会持续探索大模型能力的KRE三层架构(知识-推理-执行),不断突破大模型能力边界。”“日日新SenseNova5.0”性能超越GPT-4 Turbo:文理双修能力大幅提升,新增多模态交互自去年4月首次发布,商汤“日日新SenseNova”大...……更多
ai终端产业创新论坛在沪举行
...巴巴大模型业务负责人徐栋指出,模型小有很多好处,其推理性能强,可调试性高,能够与不同的行业和场景做结合,且成本低于超大参数的模型。“我们的模型参数考虑得非常全面,可以适配所有生态、所有开发者。”在论坛...……更多
依托数据、平台、知识增强等优势 夸克大模型降低问答幻觉率
...夸克大模型具备较好的语义理解、知识掌握与应用、逻辑推理能力。在大模型技术落地层面,夸克大模型的能力体现在四个方面,可以帮助用户提升工作、学习效率。知识能力,拥有广泛的知识覆盖、信息搜集和多语言支持等,...……更多
恒生电子:金融大模型技术升级,国内AI芯片危机互现
...此次升级的LightGPT,面向金融机构实现LightGPT-7B的开源,推理和训练全面适配华为昇腾系列。恒生电子推出金融大模型,背后经历了怎样的转向?落地应用金融行业,金融大模型具备哪些共通性和特殊性?当前大模型所需的AI算力...……更多
“眼里有活”的斯坦福机器人来一个?数十种家务全包 成本约3万美元
...电源和计算,即1.26千瓦时重14公斤的电池,在数据收集和推理过程中的所有计算都在一台消费级笔记本电脑上进行,该笔记本电脑配有英伟达3070ti GPU (8gb VRAM)和英特尔i7-12800H。物料单中高价值量的部件英伟达“网红研究员”...……更多
AI时代已至,西部数据如何释放存储能量?
...革命,作为一种模拟人类智能的技术,AI可以通过学习、推理和自我修正等方式实现自主决策和行动,并在医疗保健、金融、交通、教育等领域发挥重要作用。根据IDC的预测,从2022到2026年,全球人工智能市场规模会实现18.6%的年...……更多
...能设备或家庭服务器上,使用存储在本地的个人数据进行推理和学习的人工智能基础模型。它不仅可以像公共大模型那样通过对话提供答案、创作内容,而且更精准、贴切,甚至根据用户的思维模式预测任务,并自主寻找解决方...……更多
百川智能、阿里云等进入开源大模型领域,开启商业化前奏
...用于自身业务优化并对外开放合作。 大模型分为训练和推理两个过程,前者将大模型训练成型,后者即为应用。由于训练大模型需极大算力,开发成本高昂,业界多有关于不需“重复造轮”的讨论。例如,入场做大模型后,百...……更多
NVIDIA RTX显卡AI推理提速5倍!
...得更好的加速和应用。其中,TensorRT-LLM是一款用于加速LLM推理的库,可大大提升AI推理性能,还在不断更以支持越来越多的语言模型,而且它还是开源的。就在10月份,NVIDIA也发布了面向Windows平台的TensorRT-LLM,在配备RTX30/40系列GP...……更多
英特尔发布全新软硬件平台,全速助力企业推进AI创新
...碎片化、数据可靠性和合规性等需求。推出用于AI训练和推理的Gaudi3英特尔Gaudi3AI加速器将为AI系统提供动力,该AI系统可通过以太网的通用标准连接多达数万个加速器。与上一代产品相比,英特尔Gaudi3将带来4倍的BF16AI计算能力提...……更多
临沂六中启阳校区承办临沂六中教育集团生物课堂教学展示暨教学联研活动
...务四”继续进行本课时的学习探究,通过模拟实验、模型推理等实践活动,让学生在课堂活动中自主探究、构建概念的同时培育学生生物学核心素养。孙崇芳开头以《杨洋洋与张小花的幸福生活》导入,以主人公结婚生子的过程...……更多
以假乱真,天工音乐大模型带来颠覆式AI体验
...「天工2.0」MoE大模型,「天工3.0」在模型语义理解、逻辑推理、以及通用性、泛化性、不确定性知识、学习能力等领域拥有惊人的性能提升,其模型技术知识能力提升超过20%,数学/推理/代码/文创能力提升超过30%。同时,「天工...……更多
...下一代HBM4内存。在AI算力芯片部分,庆桂显称客户对于AI推理芯片Mach-1的兴趣正在增长,并有部分客户表达了将Mach系列芯片应用于超1000B参数大模型推理的期望,因此三星电子将加速下代Mach-2芯片的开发。Mach-1芯片是一种高能效...……更多
全球首款透明屏PC?联想将在MWC展示新款AI PC
...新周期。联想的AIPC专为支持人工智能而设计,旨在执行推理、解决问题和学习等任务。更重要的是,它们建立了用户与设备的联系,由此带来更加智能的定制化的用户体验。凭借更强的计算能力和更大的存储,大型语言模型(LL...……更多
AI时代CPU不老!Intel五代至强五大革新:340亿参数小意思
...架的支持,特别是PyTorch、TensorFlow等等,在AI训练、实时推理、批量推理等方面,基于不同算法,性能提升最多可达40%,甚至可以处理340亿参数的大模型。根据Intel提供的数据,五代至强SPECInt整数计算性能提升21%,AI负载性能...……更多
开源社区分水岭:Meta大模型Llama 3发布,参数最高或达4000亿
...行业基准测试上展现了最先进的性能,提供了包括改进的推理能力在内的新功能,是目前市场上最好的开源大模型。在架构层面,Llama3选择了标准的仅解码(decoder-only)式Transformer架构,采用包含128K token词汇表的分词器。Llama 3...……更多
更多关于科技的资讯:
百度、360、阿里云……他们为何都中意山西这个城市?
五年前还在外地发展的临汾姑娘段庆媛,2019年参加山西临汾春风行动招聘会入职网易,如今已成长为尧都云商产业园运营总监
2024-11-11 14:15:00
vivo S20 Pro配置曝光,这次影像太猛了
vivo S系列向来以颜值和拍照著称,这次的S20系列更是来势汹汹。继S20标准版曝光后,它的“大哥”S20 Pro也按捺不住了
2024-11-11 14:15:00
并购重组+华为+人形机器人,中标1870w项目,并购重组热潮来袭!
并购重组+华为+人形机器人值得大家关注的是,随着并购重组新规的发布,特别是在“并购六条”政策的推动下,上海证券交易所也陆续出台新规
2024-11-11 14:16:00
错过等明年!华为开启服务回馈礼遇:免费贴膜、维修免人工费
快科技11月11日消息,今日,华为宣布开启华为服务回馈礼遇活动,即日起至2024年12月31日,可享受备件8.8折、换电池立减50元
2024-11-11 14:16:00
小米华为同日新车申报!雷军卷性能 余承东推增程
小米SU7 Ultra“证件照”曝光,智界也转向增程了。最近,工信部发布了新一批申报车型,其中有不少热门车型,有的不仅是对车企自身
2024-11-11 14:16:00
董明珠打假小米第一后!小米空调份额涨至中国线上第三:格力能否守住
近日,小米空调在中国线上市场的快速崛起引起了外媒的关注。据AVC数据显示,小米已占据了中国线上空调市场的第三名,市场份额达到11
2024-11-11 14:16:00
酷易云:小红书博主投放 深度解析如何搭建种草内容体系
在小红书平台上进行品牌营销,博主投放无疑是众多品牌的首选策略。然而,对于初次接触小红书的品牌而言,即便这种玩法存在已久且相对成熟
2024-11-11 14:16:00
人形机器人变身“大厨”煎牛排,OpenAI押注的1X公司展示新技能
11 月 11 日消息,当地时间 9 日,OpenAI 押注的 1X 公司秀出了旗下人形机器人 Neo Beta 的新技能 —— 烹饪
2024-11-11 14:16:00
支付宝出现服务异常,众多用户无法支付
ZAKER科技11月11日消息,今日上午,支付宝出现服务异常情况,众多用户反馈无法正常付款。据用户反映,在使用支付宝进行线上线下交易付款时
2024-11-11 14:17:00
双十一美妆如何买?媒体调研:京东质价比更高,成消费者优先选择
今年双十一,消费者的悦己消费正在回归理性主义,在护肤美妆方面侧重精准消费而非盲目被“种草”。《经济观察报》发布的双十一调研报告显示
2024-11-11 14:17:00
京东每年补贴白牌商品100亿与同行争夺低线市场 扶持万家工厂每家补百万
用白牌商品争夺低线市场的战局再起波澜,京东11.11期间,11月8日,京东旗下特价购物品牌“京喜自营”首次披露业务详情
2024-11-11 14:18:00
双11调研|近7成消费者购买LV、GUCCI、巴黎世家等奢侈品选择京东
近日,《经济观察报》发布了双十一消费调研数据报告显示,近7成消费者在京东购买LV、GUCCI、巴黎世家等奢侈品。调研报告显示
2024-11-11 14:18:00
深耕中国市场 引领大健康产业发展
11月5日至10日,第七届中国国际进口博览会(进博会)正在上海举行。152个国家、地区和国际组织,近3500家参展企业将与数十万名专业观众面对面交流
2024-11-11 14:19:00
天津北方网讯:AI高点机器人转动“眼睛”监控工地细节,自动喷淋装置依据环境数据适时降尘……这些正在“干活儿”的智能机器人
2024-11-11 14:25:00
兴义供电局:推广应用无人机巡检 提升电网“智”能水平
本文转自:人民网-贵州频道立冬以来,南方电网开启了电网“迎峰度冬”无人机巡检工作。推广应用无人机技术对黔西南布依族苗族自治州供电辖区内电力线路开展全方位
2024-11-11 14:34:00