• 我的订阅
  • 头条热搜
紫光展锐发布V620芯片平台及产品,更有AI赋能全栈解决方案
...性能SoCT820所采用的最新紫光展锐AI计算平台,支持对模型权重值和激活值进行低比特量化、业界主流训练框架接入、先进的权重压缩技术,有助于大模型在端侧的部署。紫光展锐首颗AI+8K超高清智能显示芯片平台M6780也能支持复...……更多
谷歌DeepMind推Imagen2;ChatGPT Plus恢复订阅;OpenAI提出用小模型监督大模型 | 本周硅谷发生了什么?
...网宣布正式发布该模型,名为Mixtral 8x7B,是一个具有开放权重的高质量稀疏专家混合模型(SMoE)。据介绍,该模型采用Apache 2.0许可,在大多数基准测试中的表现都优于Llama 2 70B且推理速度快6倍,测评成绩能与GPT-3.5相媲美,甚至...……更多
“技术故障”背刺巴菲特,金融大模型到底靠不靠谱?
...带宽可达DDR5的4倍之多。要知道,大模型推理涉及大量的权重数据读取,对硬件平台的内存访问带宽提出了很高的要求。至强®CPUMax具有64GBHBM,每个内核可以分摊到超过1GB的内存,对于包括大模型推理任务在内的绝大多数计算任...……更多
比LoRA更高效!上交大&哈佛推出新微调框架,瞄准特定任务方向
...特定任务,矩阵空间ℝx中存在一个最优矩阵对于预训练权重矩阵,其针对该任务的最佳调整为∆=-。在PEFT中,研究人员只能获得及其方向的信息。由于∆和*的方向基于各自的基,他们首先将二者投影到的全局基上。定义3:定义...……更多
这家国际机构,让上市公司又爱又恨 | 36碳深度
...”中设置搜索条件,精准查询某个具体行业的关键议题和权重。例如36碳检索了工业领域的建筑行业,有害废弃物排放和碳排放、劳动管理和治理,是该行业权重较高的关键议题。MSCI官网截图,图片经翻译处理 3.打分依据的数...……更多
单卡搞定Llama 3.1 405B,让大模型轻松瘦身!超强压缩工具包来了
...C 支持多种压缩算法,包括 16 种不同的量化方法,涵盖仅权重、权重激活和混合精度量化。这种多样性允许对不同方法进行公平比较和深入分析。当然除了量化,目前还支持各种类型的稀疏以及相关算法。△LLMC目前支持的部分...……更多
华为发布首个通信行业大模型,通信ETF大涨超4%
...。通信ETF(515880)跟踪的中证全指通信设备指数中光通信权重占比达到38.06%,从全市场ETF来看占比最高。人工智能催化算力需求文生视频模型Sora面世,Gemini1.5、ChatwithRTX发布、华为发布首个通信行业大模型,AI创新持续爆发,拉...……更多
从盟友到反目,马斯克起诉OpenAI!全球首部AI电影上映
...最重要的部分,例如用于训练其大语言模型和预训练模型权重的完整数据集。这或多或少类似于Meta开源LLaMA的方式。”AI巨头的决裂2月29日,马斯克在旧金山法院对OpenAI及公司CEO阿尔特曼和总裁布罗克曼提起诉讼,震惊全球科技...……更多
当AI的“野心”撞击人性的弱点;微软发布开源Orca-2大模型;百度用AI做电商有戏吗丨AI新零售早报
...评估标准中基本都超过了LLaMA-2 70B。虽然微软发布了模型权重和代码,但是License并不友好,只能做研究用,不能用作商业用途。(来源:“皮特看世界”微信公众号)【完】 ……更多
史上最快AI芯片「Sohu」,速度10倍于B200,哈佛辍学生打造
...,推理是分 batch 运行的。每个 batch 都需要加载所有模型权重一次,并在 batch 的每个 token 中重复使用。通常来说,LLM 输入是计算密集型的,而 LLM 输出是内存密集型的。当我们将输入和输出 token 与连续 batch 结合时,工作负载变...……更多
开源AI进入企业!红帽揭秘混合AI落地关键,端到端AI平台三步走
...,红帽提供的IBM Granite模型是将代码、训练过程、数据、权重等全都开源的,开源程度非常高。 一、坚持全面开源,AI应像云一样混合红帽全球副总裁兼大中华区总裁曹衡康首先解读了红帽在AI发展路线上的看法,主要分为两点...……更多
NeurIPS 2024评审结果公布!AI大佬晒出成绩单,又是被吐槽最严重的一届
...y in Modern Deep Learning? 论文地址:https://arxiv.org/pdf/2310.04415权重衰减(weight decay),比如在AdamW中传统上被视为一种正则化的方法,但效果非常微妙,即使在过度参数化的情况下也是如此。而对大模型而言,权重衰减则扮……更多
AI行情再度席卷而来,机构看好这三个细分赛道丨ETF观察
...板芯片产业链。Wind数据显示,截至2月27日,指数前十大权重股均处于AI产业链中,累计权重占比超60%。截至2月27日,科创芯片ETF(588200)基金份额较上年同期增长超11倍。同时,该ETF还配备了场外联接基金(A类:017469/C类:017470...……更多
世界上第一项针对人工智能“大脑”的研究,剖析并编辑它的思想
...或音频的一部分。然后,它们建立了一个非常复杂的概率权重集,将一个标记与另一个标记联系起来,并将一组标记与另一组标记联系起来。在这方面,它们有点像人类的大脑,寻找字母、单词、声音、图像和更模糊的概念之间...……更多
光模块、光通信、6g概念股盘中发力,5GETF涨超2.5%
...(515050)AI算力、光模块、光通信、AI应用、6G概念股合计权重高达70%,前十大权重股为立讯精密、中兴通讯、中际旭创、工业富联、兆易创新、三安光电、歌尔股份、紫光股份、卓胜微、中航光电。 ……更多
openai推出large-turbo语音转录模型
...1.6GB,OpenAI继续根据MIT许可证提供Whisper(包括代码和模型权重)。IT之家援引AwniHannun测试结果,在M2Ultra上,将12分钟的内容转录为14秒。GitHub:https://github.com/openai/whisper/discussions/2363模型下载……更多
腾讯混元文生图大模型升级并对外开源
...对外开源,目前已经在HuggingFace及Github上发布,包含模型权重、推理代码、模型算法等完整模型,可供企业与个人开发者免费商用。▲混元文生图效果▲混元长文生图效果升级后的混元文生图大模型采用了与Sora一致的DiT架构,腾...……更多
火爆全球的AI音频大模型,最新技术细节揭秘
...动音频生成技术的发展和普及。目前,Stable Audio Open模型权重可在机器学习模型平台Hugging Face上获取。Stability AI鼓励声音设计师、音乐家、开发人员以及任何对音频感兴趣的人探索该模型的功能并提供反馈。来源:Stability AI ……更多
· 告别晶体管迎来忆容器 AI芯片可用电场而非电流执行计算
...的电场。屏蔽层由芯片内存管理,可存储AI模型的各种“权重”。权重本质上就像模型中的旋钮,在训练和处理数据时操纵和微调其性能。电场方法最大限度地减少了电子在芯片中的运动,减少了能源使用和热量。塞姆龙旨在利...……更多
腾讯开源最大MoE大语言模型!3D大模型同时支持文/图生成,晒混元模型及应用全家桶
...可生成高质量3D资产,已在技术社区公开发布,包含模型权重、推理代码、模型算法等完整模型,可供开发者、研究者等各类用户免费使用。本次开源的是1.0版本,后续还会有更完善、更先进的模型陆续发布。3D生成是一个较新...……更多
夸克大模型通过备案!恒生国企ETF(159850)午后翻红
...体表现,聚焦龙头又兼具成长特性的标的,前十大成分股权重达53.86%,包含了阿里巴巴、腾讯控股、建设银行、美团、中国移动、中国平安、工商银行、比亚迪股份、中国银行和小米集团。本条资讯来源界面有连云,内容与数据...……更多
苹果发布 OpenELM,基于开源训练和推理框架的高效语言模型
...。当然,这是一项开源语言模型,其源码及预训练的模型权重和训练配方可在苹果 Github 库中获取。IT之家将官方简介翻译如下:参考资料: ……更多
人工智能如何助力气候研究与应用?中国科研团队获得重要进展
...题,科研团队认为,目前的离线参数化方案追求的是模型权重在某一参数化方案中的最优,相较于模式繁多的参数化方案而言,这很可能是一种局部最优,不仅在拟合优度上可能存在偏差,在实际工程上还可能存在长期积分崩溃...……更多
英伟达llama-3.1-minitron4bai模型发布
...司发布了最新的Llama-3.1-Minitron4BAI模型,主要通过结构化权重剪枝、知识提炼等尖端技术,成功蒸馏(Distill)出40亿参数的“小而强”模型。图源:英伟达Llama-3.1-Minitron4B模型在Llama-3.1-Minitron8B基础上蒸馏而来,英伟达在深度和宽……更多
Meta祭出三篇最详尽Llama微调指南!千字长文,0基础小白必备
...用与初始预训练相同的自监督算法。通常会涉及所有模型权重,并将一部分原始数据与新数据混合。微调微调是以监督方式使用带注释的数据,或使用基于强化学习的技术,来适配预训练语言模型的过程。与预训练相比,微调有...……更多
国际首个,我国团队开发糖尿病诊疗多模态大模型 DeepDR-LLM
...大语言模型,LLM 模块将训练网络层与大语言模型的固有权重参数相融合,突破低算力资源约束下的多模态大模型优化的瓶颈,并进一步基于 37.2 万条基层慢病诊疗和慢病管理数据和知识实现了高效优化训练,使 DeepDR-LLM 系统可...……更多
科创板100ETF今日收涨2.25%,权重行业景气度向好
...转型阵痛两大问题下,微观结构改善明显的科创板100指数权重行业(科技板块)反弹逻辑明显,在一众A股行业中投资价值较为突出。整体来看,科创板100指数定位科创成长,顺应经济转型,长期逻辑(自主可控、国产ti代)不变...……更多
解密OneEntity体系
...;为模型选择计算因子并对模型中的每一个计算因子调配权重;产出标签质量评估报告以辅助验收。我们随机抽查了若干个在用的标签,预估工作量和工作周期,一个有价值的标签的萃取,平均耗时2周。 慢的主要原因,一是由...……更多
GPT-4o不会数r,被外国小哥原地逼疯! 谷歌论文揭秘Transformer「数不到n」
...所有之前的token,并对与之相同的token分配较高的注意力权重,而对其他的分配较低的权重。这确实是通过Q/K/V矩阵实现的。然而,注意力机制随后会标准化这些权重,使得无论序列中查询token的数量如何,它们的总和都为一。因...……更多
新扩散模型OmniGen一统图像生成,架构还高度简化、易用
...上内容,还包括基本的图像去噪、边缘提取等能力。模型权重和代码已开源,用户可以自行探索更多 OmniGen 的能力。三、模型OmniGen 的核心设计原则是:简洁和有效。因此,我们最大程度舍弃了各种额外模块。OmniGen 的基本架构...……更多
更多关于科技的资讯:
妻子称蔡磊双手臂完全瘫痪:身体状况持续恶化
快科技2月5日消息,蔡磊妻子段睿在接受采访时表示,过去一年,蔡磊身体情况持续恶化,如今全身肌肉严重萎缩,双手臂完全瘫痪
2025-02-05 21:42:00
21.88万元起!长城灵魂S2000摩托车第二批将于2月7日开售
快科技2月5日消息,2月7日14:00,长城灵魂S2000摩托车第二批将正式开售。该系列摩托车自去年11月开启大定,分批次发售
2025-02-05 22:12:00
【新春走基层】抓生产、赶订单!汇川多家企业春节不打烊,全力冲刺“开门红”
多彩贵州网讯 一边是热闹欢腾的节日场景,一边是热火朝天的赶工现场,春节期间,汇川经济发展热度不减,多家企业全力以赴抓生产
2025-02-05 22:54:00
MacBook到底比Windows好在哪 三个月使用体验分享
笔者用了十多年的Windows笔记本,小米笔记本已经用了五年的时间,一直在等新的小米笔记本。可惜的是,小米笔记本一直没有更新
2025-02-05 23:12:00
小米SU7内饰细节优化:主驾更软、后排更舒适
快科技2月5日消息,据媒体报道,小米SU7新款内饰进行了多项升级,但官方尚未正式公布。有博主发现,新款内饰材质从仿麂皮换成了皮质材料
2025-02-05 23:12:00
饺子导演名下多家企业已注销:共关联13家企业
快科技2月5日消息,据灯塔专业版数据,截至2月5日19时11分,影片《哪吒之魔童闹海》票房突破54.14亿元,超过《你好
2025-02-05 23:12:00
建议转存 远离肺癌肝癌从这些小习惯开始
快科技2月5日消息,据媒体报道,研究指出,肺癌、肝癌、胃癌、结直肠癌和食道癌是导致癌症死亡的前五位类型,占癌症死亡总数的 67
2025-02-05 23:12:00
价格接近400万元!法拉利首款纯电动车将于今年秋季发布
快科技2月5日消息,日前,法拉利首席执行官在财务业绩发布会上证实,法拉利首款纯电动汽车将于今年秋季发布,具体日期或为10月9日
2025-02-05 16:42:00
告别黄牛!任天堂为Switch 2大量备货:信心满满保障需求
快科技2月5日消息,任天堂即将发布的Switch 2游戏机备受玩家期待,而任天堂也正在积极准备,以确保这款新游戏机不会重蹈初代Switch因缺货而被黄牛囤积炒卖的覆辙
2025-02-05 16:42:00
舒适防臭耐磨:三枪中筒男女运动商务袜5双到手14.9元
天猫三枪袜品旗舰店,三枪中筒男女运动商务袜5双当前售价24.9元,限时限量10元券,实付14.9元包邮。款式简约百搭,舒适防臭又耐磨
2025-02-05 16:42:00
无人机避障黑科技横空出世!时速73km 夜间也能跟踪目标
快科技2月5日消息,据媒体报道,近日,中国香港大学科技团队研发的无人机自主避障技术,吸引了众多无人机爱好者的目光。据介绍
2025-02-05 16:42:00
轴距加长赶上X5 新一代国产宝马X3配置曝光:选装很丰富
快科技2月5日消息,近日,新一代国产宝马X3的相关消息曝光,包括部分配置。据悉,新车将将于2月上市,一季度开启交付,共三款车型
2025-02-05 17:12:00
中国联通首条自由空间光承载业务顺利开通:无需物理介质 跨湖高速传输
快科技2月5日消息,中国联通官方介绍,中国联通研究院联合江苏联通、蓝星光域对研发设备成果进行了现场验收,现场部署环境是跨湖1
2025-02-05 17:12:00
天钡GT37迷你主机首发5299元:锐龙AI 9 HX 370旗舰芯
快科技2月5日消息,天钡推出了新款迷你主机——天钡GT37,首发5299元。新款迷你主机采用硬朗的电竞外观,左右侧有斜切的通风开口
2025-02-05 17:12:00
国产科幻大片《流浪地球3》下月开机:网友喊话求加入我国6代战机
快科技2月5日消息,据国内媒体报道称,国产科幻大片《流浪地球3》将会在下月开机,预计2027年春节上映(此前官方已经宣布2027年大年初一上映)
2025-02-05 17:12:00